Nowsze analizy dotyczące nadzoru człowieka nad systemami AI wskazują, że skuteczny nadzór wymaga nie tylko formalnej możliwości ingerencji, lecz także warunków pozwalających wiarygodnie wykrywać nieścisłości, błędy i stronniczość wyników. Podkreśla się też, że sama informacja o obecności człowieka w pętli może zwiększać zaufanie użytkowników, nawet jeśli realna skuteczność nadzoru pozostaje ograniczona.
W literaturze zwracano także uwagę, że samo „wstawienie człowieka” do procesu może być niewystarczające, jeśli projekt systemu i organizacja pracy nie zapewniają użytkownikowi informacji i czasu niezbędnych do świadomej oceny działania systemu oraz realnej możliwości ingerencji w krytycznych momentach.
Zobacz też System wspomagania decyzji Uczenie maszynowe Broń autonomiczna
Przypisy
Kategoria:Sztuczna inteligencja Kategoria:Uczenie maszynowe