próbą maskowania strategicznych oszustw oraz rozbieżności w celach ludzi z celami SI.
Zgodność sztucznej inteligencji jest poddziedziną bezpieczeństwa sztucznej inteligencji, czyli nauki o tym, jak budować bezpieczne systemy sztucznej inteligencji. Inne poddziedziny bezpieczeństwa sztucznej inteligencji obejmują solidność, monitorowanie i kontrolę możliwości. Wyzwania badawcze w zakresie dostosowania obejmują wstrzykiwanie złożonych wartości w sztuczną inteligencję, rozwijanie uczciwej sztucznej inteligencji, skalowalny nadzór, audyt i interpretację modeli sztucznej inteligencji oraz zapobieganie pojawiającym się zachowaniom sztucznej inteligencji, takim jak dążenie do władzy. Badania nad dopasowaniem są powiązane z badaniami nad wyjaśnialnością, wykrywaniem anomalii, weryfikacją formalną, teorią gier i naukami społecznymi.
Zobacz też efekt Waluigiego etyka robotów
Przypisy
Kategoria:Sztuczna inteligencja Kategoria:Cybernetyka Kategoria:Filozofia sztucznej inteligencji