Bezpieczeństwo sztucznej inteligencji – interdyscyplinarna dziedzina skupiająca się na zapobieganiu wypadkom, niewłaściwemu użyciu i innym szkodliwym konsekwencjom wynikającym z działania aplikacji sztucznej inteligencji. Obejmuje to etykę maszyn i ich zgodność, a także monitorowanie systemów sztucznej inteligencji pod kątem ryzyka i zwiększanie ich niezawodności. Obszar ten zajmuje się w szczególności zagrożeniami egzystencjalnymi, jakie niosą ze sobą zaawansowane modele sztucznej inteligencji.

Motywacje Naukowcy omawiają obecne zagrożenia wynikające z awarii systemów krytycznych, stronniczości, i nadzoru wspomaganego sztuczną inteligencją, a także pojawiające się zagrożenia, takie jak bezrobocie technologiczne, manipulacja cyfrowa, uzbrojenie sztucznej inteligencji, cyberataki wspomagane sztuczną inteligencją i bioterroryzm. Analizowane są także potencjalne ryzyka wynikające z utraty kontroli nad ogólną sztuczną inteligencji lub wynikające z możliwości tworzenia przez sztuczną inteligencję totalitaryzmów.

Cel badań Obszary badań nad bezpieczeństwem sztucznej inteligencji obejmują solidność, monitorowanie i dostosowanie.

Odporność