mały|Klip wideo wygenerowany przez narzędzie Sora wiaduktu Glenfinnan. Klip pokazuje dwa tory (wiadukt posiada 1 tor), dwa kominy na lokomotywie i niektóre wagony są o wiele dłuższe od innych. Halucynacja, sztuczna halucynacja – odpowiedź generowana przez sztuczną inteligencję, która zawiera fałszywe lub wprowadzające w błąd informacje przedstawione jako fakty. Halucynacje często bywają statystycznie prawdopodobne i zazwyczaj powstają w wyniku negatywnej oceny braku odpowiedzi w trakcie uczenia modelu.
Termin ten nawiązuje do psychologii człowieka, gdzie halucynacje zazwyczaj wiążą się z fałszywymi spostrzeżeniami. Istnieje jednak zasadnicza różnica między sztucznymi halucynacjami a halucynacjami w sensie medycznym. W przypadku sztucznej inteligencji halucynacje wiążą się z błędnie skonstruowanymi odpowiedziami, a nie doświadczeniami percepcyjnymi.
Chatboty oparte na dużych modelach językowych, takie jak ChatGPT, często mogą umieszczać w generowanej treści brzmiące wiarygodnie halucynacje. Szacuje się, że w 2023 r. chatboty halucynowały nawet w 27% przypadków, a błędy rzeczowe występowały w 46% generowanych tekstów.
Halucynacje dzielą się na takie, które są sprzeczne z pytaniem (promptem) użytkownika (intrinsic) oraz sprzeczne z danymi treningowymi (extrinsic).