mini|320px|Primjer halucinacije u generativnoj umjetnoj inteligenciji: rani video-model Sora pogrešno je prikazao vijadukt Glenfinnan s drugim kolosijekom i drugim netačnim detaljima. Halucinacija u okvirima umjetne inteligencije jest odgovor koji generira umjetna inteligencija i koji sadrži netačne ili obmanjujuće informacije predstavljene kao činjenice. Izraz se analogno naslanja na halucinaciju u ljudskoj psihologiji, ali se u kontekstu AI-ja odnosi na pogrešno konstruisan sadržaj, a ne na perceptivno iskustvo. Pojava je naročito povezana s chatbotovima i velikim jezičkim modelima, kod kojih sistem može proizvesti uvjerljivo sročene, ali izmišljene tvrdnje, reference ili objašnjenja.

Greške i halucinacije predstavljaju važno pitanje za praktičnu upotrebu AI-sistema u područjima visokog rizika, kao što su medicinska dijagnostika, logistika i projektiranje čipova. Istovremeno, sam izraz predmet je rasprave, jer ga dio istraživača smatra previše antropomorfnim i nedovoljno preciznim.

Termin Porijeklo Izraz hallucination u računarstvu se koristi od 1980-ih, kada je u računarskom vidu imao uglavnom pozitivnu konotaciju i označavao dodavanje detalja slici, kao u zadacima povećanja rezolucije lica. Tokom 2000-ih izraz se počeo koristiti i za neuspjehe u mašinskom prevođenju, da bi od 2010-ih sve češće označavao generiranje činjenično pogrešnih ili obmanjujućih izlaza u sistemima umjetne inteligencije.

Širu javnu prepoznatljivost izraz je stekao s naglim širenjem chatbotova zasnovanih na velikim jezičkim modelima. Kompanija Meta je 2021. prilikom predstavljanja sistema BlenderBot 2 upozorila da je sistem sklon „halucinacijama“, koje je opisala kao samouvjerene, ali netačne tvrdnje. Nakon javnog izlaska ChatGPT-ja krajem 2022. izraz je postao uobičajen i u medijskom izvještavanju.

Definicije i alternative U oblasti generiranja prirodnog jezika halucinacija se često definira kao sadržaj koji izgleda činjenično, ali nije utemeljen u izvoru ili dostupnim dokazima. U literaturi se pojavljuju i alternativni izrazi, poput konfabulacije, fabriciranja i činjenične greške. Pojedini autori razlikuju: unutrašnje halucinacije, kada izlaz proturječi izvoru; vanjske halucinacije, kada se tvrdnja ne može potvrditi na osnovu izvora; zatvoreno-domenske, kada izlaz proturječi samom upitu; otvoreno-domenske, kada izlaz ne proturječi upitu, ali nije provjerljivo utemeljen.

Kritika Dio naučne zajednice izbjegava izraz halucinacija zato što može sugerirati da modeli posjeduju svijest, namjeru ili razumijevanje slično ljudskom. Kritike su, između ostalih, iznijeli Usama Fayyad, Mary Shaw i Gary N. Smith, koji tvrde da takav rječnik prikriva činjenicu da je riječ o običnim računarskim greškama ili statistički proizvedenim netačnostima.

U generiranju prirodnog jezika mini|320px|Primjer netačnog i nadrealnog izlaza u višekoračnom prevođenju pomoću jezičkog modela.

U generiranju prirodnog jezika halucinacija označava izlaz koji djeluje uvjerljivo, ali nije zasnovan na izvoru, kontekstu ili provjerljivim činjenicama. Takve pojave su naročito česte kod velikih jezičkih modela, koji svaku narednu riječ predviđaju na osnovu statističke vjerovatnoće, a ne na osnovu pouzdanog razumijevanja istinitosti iskaza.

Uzroci Halucinacije mogu nastati zbog nepotpunih, netačnih ili nereprezentativnih skupova podataka, kao i zbog razmimoilaženja između izvora i ciljnih odgovora u podacima za treniranje. Dodatni uzrok leži u samoj arhitekturi modela: u fazi predtreniranja sistem je nagrađen za pogađanje naredne riječi, pa je često sklon „odgovoriti nečim“ čak i kada nema dovoljno informacija. Kako odgovor raste, svaka prethodno generirana netačnost može poslužiti kao osnova za naredne, što dovodi do lanca ili kaskade halucinacija.

Primjeri Jedan od ranih široko zapaženih primjera bio je model Galactica, koji je u novembru 2022. objavila Meta. Sistem je generirao tekstove sa stvarnim stilskim obilježjima naučnih radova, ali je u nekim slučajevima navodio izmišljene radove i pogrešne bibliografske podatke, nakon čega je povučen iz javne upotrebe.

ChatGPT je također više puta dokumentirano davao uvjerljive, ali netačne odgovore, uključujući izmišljene citate, pogrešne biografske podatke i pseudonaučna objašnjenja. Godine 2023. posebnu pažnju izazvao je slučaj Mata v. Avianca, Inc., u kojem je advokat predao sudu podnesak sa šest izmišljenih sudskih presedana koje je generirao ChatGPT.

U drugim modalitetima mini|320px|Pojednostavljen prikaz lažno pozitivnog prepoznavanja objekta.

Pojam halucinacije nije ograničen na tekst. U širem smislu, svaka samouvjerena, ali pogrešna AI-predikcija u odnosu na podatke za učenje može se opisati kao halucinacija.

Prepoznavanje objekata U prepoznavanju objekata halucinacije se mogu javiti kao lažno pozitivna prepoznavanja, naročito pod utjecajem adverzarnih napada ili nedovoljno reprezentativnih podataka za treniranje. U literaturi su opisani primjeri u kojima sistem pogrešno klasificira znak stop, audio-snimak ili sliku skijaša kao nepovezan objekat, poput psa.

Generativni audio i slike Modeli za generiranje zvuka i govora također mogu davati neočekivane i netačne rezultate. Kod modela za generiranje slika, kao što su Stabilna difuzija i Midjourney, halucinacije se javljaju u vidu netačnih historijskih, anatomskih ili kontekstualnih detalja. Godine 2024. model Gemini izazvao je polemike nakon što je prikazivao nacističke vojnike kao osobe različitih rasa, nakon čega je Google privremeno obustavio generiranje slika ljudi u tom sistemu.

U naučnim istraživanjima Problemi AI-halucinacije predstavljaju poseban problem u akademskom pisanju jer modeli mogu izmišljati izvore, DOI-jeve, autore ili sadržaj stvarnih radova. Istraživanje objavljeno 2023. pokazalo je da je među 178 referenci koje je proizveo GPT-3 čak 69 imalo netačan ili nepostojeći DOI, dok dodatnih 28 nije bilo moguće pronaći ni u internetskoj pretrazi.

Jerome Goddard je u biomedicinskom kontekstu dokumentirao slučaj u kojem je ChatGPT dao sumnjive informacije o krpeljima, a naknadnom provjerom utvrđeno je da su DOI i imena autora bili halucinirani. Dodatni problem predstavlja to što generirani naučni sažeci ponekad prolaze kao originalni i ljudskim recenzentima i softverima za detekciju AI-teksta.

Koristi U nekim naučnim područjima halucinacije se ne posmatraju isključivo kao kvar, nego i kao heuristički alat za stvaranje novih hipoteza i dizajna. Laboratorija Davida Bakera na Univerzitetu Washington koristila je AI-sisteme za dizajniranje velikog broja novih proteina koji ne postoje u prirodi, što je povezano s patentima i biotehnološkim kompanijama nastalim iz tog rada. Na Caltechu su slični pristupi korišteni pri projektiranju katetera s manjim rizikom od bakterijske kontaminacije, dok su druge istraživačke grupe takve tehnike primjenjivale u meteorologiji, medicinskom snimanju i navigaciji robota.

Posljedice u obrazovanju Halucinacije umjetne inteligencije utiču i na obrazovanje, posebno zbog širenja upotrebe alata kao što su ChatGPT i Grammarly pri pisanju seminarskih, istraživačkih i drugih studentskih radova. Zabrinutost se odnosi i na akademski integritet i na mogućnost da studenti usvoje netačne informacije koje su modeli predstavili kao tačne.

Istraživanje sa Univerziteta Mississippi iz 2024. utvrdilo je da je 47% citata koje su studenti predavali uz pomoć generativne AI imalo netačne naslove, datume, autore ili kombinaciju tih grešaka. Dodatni problem predstavlja nepouzdanost alata za detekciju AI-teksta: pojedini sistemi mogu pogrešno označiti i radove koji nisu nastali uz pomoć AI-ja, a OpenAI je obustavio vlastiti klasifikator zbog nedovoljne tačnosti.

Metode ublažavanja Istraživanja pokazuju da halucinacije još nisu potpuno objašnjene, a neki autori ih smatraju urođenim ograničenjem velikih jezičkih modela. Ipak, razvijen je niz pristupa za njihovo smanjenje. Ji i saradnici dijele ih na metode povezane s podacima i metode povezane s modeliranjem i izvođenjem zaključaka. U prvu grupu spadaju izgradnja pouzdanijih skupova podataka, čišćenje podataka i dopunjavanje ulaza vanjskim izvorima, dok druga obuhvata izmjene arhitekture modela, načina treniranja, potkrepljivog učenja i naknadne obrade izlaza.

Među predloženim rješenjima nalaze se i međusobna provjera više modela, neurosimboličke arhitekture, validacija odgovora pomoću web-pretrage, procjena nesigurnosti modela te specijalizirani alati za otkrivanje halucinacija, kao što su SelfCheckGPT i srodni sistemi za nadzor kvaliteta odgovora. Takvi pristupi mogu poboljšati pouzdanost, ali često povećavaju troškove računanja i usporavaju odgovor sistema.

Također pogledaj Obrada prirodnog jezika Turingov test

Reference

Kategorija:Umjetna inteligencija Kategorija:Obrada prirodnog jezika Kategorija:Mašinsko učenje Kategorija:Generativna umjetna inteligencija