Z badań wynika również, że LLM potrafią przejawiać stygmatyzujące postawy lub w nieodpowiedni sposób potwierdzać dezadaptacyjne myśli, co podkreśla ograniczenia tych systemów w zakresie osądu i kompetencji relacyjnych. Oceny scenariuszy kryzysowych ujawniają ponadto, że w modelach może brakować skutecznych mechanizmów bezpieczeństwa, takich jak ocena ryzyka samobójstwa czy kierowanie użytkowników do odpowiednich form pomocy.

W tym kontekście, w 2025 roku podkreślano o 50% wyższy poziom sykofancji niż w przypadku ludzi, czyli skłonności dużych modeli językowych do przytakiwania użytkownikowi i potwierdzania jego opinii, nawet jeśli są one błędne, niebezpieczne lub irracjonalne. W obszarze zdrowia psychicznego, LLMy mogą powodować psychozę u osób podatnych. Problem był szczególnie widoczny w modelu GPT 4o, co zostało szybko poprawione i również naprawione w modelu GPT-5, gdzie liczba udzielania nadmierne pochlebnych lub ugodowych odpowiedzi spadła z 14,5% w poprzedniej wersji do mniej niż 6%.

Zobacz też benchmark modelu językowego mały model językowy model fundamentalny model rozumujący osadzanie słów postęp w sztucznej inteligencji

Przypisy

Linki zewnętrzne

Kategoria:Przetwarzanie języka naturalnego