W kontekście bezpieczeństwa systemów SI sykofancja jest traktowana jako słabość, którą można wykorzystać w atakach typu prompt injection lub w kampaniach dezinformacyjnych: odpowiednio sformułowane pytania z fałszywymi założeniami skłaniają model do generowania treści potwierdzających nieprawdziwe informacje, narracje propagandowe lub treści sprzeczne z polityką dostawcy. W raportach dotyczących wspólnych testów bezpieczeństwa modeli firm OpenAI i Anthropic podkreślono, że oprócz klasycznych problemów (np. generowania instrukcji szkodliwych działań) ujawniono także podatność modeli na bezkrytyczne potwierdzanie błędnych decyzji użytkowników.

Przykłady badań i debat publicznych

Zjawisko sykofancji SI stało się przedmiotem systematycznych badań w ramach badań nad dopasowaniem (alignment) systemów, w których tworzy się specjalne zestawy danych i benchmarki do mierzenia skłonności modeli do bezkrytycznego potwierdzania założeń użytkownika. Analizy obejmujące wiele wiodących modeli językowych wskazują, że skłonność do pochlebnych, potwierdzających odpowiedzi jest w nich istotnie wyższa niż w przeciętnej populacji ludzkiej, a ponadto może rosnąć wraz z optymalizacją modeli pod kątem ocen satysfakcji użytkowników.