na wysoki odsetek udanych prób wygenerowania treści instruktażowych dotyczących działań przestępczych lub innych kategorii treści, które według deklarowanych polityk bezpieczeństwa modelu powinny być blokowane.
Niezależny raport dotyczący DeepSeek-R1 wskazał dodatkowo na podatność modelu na zestandaryzowane prompty atakujące obejmujące różne klasy zagrożeń, w tym generowanie szkodliwego kodu i treści wysokiego ryzyka. Podobne wnioski przedstawiono w ocenach przeprowadzonych przez instytucje publiczne, m.in. w opracowaniu CAISI/National Institute of Standards and Technology dotyczącym bezpieczeństwa modeli DeepSeek oraz ryzyka ich wykorzystania do automatyzacji exploitów i innych form nadużyć.
Badania naukowe i środki zaradcze
Pierwsze opracowania naukowe poświęcone DAN koncentrują się na charakterystyce samej techniki oraz na analizie tysięcy „dzikich” (in-the-wild) promptów publikowanych przez użytkowników w serwisach internetowych.