Badania Sadasivana i współpracowników z 2023 roku wykazały, że ataki parafrazujące istotnie obniżają skuteczność zarówno znaków wodnych, jak i detektorów treści AI.
Skuteczność znakowania maleje też w tekstach krótkich oraz o niskiej entropii, w których model ma niewielki wybór słów – na przykład w odpowiedziach faktograficznych lub w kodzie źródłowym, gdzie wymagana jest dokładność. Znak wodny nie rozstrzyga ponadto kwestii autorstwa: tekst napisany przez człowieka, a jedynie zredagowany przez model, również zostanie oznaczony, dlatego wykrycie znaku jest tylko sygnałem, że treść mogła zostać przetworzona przez dany model. System działa wreszcie tylko wtedy, gdy dostawca modelu go stosuje – nie pozwala wykryć treści z modeli nieznakowanych, w tym wielu modeli otwartych.
Regulacje prawne W Unii Europejskiej art. 50 aktu w sprawie sztucznej inteligencji zobowiązuje dostawców systemów generatywnej AI do oznaczania wyników w formacie nadającym się do odczytu maszynowego i wykrywalnym jako wygenerowane sztucznie;