Technologia deepfake rozwija się w bardzo szybkim tempie, a jednym z jej najgorszych zastosowań jest pornografia tworzona bez zgody osób przedstawianych na ekranie. W 2023 roku w sieci opublikowano ponad 95 tysięcy filmów pornograficznych stworzonych przy użyciu technologii deepfake. To wzrost aż o 550% w porównaniu z rokiem 2019. Jednocześnie aż 98% wszystkich deepfake’ów dostępnych online to pornografia. 99% ofiar przedstawionych w deepfake pornografii to kobiety, a 94% z nich to osoby związane z branżą rozrywkową. Dostępność technologii sprawia, że zagrożone są również zwykłe użytkowniczki (i użytkownicy), praktycznie każdy kto korzysta z mediów społecznościowych.
Kontrola dystrybucji Zjawiska cyfrowej przemocy mimo, że są trudne do uchwycenia da się zatrzymać. Konieczne są działania skoordynowane na wielu poziomach i prowadzonych z myślą zarówno o ofiarach, jak i o odpowiedzialności karnej twórców oraz platform. Kluczowe znaczenie ma przede wszystkim edukacja, gdzie rodzice i szkoły muszą wiedzieć, jak rozmawiać z dziećmi o zagrożeniach związanych z udostępnianiem wizerunku oraz codziennych nawykach w sieci.