Deepfake-urile (un cuvânt telescopat pentru și ) sunt imagini, videoclipuri sau materiale audio care au fost editate sau generate cu ajutorul inteligenței artificiale, al instrumentelor bazate pe IA sau al software-ului de editare audio-video. Acestea pot înfățișa persoane reale sau fictive și sunt considerate o formă de conținut media sintetic, adică un tip de conținut creat, de regulă, de sisteme de inteligență artificială prin combinarea unor elemente media diverse într-un nou produs media.
Deși crearea de conținut fals nu este un fenomen nou, tehnologia deepfake valorifică într-un mod specific tehnici de învățare automată și inteligență artificială, inclusiv algoritmi de recunoaștere facială și rețele neuronale artificiale, precum autoencoderele variaționale și rețelele generative adversariale (GAN-uri). În acest context, domeniul criminalisticii digitale aplicate imaginilor s-a concentrat pe dezvoltarea unor tehnici de detectare a imaginilor manipulate. Tehnologia deepfake a atras o atenție considerabilă din cauza potențialului său de a fi utilizată la crearea de materiale care implică abuzul sexual asupra copiilor, videoclipuri pornografice cu celebrități, materiale pornografice de răzbunare („revenge porn”), știri false, farse, hărțuire și fraude financiare.
Mediul academic și-a exprimat îngrijorarea cu privire la riscul ca tehnologia deepfake să fie utilizată pentru a promova dezinformarea și discursul instigator la ură, precum și pentru a interfera cu procesele electorale. Ca răspuns, industria tehnologiei informației și guvernele au propus recomandări și metode pentru detectarea și limitarea utilizării acestora. De asemenea, cercetările academice au aprofundat analiza factorilor care stimulează interacțiunea cu conținutul deepfake în mediul online, precum și a posibilelor contramăsuri împotriva utilizării malițioase a acestei tehnologii.
De la divertismentul tradițional la jocuri video, tehnologia deepfake a evoluat, devenind tot mai convingătoare și accesibilă publicului, ceea ce a permis perturbarea industriilor de divertisment și media.
Istorie Manipularea fotografică a apărut în secolul al XIX-lea și a fost aplicată rapid în cinematografie. Tehnologia a evoluat constant pe parcursul secolului al XX-lea, iar progresul s-a accelerat odată cu apariția formatului video digital.
Tehnologia deepfake a fost dezvoltată de cercetători din cadrul instituțiilor academice începând cu anii '90, iar ulterior de amatori din comunitățile online. Mai recent, aceste metode au fost adoptate de industrie.
Dezvoltarea rețelelor generative adversariale (GAN) la jumătatea anilor 2010 a reprezentat un punct de cotitură tehnic esențial în evoluția deepfake-urilor. Rețelele GAN au permis crearea unor imagini și videoclipuri false extrem de realiste prin antrenarea unor rețele neuronale concurente, obținând o fidelitate vizuală mult superioară metodelor anterioare de generare a conținutului bazate pe reguli sau pe utilizarea autoencoderelor, și au pus bazele metodelor moderne de realizare a deepfake-urilor.
Cercetări academice Cercetarea academică privind deepfake-urile este împărțită între domeniul viziunii computerizate (o subramură a informaticii), care dezvoltă tehnici de creare și identificare a acestora, și abordările din științele umaniste și sociale, care studiază implicațiile sociale, etice, estetice, precum și pe cele jurnalistice și informaționale ale deepfake-urilor. Pe măsură ce deepfake-urile au devenit tot mai sofisticate și mai răspândite, grație inovațiilor aduse de instrumentele bazate pe inteligența artificială, s-au depus eforturi semnificative de cercetare pentru dezvoltarea unor metode de detectare și pentru identificarea factorilor care stimulează interacțiunea utilizatorilor cu acest tip de conținut pe internet. S-a constatat că deepfake-urile apar pe platformele de socializare și în alte spații online din diverse motive, inclusiv pentru divertisment, în scopuri educative legate de această tehnologie sau pentru dezinformare menită să provoace reacții puternice. Există lacune în cercetarea privind propagarea deepfake-urilor pe rețelele de socializare. Caracterul negativ și reacțiile emoționale sunt principalii factori care îi determină pe utilizatori să distribuie deepfake-uri.
Știința socială și abordările umane asupra deepfake-urilor În studiile de film, tehnologia deepfake ilustrează modul în care „chipul uman devine un obiect central al ambivalenței în era digitală”. Artiștii video au utilizat deepfake-urile pentru a „rescrie în mod ludic istoria cinematografiei, reinserând noi vedete în filme canonice”. Specialistul în studii cinematografice Christopher Holliday analizează modul în care modificarea genului și a rasei actorilor din scene de film familiare destabilizează clasificările și categoriile de gen. Conceptul de „queering” (subminare a normelor de gen) în contextul deepfake-urilor este, de asemenea, abordat de Oliver M. Gingrich în discuția sa despre lucrări de artă media care utilizează această tehnologie pentru a redefini genul, inclusiv lucrarea artistului britanic Jake Elwes, Zizi: Queering the Dataset, care folosește deepfake-uri cu drag queens pentru a se juca în mod deliberat cu noțiunile de gen. Totodată, încep să fie explorate și potențialele estetice ale deepfake-urilor. Istoricul de teatru John Fletcher observă că primele demonstrații de deepfake sunt prezentate sub formă de spectacole și le plasează în contextul teatral, discutând despre „unele dintre schimbările de paradigmă mai tulburătoare” pe care deepfake-urile le reprezintă ca gen de spectacol.
În timp ce majoritatea studiilor academice în limba engleză despre deepfake-uri se concentrează pe îngrijorările occidentale legate de dezinformare și pornografie, antropologul digital Gabriele de Seta a analizat modul în care acestea sunt percepute în China, unde sunt cunoscute sub numele de huanlian, termen care înseamnă „schimbarea fețelor”. Termenul chinezesc nu conține elementul „fake” (fals) prezent în denumirea engleză, iar de Seta susține că acest context cultural ar putea explica de ce reacția Chinei s-a concentrat pe măsuri de reglementare practice vizând „riscurile de fraudă, drepturile asupra imaginii, profitul economic și dezechilibrele etice”.
Cercetările științifce computaționale asupra deepfake-urlor Un proiect de referință din perioada incipientă a fost programul „Video Rewrite”, lansat în 1997. Acesta modifica înregistrări video existente cu o persoană care vorbea, astfel încât mișcările buzelor acesteia să corespundă cuvintelor dintr-o altă pistă audio. A fost primul sistem care a automatizat complet acest tip de reanimare facială, utilizând tehnici de învățare automată pentru a stabili legături între sunetele produse de subiectul înregistrării și forma feței acestuia.
Proiectele academice recente s-au concentrat pe crearea unor videoclipuri mai realiste și pe îmbunătățirea tehnicilor de tip „deepfake”. Programul „Synthesizing Obama”, lansat în 2017, modifică înregistrările video cu fostul președinte Barack Obama pentru a-l prezenta rostind cuvintele dintr-o pistă audio separată. Proiectul indică drept contribuție principală de cercetare tehnica sa fotorealistă de sintetizare a mișcărilor gurii pe baza semnalului audio. Programul „Face2Face”, lansat în 2016, modifică imaginile video cu chipul unei persoane pentru a reda mimarea expresiilor faciale ale unei alte persoane. Proiectul evidențiază, ca principală contribuție de cercetare, dezvoltarea primei metode de reproducere a expresiilor faciale în timp real folosind o cameră care nu captează informații de profunzime, permițând astfel utilizarea tehnicii cu camerele video obișnuite, destinate consumatorilor.
Cercetătorii au demonstrat, de asemenea, că tehnologia deepfake se extinde și în alte domenii, precum cel al imagisticii medicale. În cadrul acestui studiu, s-a arătat cum un atacator poate introduce sau elimina automat semnele cancerului pulmonar dintr-o scanare CT 3D a unui pacient. Rezultatul a fost atât de convingător, încât a indus în eroare trei radiologi și un sistem de inteligență artificială de ultimă generație destinat detectării cancerului pulmonar. Pentru a demonstra existența acestei amenințări, autorii au executat cu succes atacul asupra unui spital, în cadrul unui test de penetrare de tip „white hat”.
Un studiu privind deepfake-urile, publicat în mai 2020, prezintă o cronologie a evoluției proceselor de creare și detectare a acestora în ultimii ani. Studiul evidențiază faptul că cercetătorii s-au concentrat pe soluționarea următoarelor provocări legate de crearea deepfake-urilor:
Generalizare. Deepfake-urile de înaltă calitate sunt adesea obținute prin antrenarea pe baza unor înregistrări video de lungă durată cu subiectul vizat. Provocarea constă în minimizarea volumului de date de antrenament și a timpului necesar pentru antrenarea modelului în vederea generării unor imagini de calitate, precum și în asigurarea posibilității de a utiliza modelele antrenate pentru noi identități (care nu au fost întâlnite în timpul antrenamentului). Antrenare pe perechi de date. Antrenarea unui model prin învățare supervizată poate genera rezultate de înaltă calitate, însă necesită asocierea datelor în perechi. Acest proces presupune identificarea unor exemple de date de intrare și a ieșirilor corespunzătoare dorite, pe baza cărora modelul să învețe. Asocierea datelor în perechi este laborioasă și nepractică atunci când antrenarea vizează multiple identități și expresii faciale. Printre soluțiile existente se numără antrenarea autosupervizată (utilizarea cadrelor din același videoclip), utilizarea rețelelor care nu necesită perechi de date – precum Cycle-GAN – sau manipularea reprezentărilor interne (embeddings) ale rețelei. Scurgerea identității. Aceasta apare atunci când identitatea „driverului” (adică a actorului care controlează expresiile faciale în procesul de re-enactment) este transferată parțial asupra feței generate. Printre soluțiile propuse se numără mecanismele de atenție, învățarea de tip „few-shot”, separarea caracteristicilor (disentanglement), conversiile la nivel de contur și conexiunile de tip „skip” (skip connections). Ocluzii. Atunci când o parte a feței este acoperită de o mână, păr, ochelari sau orice alt obiect, pot apărea artefacte. O ocluzie frecventă este gura închisă, care ascunde interiorul gurii și dinții. Printre soluții se numără segmentarea imaginii în timpul antrenării și tehnica de „in-painting” (completare a zonelor lipsă). Coerență temporală. În videoclipurile care conțin deepfake-uri pot apărea artefacte precum pâlpâirea și tremurul imaginii, deoarece rețeaua nu dispune de contextul cadrelor anterioare. Unii cercetători oferă acest context sau utilizează funcții de pierdere inovatoare bazate pe coerența temporală pentru a îmbunătăți realismul. Pe măsură ce tehnologia evoluează, aceste perturbări se diminuează.
În ansamblu, se preconizează că tehnologia deepfake va avea diverse implicații în domeniile mass-mediei și societății, producției și reprezentărilor mediatice, publicului, genului, legislației și reglementării, precum și politicii.
Dezvoltare amatoricească Termenul „deepfake” a apărut la sfârșitul anului 2017, fiind creat de un utilizator Reddit pe nume „deepfakes”. Acesta, alături de alți membri ai comunității Reddit „r/deepfakes”, a distribuit materiale de tip deepfake create de ei; multe dintre videoclipuri implicau suprapunerea fețelor unor celebrități peste corpurile actorilor din filme pornografice, în timp ce conținutul non-pornografic includea numeroase videoclipuri în care chipul actorului Nicolas Cage era inserat în diverse filme.