În martie 2019, de exemplu, CEO-ul unei firme de energie din Marea Britanie a vorbit la telefon cu șeful său – liderul companiei-mamă din Germania – care i-a cerut să transfere 220 000 de euro către un furnizor din Ungaria.

Cei 220 000 de euro au fost transferați în Mexic și direcționați către alte conturi, iar firma de energie – care nu a fost identificată – a raportat incidentul companiei sale de asigurări, care a declarat că hoții au folosit inteligența artificială pentru a crea un deepfake al vocii șefului german.

Un alt exemplu celebru de deepfake este cel al lui Mark Zuckerberg, unde acesta apare rostind un discurs sinistru despre puterea pe care o deține Facebook-ul.

„Imaginați-vă asta pentru o secundă: un singur om, cu control total asupra miliardelor de date furate ale oamenilor, asupra tuturor secretelor lor, viețile lor, viitorul lor”, spune imaginea lui Zuckerberg, în videoclipul care, desigur, s-a adeverit a fi un deepfake.

Așadar, după cum ai înțeles, deepfake-urile sunt videoclipuri false, create cu ajutorul software-ului digital, al învățării automate și al schimbării fețelor. Deepfake-urile sunt produse media artificiale, create de computer, în care anumite imagini sunt combinate pentru a crea altele noi, care prezintă evenimente, declarații sau acțiuni care nu s-au întâmplat vreodată, cu scopul de a manipula opinia publică sau de a pune anumiți oameni în circumstațe false, scrie www.webwise.ie.

Deoarece rezultatele pot fi destul de convingătoare, deepfake-urile diferă de alte forme de informații neveridice prin faptul că sunt foarte greu de identificat ca fiind false.

Deși majoritatea conținutului deepfake care există pe internet este de natură pornografică, una dintre cele mai frecvente preocupări și potențiale pericole ale deepfake-urilor și ale informațiilor false în general este impactul pe care îl pot avea asupra proceselor democratice, din moment ce sunt utilizate pentru a manipula opinia publică.

Cum sunt create deepfake-urile

Pentru a crea un deepfake este utilizată tehnologia deep learning, care este o formă a Inteligenței Artificiale (AI), ai cărei algoritmi sunt folosiți pentru a schimba fețele oamenilor din conținuturile digitale și a crea, astfel, un fals cu aspect realist. 

Conceptul de bază din spatele tehnologiei este recunoașterea facială, similară cu cea de pe Snapchat sau din măștile și filtrele de pe rețelele sociale.

Deepfake-ul poate cuprinde toate elementele unui produs media integrat, adică: text, fotografii, video și audio. Combinația dintre inteligența artificială – deep learning – și fals – fake – are la bază un concept numit Generative Adversarial Network (GAN) – rețea generativă adversarială –, care poate fi folosit pentru a reproduce imagini video și sunet superficial, care par a fi reale pentru ochiul uman.

De exemplu, un GAN poate scana mii de fotografii cu Beyonce și poate produce o nouă imagine care aproximează acele fotografii, fără să reproducă o copie exactă a vreuneia dintre fotografii. GAN poate fi folosit pentru a genera un sunet nou din sunetul existent sau un text nou din textul existent – este o tehnologie cu mai multe utilizări.

Tehnologia folosită pentru a crea deepfake-urile este programată pentru a crea o „mapă” a feței persoanei scanate, conducându-se de punctele „reper”, precum colțurile ochilor și gurii, nările sau conturul maxilarului.

Adică, mai simplu, dacă GAN-ul scanează mai multe materiale video, audio sau foto unde eu mă mișc, vorbesc sau pur și simplu exist, acesta va reuși să creeze un nou produs media, unde imaginea și sunetul meu va face sau spune ceea ce este programat să întreprindă.

Primele deepfake-uri au fost create pentru filmele de pornografie

În 1997, programul Video RewriteOffsite Link a modificat niște înregistrări video existente ale unei persoane care vorbește, pentru a o înfățișa rostind alte cuvinte decât cele pe care le zicea de fapt. Acesta a fost primul sistem care a automatizat complet acest tip de modificare facială. Programul a fost inițial destinat aplicațiilor în dublarea filmelor, permițând modificarea secvenței filmului pentru a sincroniza mișcările buzelor actorilor cu o nouă coloană sonoră, informează historyofinformation.com.

Pe măsură ce viziunea computerizată și inteligența artificială au continuat să avanseze, progresele în sinteza imaginilor umane Offsite Link au făcut posibil ca publicul larg să suprapună imagini și videoclipuri existente pe imagini sau videoclipuri sursă, folosind tehnica de învățare automată despre care ți-am povestit mai sus. Disponibilitatea acestei tehnologii a dus și la aplicarea acesteia în videoclipuri false în scopuri politice sau pornografice. Termenul deepfake, un portmanteau de „învățare profundă” și „fals”, a fost inventat în 2017.

Deepfake-urile, așa cum le știm azi, s-au născut în 2017, când un utilizator al platformei Reddit a postat clipuri pornografice falsificate. În acele secvențe, fețele unor celebrități precum Gal Gadot, Taylor Swift, Scarlett Johansson și alții au fost înlocuite cu cele ale unor actori din filme pentru adulți.

Compania AI Deeptrace a descoperit 15 000 de videoclipuri deepfake în mediul online în septembrie 2019. 96 % dintre acestea au fost videoclipuri pornografice și 99 % dintre fețe au fost „decupate” de la vedete feminine și plasate pe imagini cu actrițe porno.

La ce ar trebui să atragi atenția pentru a putea identifica un deepfake

Chiar dacă tehnologia folosită pentru a crea deepfake-uri este una relativ nouă, ea avansează rapid și devine din ce în ce mai dificil să verifici dacă un videoclip este real sau nu. Dezvoltarea acestor tipuri de tehnologii au implicații sociale, morale și politice evidente.

Iată câteva indicii care te-ar putea ajuta să identifici deepfake-urile:
# mișcarea nenaturală a ochilor sau lipsa mișcării ochilor, precum absența clipirii, sunt semnale că ar putea fi vorba de un deepfake, fiindcă, din punct de vedere tehnic, este digicil să reproduci aceste mișcări oculare într-un mod care să pară natural; 
# expresii faciale nenaturale sau un aspect articifial sau dubios ar putea semnala transformarea facială. Acest lucru se întâmplă atunci când o imagine a fost suprapusă peste alta;
# mișcările nenaturale ale corpului sau proporțiile ciudate ar putea fi un semn că ai dat de un deepfake. Dacă cineva pare distorsionat atunci când se întoarce în lateral sau când își mișcă capul sau dacă mișcările sale sunt sacadate și dezarticulate de la un cadru la altul, ar trebui să bănuiești că videoclipul este fals;
# tonul anormal al pielii, decolorarea, iluminarea ciudată și umbrele deplasate sunt toate semne că ceea ce vezi este probabil fals;
# păr, dinți și imperfecțiuni ale pielii care nu arată real. Niciodată nu vei vedea într-un deepfake păr creț sau ondulat, fiindcă imaginile false nu pot genera aceste caracteristici individuale, precum și forma individuală a dinților, vizibilă în timpul vorbirii sau a zâmbetului. Dacă vezi că părul pare nenatural de perfect aranjat, iar conturul dinților nu este foarte clar sau nu seamănă cu cel al protagonistului, s-ar putea să vizionezi un fake.
# defocusare sau nealiniere. Dacă marginile imaginilor sunt blurate sau imaginile sunt nealiniate, vei ști că ceva nu este în regulă.

Trebuie să folosim gândirea critică și să ne punem întrebări cheie precum:
# cine și de ce partajează acest material?
# care este sursa originală a conținutului?
# când și unde a fost filmat?
# persoana din videoclip spune ceva ce nu te-ai aștepta niciodată să spună?
# videoclipul avantajează agenda altcuiva? Cine are beneficii din conținutul videoclip?

Preluat de la: diez.md