Dubina manipulacije koje se svi plaše.
Sam naziv „deep“ označava da se u pozadini kriju algoritmi dubokog mašinskog učenja koji se treniraju na ogromnim setovima podataka i bezbroj slika.
„Deepfake“ u jednom trenutku oduševljava zbog lakoće i generisanja multimedijalnog sadržaja, a u drugom baca u očaj zbog mogućnosti zloupotrebe.
Vreme kad je montirana fotografija uz pomoć Photoshop-a bila vrhunac manipulacije slikom odavno je prošlo – stiže nešto mnogo „dublje“. Uz pomoć veštačke inteligencije danas je moguće generisati zvuk ili video, pa na osnovu nečeg realnog stvoriti sadržaj koji je prilično veran, ali u potpunosti montiran.
Hajde da uprostimo.
Uzmimo za primer video u kojem se pojavljuje virtuelni klon Morgana Frimena, jednog od najpoznatijih svetskih glumaca. Impresivni „deepfake“ snimak napravio je stručnjak za veštačku inteligenciju Bob de Jong, dok je glas lažnom Frimenu posudio holandski glasovni glumac But Šouvink. Rezultat je neverovatno realističan video koji briše granice između stvarnog i digitalnog sveta – izgled, mimika ili glas toliko su uverljivi da oko prosečnog posmatrača ne vidi razliku.
Brojne kompanije takmiče se u ovoj oblasti i u ponudi je mnogo programa za „deepfake“. Značenje pojma dubina (deep) u imenu označava da se u pozadini kriju algoritmi dubokog mašinskog učenja koji se treniraju na ogromnim setovima podataka i bezbroj slika. Najčešće se „deepfake“-ovi zasnivaju na dubokim neuronskim mrežama koje omogućavaju tehniku zamene lica.
Manipuliše se sa osnovnim snimkom na kojem se menja lice ili se na originalnom snimku naprave izmene tako da izgleda da je osoba rekla ili uradila nešto što nije.
Naravno, snimci i dalje nisu savršeni. Za one obazrivije postoje detalji koji otkrivaju da ima još prostora za napredak, poput sinhronizacije usana sa glasom, pokreta zenica i mutnih tranzicija pri naglim pokretima, naročito kada osoba okrene lice tako da se vidi profil.
„Deepfake“ snimci mogu da se koriste u svrhe šale i zabave ili mogu za potrebe filma ili medija da zamene voditelje, glumce. osvetničku pornografiju…
Ali svi strepe od zloupotreba da se takvi snimci iskoriste za dezinformisanje, prevare, kao lažni dokazi, za ucene, osvetničku pornografiju…
Zbog svega toga, iako je tehnologija praktično u začetku, mnoge kompanije već su počele da proizvode alate koji će se baviti otkrivanjem „deepfake“ intervencija na snimcima, potpuno sigurne da će za to u budućnosti biti potrebe.
Preuzeto iz m:agazina, m:tel.ba