Deepfake era je počela, kako se odbraniti?

Palilula.info 15. mart 2024.

Nagli napredak deepfake tehnologije je zastrašujuć, jer ona omogućava jednostavno izvrtanje informacija kroz stvaranje realističnih video i audio zapisa koji izgledaju veoma autentično. Ovo, naravno, može dovesti do širenja lažnih informacija sa ozbiljnim posledicama u politici, ekonomiji i celom društvu.

Deepfake tehnologija može se koristiti za stvaranje video snimaka u kojima se čini da određena osoba izgovara ili radi nešto što zapravo nikad nije učinila. U pitanju je krađa identiteta i ugrožavanje privatnosti ljudi, a tako kreirani snimci mogu biti korišćeni za manipulaciju javnim mnjenjem, stvarajući lažne scene koje podržavaju određene političke ili društvene stavove.

Ako smo pre nekoliko godina imali globalnu krizu zbog poplave lažnih vesti, kako ćemo se tek izboriti sa krizom novostvorenih lažnih ličnosti ili snimcima stvarnih ličnosti u situacijama i mestima gde one, zapravo, nikad nisu bile? Mogućnosti su neslućene – od kreiranja video sadržaja do ucenjivanja i namernog ponižavanja pravih ljudi.

Zahvaljujući jednoj relativnoj jednostavnoj aplikaciji za mobilne telefone, tinejdžeri u Velikoj Britaniji su prošlog meseca “izrezivali” glave svojih vršnjaka sa fotografija i “kalemili” ih u video-klipove u veoma kompromitujućim scenama, najblaže rečeno. Ovo je izazvalo veliki skandal i pobunu đaka, njihovih roditelja, pa i samih regulatornih tela. Kreatori te aplikacije, kako piše Guardian, locirani su u Belorusiji, a u pravnom smislu, njeno korišćenje je bilo u potpunosti legalno jer nikome ne daje smernice u koje svrhe će (zlo)upotrebljavati ovaj softver.

Najgora od svih možda je sledeća posledica – kada ljudi postanu svesni postojanja deepfake tehnologije, to može dovesti do opšteg sumnjičenja prema video sadržaju na internetu i generalnog nepoverenja u autentičnost online informacija. Drugim rečima, sav sadržaj će u očima korisnika postati nepouzdan, odnosno jedna velika “siva zona” informacija, koju svako može da tumači kako hoće.

Deepfake tehnologija podrazumeva korišćenje dubokog učenja i veštačke inteligencije za stvaranje realističnih manipulisanih medija. Njena snažna ekspanzija u poslednje dve godine direktna je posledica otvaranja AI modela za javnu upotrebu.

Ekspertkinja koja to nije

Na godišnjoj konferenciji Dan internet domena Srbije (DIDS) koju je organizovao Registar nacionalnog internet domena Srbije (RNIDS) u Domu omladine Beograda priređeno je svojevrsno iznenađenje za posetioce. Naime, danima unapred najavljivana gošća dr Emili Roberts, ekspertkinja, doktorantkinja i članica Upravnog odbora digitalne marketinške firme Cyber Stereo, i sama je u potpunosti izmišljena ličnost, zajedno sa celom radnom biografijom i izgledom.

Snimak predavanja dr Roberts o štetnim efektima deepfake tehnologije napravio je za potrebe DIDS-a Dane Blačić, koristeći nekoliko AI programa dostupnih svakome (ChatGPT za kreiranje scenarija i biografije ličnosti, MidJourney za kreiranje vizuelnog identiteta, Elevenlabs za generisanje glasa, Face Fusion za zamenu lica i Synclabs za sinhronizovanje usta), preko originalnog videa Marijane Borković iz DIDS-a, koja je čitala kreirani tekst na engleskom jeziku.

Rezultat je bio fascinantan, u šta se mogla uveriti i publika u beogradskom Domu omladine. Dobijeni prikaz je bio veoma uverljiv, ali najlepše od svega je što je bio kreiran za svega nekoliko sati.

Prepoznavanje i zaštita od deepfake sadržaja predstavljaju izazov zbog napretka tehnologije, ali postoje neki koraci koji mogu da se preduzmu, kako bi rizik bio umanjen. Pre svega, provera izvora i autentičnosti informacija. Ako nešto deluje sumnjivo ili neobično, možda je vredno dodatnog istraživanja, pa je i kontekst bitan. Takođe, postoje alati i softveri koji se razvijaju kako bi pomogli u otkrivanju deepfake sadržaja. Ovi alati mogu analizirati video zapise i identifikovati znakove manipulacije, poput nepravilnosti u pokretima lica ili artefakata u snimku. Iako sama deepfake tehnologija napreduje vrtoglavom brzinom, pretpostavka je i da će ovi alati za njeno razotkrivanje napredovati uporedo s njom.

Nova državna agencija

Na DIDS-u je govorio i Milan Dobrijević, državni sekretar u Ministarstvu informisanja i telekomunikacija. Dobrijević je napomenuo da će zahvaljujući državi i investiciji od 150 miliona evra brzi internet uskoro stići u više od 700 sela u Srbiji, tamo gde inače “nikada ne bi stigao ekonomskom investicijom operatora jer im to nije isplativo”.

Reč je o 5.000 kilometara optičkih kablova za pokrivenost oko 120.000 domaćinstava i planiranih 99 odsto pokrivenosti cele zemlje do početka 2026. godine.

Kada je reč o bezbednosti na internetu, državni sekretar je rekao da država ima usvojenu AI strategiju i AI institut, jer ova tema “ne može da dozvoli čekanje”. Prema njegovim rečima, novi Zakon o informacionoj bezbednosti trebalo bi da bude usvojen do kraja godine i da bude usaglašen sa najnovijom evropskom NIS2 regulativom.

“Najvažnije je da će taj zakon omogućiti stvaranje nove institucije u našoj zemlji – Agencije za informacionu bezbednost, koja bi konačno trebalo da kreira fokusiran stručni kapacitet koji će se baviti bezbednošću u javnom i privatnom sektoru”, napomenuo je Dobrijević.

Izvor: Biznis.rs, Foto: DIDS (Lažna dr Emili Roberts)
Pratite nas i na društvenim mrežama: Facebook, Instagram, Twitter, Threads i Linkedin.
Deepfake era je počela, kako se odbraniti?
Copy link