Za 25 minuta do lažne stvarnosti: Kako nastaju dipfejk sadržaji

Šta je dipfejk?

Kako Mila Bajić objašnjava za Boom 93, dipfejkovi predstavljaju slike i video i audio snimke koji su generisani putem veštačke inteligencije sa ciljem imitacije neke osobe.

„Danas je podjednako lako napraviti dipfejk sadržaj kao i napraviti nalog na društvenim mrežama. Na primer, za kreiranje deefake videa u trajanju od šesdeset sekundi potrebno oko 25 minuta, 0 dolara i samo jedna jasna fotografija lica. Internet je preplavljen besplatnim alatima koji omogućuju jednostavno kreiranje ovakvih sadržaja, čak i eksplicinih. Takođe postoje i plaćeni alati koji garantuju veći kvalitet kao i mogućnost kreiranja sofisticiranijih i dužih sadržaja”, objašnjava Bajić.

Ko su mete dipfejk sadržaja?

Dodaje da se dipfejk tehnologija često predstavlja kao ogromna pretnja po demokratiju upravo zbog svoje mogućnosti zbunjivanja publike i neiskrenog predstavljanja.

„Politički akteri i poznate ličnosti su u početku bili najčešće mete, zbog velike dostupnosti njihovih fotografija po internetu, kao i nedostatka zakonskog okvira koji je mogao da reguliše korišćenje njihovog lika u ovakvim sadržajima”, kaže ona.

Ipak, ističe da, kako je tehnologija napredovala, tako je korišćenje ovih tehnologija u lične svrhe postalo mnogo jednostavnije, što je značilo da svako može postati meta.

„Prema dostupnim podacima, dipfejk sadržaji postali su jedno od glavnih sredstava za targetiranje žena na internetu. Dipfejk pornografija ili eksplicitni sadržaji generisani putem veštačke inteligencije koriste se kako bi kontrolisali devojke i žene, najčešće kroz sramoćenje, ucenu ili diskreditaciju. Objavljivanje ovakvih sadržaja na internetu, pored teških psiholoških posledica takođe mogu imati i ozbiljne posledice po reputaciju onih koje targetiraju”, navodi Bajić.

Dodaje da je, prema nekim procenama, preko 90% dipfejk sadržaja pornografske prirode, i od njih preko 98% targetira žene.

„Važno je pomenuti da se dipfejk popularizovao 2017. godine, kada je korisnik na Redditu počeo da objavljuje pornografske snimke gde je lica porno glumica zamenio poznatim glumicama i ličnostima. Od tada, razvila se cela industrija kreiranja ovakvih sadržaja, od ljudi koji mogu da naprave bilo koju kombinaciju videa i lica i svoje usluge nude onlajn na društvenim mrežama, forumima i sajtovima”, kaže Bajić.

Navodi da je indikativno  i to što sajtovi koji nude ovakve „usluge“ takođe imaju mnogo reklama.

„To znači da uprkos činjenici da se ovi sadržaji kreiraju bez saglasnosti osoba koje su mete, oglašivači i dalje biraju da posluju sa ovim servisima, što pokazuje koliko je svest o štetnosti ovih radnji niska, ili zanermarljiva kada se meri u odnosu na ostvarene profite”, kaže ona.

Kako prepoznati dipfejk sadržaj?

Prepoznavanje dipfejk sadržaja postaje sve teže upravo zbog razvoja tehnologije pomoću koje nastaje.

„Što se ova tehnologija više koristi, to je njeno razlikovanje od autentičnog sadržaja komplikovanije, jer se tehnologija i njeni tvorci uče na primerima koji su zadati i koji se ponavljaju. U nekim ranijim verzijama na primer, ličnosti prikazane na dipfejk videima uopšte nisu treptale pa je samim tim bilo lakše uočiti manipulisane sadržaje. Ipak, ova nepravilnost je postala toliko česta da su kreatori ovih sadržaja obratili pažnju na to i sada ovo više nije slučaj, te većina dipfejkova sada trepće”, objašnjava Bajić.

Dodaje da, u zavisnosti od kvaliteta postoje načini kako se može uočiti da li je sadržaj sintetički. Neki od znakova koje je navela jesu nepoklapanje izgovorenih reči i otvaranja usta, određene vizuelne nekonzistencije, kao što su razlike u tenu ili pokreti mišića na licu dok osoba priča.

Prema njenim rečima, veliki broj naučnih centara za istraživanje digitalnih tehnologija i inicijativa za borbu protiv dezinformacija ekstenzivno pišu o načinima na koje se sadržaji mogu proveravati.

„Neki su jednostavni poput alata u koje se mogu ubacivati sadržaji, a drugi malo više tehnički i zahtevaju metode kao čitanje metapodataka sadržaja ili praćenja šablona objavlivanja ovih sadržaja na mrežama i sajtovima”, navodi naša sagovornica.

Važnost edukacije

Upitali smo je koliko je važno da se u školski sistem kroz različite radionice medijske pismenosti i drugi vid edukacije uključi ova tema.

„Rekla bih da je šira svest o ovim tehnologijama i dalje na jako niskom nivou, što predstavlja veliki problem, kako trenutno, tako i za budućnost korišćenja istih. Već smo svedočili broju slučajeva u kojima su osnovci kreirali eksplicitne sadržaje svojih vršnjakinja i učiteljica uz pomoć aplikacija za generisanje dipfejk sadržaja. Ovakvi primeri ukazuju na nekoliko ključnih tačaka koje moramo da uzmemo u obzir kada pričamo o odnosu mladih i dipfejkova. Pod jedan, pokazuje nam da je odnos mladih prema ovim tehnologijama u velikoj meri oblikovan njihovim sveobuhvatnim pristupom tehnologiji – ovakvi sadržaji i njihovo kreiranje smatraju se neozbiljnim i više kao igra, bez velikog obzira za posledice”, kaže Bajić.

Napominje da je druga važna stvar to što često način na koji mediji izveštavaju o ovim problemima može doprineti problemu više nego pomoći.

„Slučajevi digitalnog nasilja često se posmatraju ili kao izolovani incidenti ili se pripisuju isključivo digitalnom okruženju, što može znatno da umanji posledice koje ovakva dela mogu da imaju po svakodnevni život onih koji su pogođeni. Kada pričamo pogotovo o dipfejk pornografiji, često se previđa činjenica da je ovo samo još jedan napredniji način seksualnog uznemiravanja, koji je pospešen korišćenjem naprednih tehnologija, ali utemeljen u postojećim patrijarhalnim i seksističkim okvirima i strukturama u kojima živimo. Kao takav, zahteva da se sagleda kako iz pozicije nasilja nad devojčicama i ženama, tako i kao pitanje vršnjačkog nasilja i pitanja privatnosti. Devojčice, devojke i žene bez obzira na svoje godine mogu postati mete ovakvih tehnologija”, objašnjava ona.

Mila Bajić navodi da se kao kao rešenje ovog problema najčešće poteže za zabranama korišćenja digitalnih tehnologija i interneta za mlade, što je u svetu u kojem živimo gotovo nemoguće, a takođe i dodatno štetno za formiranje odgovorne veze između mladih i načina na koje koriste napredne tehnologije.

„Zabrane mogu samo negativno da utiču na njihovu svest o tome šta predstavlja štetno korišćenje tehnologije, kao i da stvore kontraefekat. Umesto toga, informisani razgovori i pedagoški pristup imaju najveću verovatnoću da pomognu mladima da razumeju važnost bezbednog ponašanja na internetu”, smatra naša sagovornica.

Ističe da je vrlo važno raditi na digitalnoj pismenosti i podiznanju svesti o štetnosti kreiranja i deljenja ovakvih sadržaja.

„Akcenat bi takođe trebalo staviti na činjenicu da sve što se objavi i podeli na internetu tu i ostaje, kao i da deljenje ovakvih sadržaja može imati dalekosežne posledice izvan digitalnog života”, kaže Bajić.

Smatra i da bi u tome ključnu ulogu mogli imati i influenseri.

„Svojim uticajem mogu lakše da prošire ove poruke, kao i da na sopstvenim primerima nasilja na mrežama ukažu na rasprostranjenost i lakoću ovih napada. Svoje platforme mogu da iskoriste kako bi raskrinkali mitove o digitalnom nasilju, pre svega da je ono ’bezopasno’ i da samo ostaje na internetu, kao i da uvek sa druge strane postoji neka osoba koja te napade prima i čita”, kaže ona.

Zakonski okvir

Kada su u pitanju zakonski okviri, prema rečima ekspertkinje Šer fondacije, na svetskom nivou, oni i dalje nisu dovoljno napredovali kao bi sankcionisali kreiranje i deljenje ovakvog sadržaja.

„U Kanadi, Južnoj Koreji i nekim delovima Amerike postoje zakoni koji kriminalizuju objavljivanje dipfejk pornografije, što predstavlja dobru polaznu osnovu, ali problemi i dalje postoje. Prvo, nedovoljan broj država je počeo da se bavi ovim problemom sa ozbiljnošću koja je potrebna. Drugo, iako većina ovih zakona zabranjuje deljenje ovih sadržaja, pitanje kreiranja ovih sadržaja i dalje je ostavljeno otvoreno. Treće, kao što možemo da vidimo, brzina kojom se ove tehnologije razvijaju nije srazmerna brzini kojom države počinju da se bave ovim pitanjem. Samim tim zaključak je da sveobuhvatna strategija i dalje izostaje kada je u pitanju odbrana o štete koju dipfejk sadržaji proizvode globalno”, kaže ekspertkinja Šer fondacije.

Dipfejk sadržaj kao posebna vrsta povrede i krivičnog dela nije prepoznat ni u našem sistemu.

„Ipak, u slučaju da mi ili neko koga poznajemo postane meta ovakvih sadržaja, preporuka je da se obratimo Odeljenju za visokotehnološki kriminal sa svim prikupljenim dokazima. S obzirom na to da je jako teško anticipirati da li se možemo naći na meti ovakvih sadržaja zbog njihove ogromne dostupnosti i lakoće korišćenja, fokus možemo da stavimo na reagovanje i naknadno saniranje situacije. U slučaju da su mladi ucenjeni nekim sadržajima, trebalo bi odmah da se obrate nekoj osobi od poverenja, bilo da su u pitanju roditelji, neko u školi ili bilo ko drugi i uz njihovu pomoć se obratiti nadležnim institucijama”, navodi Bajić.

Upitali smo je i šta očekuje u budućnosti kada je u pitanju dipfejk tehnologija i opanosti koje donosi.

„Trenutno deluje da je pretnja od dipfejkova sveprisutna i da u slučajevima njene zloupotrebe ne postoji previše preventivnih mera. Ipak, kontinuirano edukovanje o potencijalnim pretnjama, kao i tekuća istraživanja o načinima borbe protiv ovih tehnologija ključna su kako bismo se odgovorno pozicionirali u odnosu na njih u svetu u kojem živimo”, smatra Bajić.

Kako kaže, prepoznavanje ovih sadržaja verovatno će postati teže, ali takođe deluje da, sa druge strane, njihova sofisticiranost dostiže vrhunac.

„Ovo znači da ćemo uz adekvatna znanja biti u mogućnosti da naslutimo kada i kako se ovi sadržaji koriste, pogotovo kada su u pitanju preteće situacije kao što su širenje dezinformacija, diskreditacija i ucenjivanje. Za to nam pomaže i kontekstualno razumevanje situacija u kojima se ovakvi sadržaji najčešće pojavljuju. Važno je raditi na edukaciji institucionalno i vaninstitucionalno, dizati svest o važnosti digitalnih prava kao ljudskih prava i razgovarati o ovim temama na prave načine”, zaključuje Bajić.

Ovaj medijski sadržaj je nastao u okviru projekta „Mladi i mediji za demokratski razvoj“ koji Boom93 realizuje u partnerstvu sa Beogradskom otvorenom školom i uz podršku Švedske. Stavovi i mišljenja autora izneta u ovom medijskom sadržaju ne predstavljaju nužno i mišljenje partnera i donatora.