Na društvenim mrežama pojavili su se video sadržaji u kojima „fake“ verzije žrtava zločina ili počinilaca zločina govore o tom zločinu. Ovakav sadržaj potpada u već godinama popularan „true crime“ sadržaj, o čijoj se etičnosti od njegovog nastanka vodi diskusija. Međutim, uključivanjem veštačke inteligencije i deepfake-a u ovakav sadržaj, granica etičnosti se još više prelazi. O zloupotrebama deepfake-a, Zoomer je već pisao.
Najveći broj ljudi u Srbiji se nažalost, prvi put susreo sa ovakvim sadržajem nakon masovnog ubistava u Ribnikaru. U danima nakon ovog događaja, na društvenim mrežama, a prvenstveno Tik Toku pojavljivali su se videi u kojima ubica govori o ovom zločinu. Ono što je javnost s razlogom zabrinulo jesu komentari ispod videa, koji su idealizovli ubicu.
Sigurno se sećate i slučaja iz Gradačca u Bosni i Hercegovini, gde je muškarac na facebook live-u snimao ubistvo sopstvene supruge. Nakon toga, na jednom Tik Tok profilu, pojavio se deepfake video u kojem „fake“ verzija ubice govori i opisuje ovaj zločin. U opisu ovog videa stoji „Stop nasilju nad ženama“. Osoba koja je ovaj video okačila upravo zarađuje na nasilju nad ženama, pošto ovo nije jedini ovakav video, te je ovakav postupak najblaže rečeno licemeran.
Na samom profilu o kojem govorimo, koji nećemo označiti, zbog štetnosti samog sadržaja, ima na desetine videa u kojima bez prethodnog upozorenja o sadržaju koji sledi – fake verzije žrtava ili počinilaca zločina opisuju taj zločin.
Takođe smo razgovarali sa Milom Bajić iz SHARE fondacije, koja nam je pomogla da dublje razumemo ovaj fenomen.
SVETSKI FENOMEN
„Ovakvi sadržaji rastu u popularnosti ne samo kod nas već svuda u svetu. Sve je više ovakvih naloga i karakteristično je što se uglavnom bave kriminalnim delima, najčešće onim najgnusnijim kao sto su ubistva, silovanja, zlostavljanja i slično“
Mila Bajić
Nesumnjivo, retko kada možemo govoriti o nekom trendu na internetu u našoj zemlji, a koji već postoji i u svetu. To je reč, nažalost, i kada govorimo o ovoj vrsti zloupotrebe deepfake-a. Prema pisanju Rolling Stone-a, na američkom Tik Toku su se čak pojavljivali deepfake videi u kojima, većinom deca, opisuju gnusne zločine čije su bili žrtve.
„TRUE CRIME“
„U neku ruku je to nekakav prirodni nastavak i nadogradnja na celu maniju „true crime“ sadržaja kao sto su podkasti, youtube videi i serije i filmovi koji su već godinama aktuelni u popularnoj kulturi“
Mila Bajić
Dakle, ova kreacija veštačke inteligencije samo je evolucija već postojećeg sadržaja na internetu. Ne bi pogrešili kada bi rekli da je u najmanje poslednjih pet godina, „true crime“ sadržaj jedan od najpopularnijih sadržaja na internetu. Međutim, ne treba zaboraviti da se ovaj sadržaj nije rodio na internetu. Samo u Srbiji imamo emisiju Mesto zločina sa Mašanom, u kojoj se opisuju događaji stvarnih zločina, što u prevodu „true crime“ i znači.
Pojavom interneta i pogotovo Youtube-a , ovakakav sadržaj je eksplodirao. Sada postoje jutjuberi koji se isključivo bave kreiranjem ovakvog sadržaja. Iako se sam sadržaj ne razlikuje od Mašanovih emisija, mnogo je pristupačniji mlađoj publici.
Žene su prevashodno te koje konzumiraju ovakav sadržaj. Profesorka psihologije na Illinois Wesleyan univerziteta, za CNBC rekla je da njeno istraživanje pokazuje da „Žene vole da gledaju „true crime“ zato što mogu nešto da nauče iz njega“ i dodaje: „Suštinski, uče kako da ne budu ubijene“.
Međutim, analiziranje fenomena „true crime“-a iziskuje svoju sopstvenu analizu. Ovde nam je samo bilo važno da pokažemo da su opisani deepfake videi deo većeg trenda, koji je sam po sebi okružen kontroverzom. Već duži period vodi se diskusija u digitalnom prostoru u kojoj meri je „true crime“ etičan. Kako dodamo i veštačku inteligenciju u ovaj već kontroverzan sadržaj, dobijamo potpuno novu dimenziju neetičnosti. Dobijamo jedan bizaran spoj vrlo kontroverzne tehnologije, sa već postojanim kotroverznim sadržajem.
OGRANIČAVANJE OVOG SADRŽAJA
Pitanje etičnosti, normalno, otvara i pitanja o mogućnosti ograničavanja ovakvog sadržaja. Gde su granice? Da li je u redu da ovakav sadržaj uopšte postoji na internetu? Da li je neophodno upozoriti potencijalne gledaoce na sadržaj koji sledi? Na mnoga od ovih pitanja, upravo smo dobili odgovor od Mile:
Da li je dozvoljeno ovakav sadržaj objavljivati bez prethodnog upozorenja (trigger warning-a)?
Ovakav sadržaj se slobodno pravi i deli upravo jer je u pitanju takozvani veštačko generisan sadržaj, odnosno najčešće ne prikazuje nikakve eksplicitne scene ovih zločina već je čitav video postavljen u jednom kadru gde osoba prepričava priču. Za sada nije bilo situacija u kojima se ovakav sadržaj na bilo koji način obeležava – ni kao veštački generisan, a ni kao potencijalno uznemiravajući. Sa druge strane teško je znati kakve su politike na primer Tik Toka, kao glavnoj mreži na kojoj se ovakvi sadržaji objavljuju, po ovom pitanju jer nije nigde eksplicitno navedeno, ali očigledno ne previse stroge posto ovakvi videi ostaju dostupni na mreži.
Da li je dozvoljeno ovakav sadržaj uopšte objavljivati, pogotovo što se objavljuju prava imena osoba?
Kao sto je pomenuto gore, Tik Tok sam ne skida ove sadržaje, čak iako je došlo do zloupotrebe nečijeg identiteta. Sa jedne strane, ovo su često slučajevi koji su već donekle poznati javnosti i ta imena su samim tim deo nekog javnog domena. Postoji mogućnost da se ovi sadržaji prijave direktno, ali je i sam proces prijavljivanja previše kompleksan da je veoma verovatno da do uklanjanja neće ni doći. Na kraju dana, ovakvi sadržaji opstaju jer postoji određena doza interesovanja i privlače klikove i lajkove, ljudi ih dele i na taj način generišu saobraćaj na ove naloge. Zbog toga je teško očekivati da će ovi sadržaji biti uklonjeni.
Da li je moguće ovakav sadržaj zabraniti/ograničiti?
Ne postoji način na koji bi ovakvi sadržaji mogli da se ograniče. Jedino što bi trebalo uraditi i na čemu bi moglo da se insistira je obeležavanje ovakvih sadržaja tako da je korisnicima jasno da je video generisan posredstvom veštačke inteligencije kao i da su informacije koje se dele podložne spekulaciji i proveri. Problem je u tome što se ovakvi sadržaji uzimaju zdravo za gotovo i neretko mogu širiti dezinformacije sa ciljem pribavljanja publike.
Izgleda da i u ovom slučaju teško šta možemo da uradimo. Bez obzira na sekundarnu viktimizaciju osoba koja su preživele slične zločine, bez obzira na čestu invaziju privatnosti koju ovakav sadržaj pretpostavlja, dokle god u ovoj vrsti sadržaja postoji profit, neće biti moguće rešiti ga se u potpunosti.
