Novo akademsko istraživanje pokazuje da korisnici mreže X (Iks) masovno koriste Grok, četbot veštačke inteligencije (AI) za kreiranje seksualizovanih slika. Analiza više od 500 objava, koju je sprovela istraživačica Nana Nvačukvu sa koledža Triniti u Dablinu, pokazuje da je skoro tri četvrtine zahteva bilo usmereno na „skidanje“, menjanje ili dodavanje odeće na telima stvarnih osoba – bez njihovog pristanka.
Iako je pažnja javnosti usmerena na seksualizovane slike žena koje se masovno šire na mreži Iks, mnogo eksplicitniji i problematičniji sadržaj nastaje na zvaničnom Grok sajtu i u aplikaciji, gde postoji napredna opcija generisanja video-zapisa (Grok Imagine), nedostupna na Iks. Uvođenje „spicy mode“ opcije u Grok, prošlog avgusta, dodatno je ohrabrilo produkciju seksualno sugestivnog sadržaja.
Za razliku od Iksa, gde je sadržaj javan, materijal kreiran na Grok sajtu i aplikaciji nije automatski javno vidljiv, ali se može deliti putem linkova. WIRED je analizirao oko 1.200 takvih linkova, od kojih većina sadrži teški pornografski sadržaj. Pronađeni su realistični AI video-zapisi sa potpunom golotinjom, krvavim i nasilnim seksualnim scenama, simulacijama silovanja i ponižavanja, eksplicitnim prikazima seksualnih činova i audio zapisima.
U odgovoru na objavu jednog korisnika Iksa koji ističe da nije Grok odgovoran za sadržaj koji generiše već ljudi koji zadaju promptove, Elon Mask je odgovorio da će „svako ko koristi Grok za kreiranje ilegalnog sadržaja, snositi iste posledice kao da je taj sadržaj i sam postavio“. Ipak, dovodi se u pitanje i odgovornost kreatora platofme pogotovo jer platforma nema adekvatne bezbednosne mehanizme.
Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content
— Elon Musk (@elonmusk) January 3, 2026
Kako se zaobilaze bezbednosni filteri?
Međunarodni regulatori upozoravaju da nedostatak etičkih i bezbednosnih ograda kod Groka normalizuje seksualno nasilje i podstiče najekstremnije oblike zloupotrebe tehnologije. Bezbednosni filteri, čiji je cilj da spreče AI da proizvodi sadržaj poput seksualizacije maloletnika, pornografije, nasilja i sličnih sadržaja, u slučaju Groka ne funkcionišu najbolje.
Grok nema vidljive mehanizme starosne verifikacije, za razliku od Iksa, što je posebno problematično u kontekstu novih zakona u Sjedinjenim Američkim Državama i Evropi koji zahtevaju zaštitu maloletnika od eksplicitnog sadržaja. Među sadržajem se nalaze i seksualizovani prikazi poznatih ličnosti, uključujući novinarke, voditeljke i javne figure, kao i dipfejk materijali sa lažnim „filmskim“ ili „Netflix“ oznakama. Razlog za to je što onda AI ne prepoznaje da se radi o zloupotrebi već ga tumači kao fiktivni, umetnički sadržaj.
Mnoge objave sa ovakvim sadržajem imaju desetine hiljada pregleda i dolaze sa verifikovanih i monetizovanih naloga, koji prema pravilima Iksa imaju pravo na podelu prihoda od pregleda.
Na pornografskim i Redit forumima korisnici otvoreno razmenjuju uputstva kako da zaobiđu Grokove bezbednosne filtere, a raspravlja se i o „najboljim promptovima“. Korisnici pomažu jedni drugima da unaprede seksualizovane prikaze žena, modifikuju slike tako da budu eksplicitnije i uklanjaju odeću sa fotografija koje su same žene objavile na Iksu.
Međunarodne regulatorne reakcije na Grok
Ovaj slučaj je privukao pažnju regulatora u Velikoj Britaniji, Evropskoj uniji, Indiji i Australiji. xAI je kasno u sredu saopštio da je ograničio mogućnosti uređivanja slika za korisnike Grok AI-ja. Do srede je Rojters utvrdio da je četbot i dalje privatno, na zahtev korisnika, generisao seksualizovane slike. Čini se da je ta praksa u četvrtak ograničena, barem u pojedinim geografskim područjima. Kompanija Elona Maska saopštila je da blokira korisnike od generisanja slika ljudi u oskudnoj odeći u „jurisdikcijama u kojima je to nezakonito“, ali nije precizirala o kojim se jurisdikcijama radi.
Ofcom, britanski medijski regulator, pokrenuo je istragu protiv Iksa zbog toga što je Grok AI navodno generisao seksualizovane dipfejk slike dece i odraslih, potencijalno kršeći britanske zakone o bezbednosti na mreži i zaštiti maloletnika. Kako prenosi AP News, Ujedinjeno kraljevstvo planira nove zakonske mere koje će kriminalizovati kreiranje dipfejk slika bez saglanosti osobe koja se na njoj nalazi.
Evropska komisija zahteva da Iks sačuva interne podatke i dokumentaciju o Groku do kraja 2026., kako bi se ispitalo da li je došlo do kršenja EU zakona o digitalnim uslugama. Malezija i Indonezija su uvele blokade pristupa Groku, a regulatori i vlade iz Azije, uključujući Indiju, takođe su kritikovali Iks i naložili platformi da preduzme konkretne mere protiv „obscentnog“ sadržaja.
Kakve su regulative u Srbiji?
Trenutne zakonske norme ne pokrivaju direktno kreiranje ili širenje AI-generisanog seksualnog sadržaja (npr. dipfejk slika). Takvi slučajevi se moraju procesuirati kroz druge postojeće odredbe poput zavođenja, distribucije maloletničke pornografije ili kršenja privatnosti.
Srbija takođe ne prepoznaje osvetničku pornografiju kao posebno krivično delo čak ni kada se privatne fotografije žena bez pristanka dele u Telegram grupama ili na internetu. Iz feminističke organizacije BeFem upozoravaju da ovakvi slučajevi u Srbiji nisu novost i da su se botovi za „svlačenje“ žena i devojčica dugo koristili na Telegramu i u manjim, zatvorenim zajednicama. U njihovoj objavi na Instagramu takođe ističu da „nije Grok svukao ženu već onaj koji mu je taj zahtev zadao“.
Naslovna fotografija: Canva
