Grok AI na mreži X korišćen za „svlačenje“ žena i dece, francuske vlasti pokrenule istragu

Društvene mreže, 12.01.2026, 13:30 PM

Francuske vlasti pokrenule su istragu o tome kako je Grok, AI asistent platforme X (bivši Twitter), mogao i smeo da generiše seksualno eksplicitne deepfake slike ljudi sa fotografija koje su korisnici postavljali na platformu.

Neposredno nakon dočeka Nove godine pojavili su se prvi izveštaji, koje je inicijalno objavio Rojters, da su korisnici X-a počeli masovno da koriste novu funkciju za uređivanje slika uz pomoć Grok AI-ja. Funkcija je omogućavala da se fotografije drugih korisnika modifikuju na način koji je uključivao seksualizaciju osoba sa slike, uključujući i decu.

Rojters navodi da je u analizi javnih zahteva upućenih Grok-u tokom samo 10 minuta zabeleženo više od 100 pokušaja da se fotografije ljudi digitalno izmene tako da deluje kao da nose bikini ili minimalnu odeću. Među pogođenima su bile žene, ali i maloletnici.

Prema pisanju Politica, francuski poslanici Artur Delaporte i Erik Boterel obratili su se pariskom tužilaštvu, navodeći da su se na platformi pojavile hiljade lažnih slika. Francuske vlasti su potom zvanično započele istragu.

Iako kompanija X još uvek nije izdala zvanično saopštenje, sam Grok je u objavi na platformi naveo da je problem navodno rešen i da su uvedene strože zaštitne mere.

„Postoje izolovani slučajevi u kojima su korisnici tražili i dobili AI-generisane slike maloletnika u minimalnoj odeći. Postoje zaštitni mehanizmi, ali su u toku poboljšanja kako bi se takvi zahtevi u potpunosti blokirali“, navodi se u objavi.

Francuska vlada je reagovala zvaničnim saopštenjem, u kojem se navodi da je slučaj prijavljen i tužilaštvu i državnoj platformi Pharos, pozivajući se na član 40 Zakona o krivičnom postupku.

„Ministri Roland Leskur, Ana Le Enan i Orror Berže prijavili su očigledno nezakonit sadržaj generisan generativnom veštačkom inteligencijom Grok i distribuiran na platformi X, sa ciljem njegovog hitnog uklanjanja“, stoji u saopštenju.

Francuske vlasti takođe razmatraju da li je X prekršio evropski Zakon o digitalnim uslugama (DSA), posebno u delu koji se odnosi na sprečavanje i ublažavanje rizika od širenja nezakonitog sadržaja.

„Vlada je slučaj prosledila i regulatoru Arcom, zbog mogućih kršenja obaveza platforme X u skladu sa DSA“, navodi se u saopštenju.

Ovo nije prvi put da se Grok našao pod lupom francuskih vlasti. Ranije je već otvorena istraga nakon što je AI asistent iznosio tvrdnje koje su ocenjene kao antisemitske i kao negiranje Holokausta, uključujući navode o krematorijumima u Aušvicu.

Slučaj dodatno pojačava zabrinutost u vezi sa kontrolom generativnih AI alata, posebno kada se koriste za obradu realnih fotografija ljudi, i ponovo otvara pitanje odgovornosti platformi za sadržaj koji njihovi sistemi proizvode.