Kako sajber kriminalci zloupotrebljavaju ChatGPT u prevarama

Vesti, 11.06.2025, 13:30 PM

OpenAI je otkrio da se aktivno bori protiv široko rasprostranjene zloupotrebe svojih AI alata od strane kriminalnih grupa iz zemalja poput Kine, Rusije, Severne Koreje i Irana.

U izveštaju objavljenom ranije ove nedelje, OpenAI je objavio da je zatvorio deset velikih mreža za samo tri meseca, čime je kompanija dokazala svoju posvećenost borbi protiv onlajn pretnji.

Hakeri koriste AI da bi osmislili ubedljive onlajn prevare. Na primer, grupe povezane sa Kinom koristile su AI da bi objavljivale masovne lažne komentare i članke na platformama poput TikTok-a i X-a, pretvarajući se da su pravi korisnici u kampanji pod nazivom Sneer Review. Kineske grupe su takođe koristile AI za generisanje sadržaja za polarizujuće diskusije u SAD, uključujući kreiranje lažnih profila američkih veterana, kako bi uticale na debate o temama poput carina, u operaciji pod nazivom Uncle Spam.

Severnokorejske grupe su pravile lažne biografije i prijave za posao koristeći AI. Severnokorejski hakeri su tražili IT poslove širom sveta, verovatno zbog krađe podataka.

Ruske grupe su koristile veštačku inteligenciju za razvoj opasnog softvera i planiranje sajber napada, a jedna operacija, ScopeCreep, fokusirala se na kreiranje malvera za krađu podataka.

Iranska grupa, STORM-2035 (poznata i kao APT42, Imperial Kitten i TA456), više puta je koristila veštačku inteligenciju za generisanje tvitova na španskom i engleskom jeziku o imigraciji u SAD, nezavisnosti Škotske i drugim osetljivim političkim pitanjima. Kreirali su lažne naloge na društvenim mrežama, često sa lažnim slikama profila, predstavljajući se kao lokalni stanovnici.

Veštačka inteligencija se takođe koristi u široko rasprostranjenim prevarama. U jednom značajnom slučaju, operacija verovatno sa sedištem u Kambodži, nazvana Wrong Number, koristila je veštačku inteligenciju za prevođenje poruka u šemi koja je obećavala visoku platu za jednostavne onlajn aktivnosti, poput lajkovanja objava na društvenim mrežama. Prevara je pratila jasan obrazac: kontakt koji nudi visoke plate, izgradnju poverenja i izazivanje uzbuđenja lažnom zaradom i konačno, traženje novca od žrtava za navodno veće nagrade. Ove prevare su funkcionisale na više jezika, uključujući engleski, španski i nemački, usmeravajući žrtve ka aplikacijama poput WhatsApp-a i Telegram-a.

OpenAI aktivno detektuje i blokira naloge uključene u ove aktivnosti, koristeći veštačku inteligenciju i za svoje istražne timove, rekla je kompanija. Ovaj proaktivni pristup često znači da su mnoge od ovih zlonamernih kampanja postigle mali ili ograničen uticaj u stvarnom svetu pre nego što su blokirane.

Govoreći o borbi protiv zloupotrebe veštačke inteligencije, OpenAI je rekao da se suočava sa značajnim pravnim izazovom u vezi sa privatnošću korisnika. 13. maja, američki sud naložio je OpenAI-ju da sačuva ChatGPT razgovore. Ova naredba proizilazi iz tužbe za kršenje autorskih prava koju su podneli The New York Times i drugi izdavači, koji tvrde da je OpenAI nezakonito koristio milione njihovih članaka zaštićenih autorskim pravima za obučavanje svojih modela. Oni tvrde da ChatGPT-ova sposobnost da reprodukuje, sumira ili imitira njihov sadržaj bez dozvole ili nadoknade ugrožava njihov poslovni model.

OpenAI je protestovao protiv ove naredbe, navodeći da ona primorava kompaniju da ide protiv svoje posvećenosti privatnosti korisnika. Kompanija je istakla da korisnici često dele osetljive lične podatke u ćaskanjima, očekujući da će oni biti obrisani ili da ostanu privatni. Ovaj zahtev suda je zato veoma složen izazov za OpenAI.

Foto: Rolf van Root | Unsplash