Kako sajber kriminalci zloupotrebljavaju ChatGPT u prevarama

Vesti, 11.06.2025, 13:30 PM

Kako sajber kriminalci zloupotrebljavaju ChatGPT u prevarama

OpenAI je otkrio da se aktivno bori protiv široko rasprostranjene zloupotrebe svojih AI alata od strane kriminalnih grupa iz zemalja poput Kine, Rusije, Severne Koreje i Irana.

U izveštaju objavljenom ranije ove nedelje, OpenAI je objavio da je zatvorio deset velikih mreža za samo tri meseca, čime je kompanija dokazala svoju posvećenost borbi protiv onlajn pretnji.

Hakeri koriste AI da bi osmislili ubedljive onlajn prevare. Na primer, grupe povezane sa Kinom koristile su AI da bi objavljivale masovne lažne komentare i članke na platformama poput TikTok-a i X-a, pretvarajući se da su pravi korisnici u kampanji pod nazivom Sneer Review. Kineske grupe su takođe koristile AI za generisanje sadržaja za polarizujuće diskusije u SAD, uključujući kreiranje lažnih profila američkih veterana, kako bi uticale na debate o temama poput carina, u operaciji pod nazivom Uncle Spam.

Severnokorejske grupe su pravile lažne biografije i prijave za posao koristeći AI. Severnokorejski hakeri su tražili IT poslove širom sveta, verovatno zbog krađe podataka.

Ruske grupe su koristile veštačku inteligenciju za razvoj opasnog softvera i planiranje sajber napada, a jedna operacija, ScopeCreep, fokusirala se na kreiranje malvera za krađu podataka.

Iranska grupa, STORM-2035 (poznata i kao APT42, Imperial Kitten i TA456), više puta je koristila veštačku inteligenciju za generisanje tvitova na španskom i engleskom jeziku o imigraciji u SAD, nezavisnosti Škotske i drugim osetljivim političkim pitanjima. Kreirali su lažne naloge na društvenim mrežama, često sa lažnim slikama profila, predstavljajući se kao lokalni stanovnici.

Veštačka inteligencija se takođe koristi u široko rasprostranjenim prevarama. U jednom značajnom slučaju, operacija verovatno sa sedištem u Kambodži, nazvana Wrong Number, koristila je veštačku inteligenciju za prevođenje poruka u šemi koja je obećavala visoku platu za jednostavne onlajn aktivnosti, poput lajkovanja objava na društvenim mrežama. Prevara je pratila jasan obrazac: kontakt koji nudi visoke plate, izgradnju poverenja i izazivanje uzbuđenja lažnom zaradom i konačno, traženje novca od žrtava za navodno veće nagrade. Ove prevare su funkcionisale na više jezika, uključujući engleski, španski i nemački, usmeravajući žrtve ka aplikacijama poput WhatsApp-a i Telegram-a.

OpenAI aktivno detektuje i blokira naloge uključene u ove aktivnosti, koristeći veštačku inteligenciju i za svoje istražne timove, rekla je kompanija. Ovaj proaktivni pristup često znači da su mnoge od ovih zlonamernih kampanja postigle mali ili ograničen uticaj u stvarnom svetu pre nego što su blokirane.

Govoreći o borbi protiv zloupotrebe veštačke inteligencije, OpenAI je rekao da se suočava sa značajnim pravnim izazovom u vezi sa privatnošću korisnika. 13. maja, američki sud naložio je OpenAI-ju da sačuva ChatGPT razgovore. Ova naredba proizilazi iz tužbe za kršenje autorskih prava koju su podneli The New York Times i drugi izdavači, koji tvrde da je OpenAI nezakonito koristio milione njihovih članaka zaštićenih autorskim pravima za obučavanje svojih modela. Oni tvrde da ChatGPT-ova sposobnost da reprodukuje, sumira ili imitira njihov sadržaj bez dozvole ili nadoknade ugrožava njihov poslovni model.

OpenAI je protestovao protiv ove naredbe, navodeći da ona primorava kompaniju da ide protiv svoje posvećenosti privatnosti korisnika. Kompanija je istakla da korisnici često dele osetljive lične podatke u ćaskanjima, očekujući da će oni biti obrisani ili da ostanu privatni. Ovaj zahtev suda je zato veoma složen izazov za OpenAI.

Foto: Rolf van Root | Unsplash


Prijavite se na našu mailing listu i primajte najnovije vesti (jednom dnevno) putem emaila svakog radnog dana besplatno:

Izdvojeno

WeTransfer ponovo menja uslove korišćenja nakon lavine kritika zbog korišćenja sadržaja za obuku AI

WeTransfer ponovo menja uslove korišćenja nakon lavine kritika zbog korišćenja sadržaja za obuku AI

Korisnike WeTransfera, popularne platforme za slanje velikih fajlova, uznemirila je najava kompanije o promeni uslova korišćenja. Novi uslovi koriš... Dalje

Kako hakeri mogu prevariti Gemini i vas

Kako hakeri mogu prevariti Gemini i vas

Istraživači iz firme 0din uspeli su da prevare Google Gemini for Workspace da sam „poslušno“ izvršava skrivene komande ubačene u imej... Dalje

Grok‑4 hakovan samo dva dana posle javnog predstavljanja

Grok‑4 hakovan samo dva dana posle javnog predstavljanja

Samo 48 sati nakon što je predstavljen javnosti, najnoviji veliki jezički model Grok-4 je „jailbreak-ovan“. Istraživači iz NeuralTrust... Dalje

TikTok ponovo pod istragom zbog prenosa podataka korisnika na servere u Kini

TikTok ponovo pod istragom zbog prenosa podataka korisnika na servere u Kini

Irska Komisija za zaštitu podataka (DPC) pokrenula je novu istragu protiv TikTok-a zbog sumnje da se podaci evropskih korisnika i dalje prebacuju na ... Dalje

Koliko nas zapravo Google prati čak i kad mislimo da ne može?

Koliko nas zapravo Google prati čak i kad mislimo da ne može?

Koliko nas zapravo Google prati čak i kad mislimo da ne može? Nova studija SafetyDetectives otkriva koliko je Google zapravo svuda oko nas na intern... Dalje