OpenAI: Hakeri zloupotrebljavaju ChatGPT za pisanje malvera

Vesti, 14.10.2024, 11:00 AM

OpenAI, kompanija koja stoji iza popularnog AI četbota ChatGPT, otkrila je da je od početka 2024. godine poremetila više od 20 operacija i mreža širom sveta, uključujući mreže iranskih i kineskih hakera koje sponzorišu države.

OpenAI je rekao da je u ovim operacijama ChatGPT korišćen za otklanjanje grešaka u malverima, pisanje članaka za veb sajtove, generisanje sadržaja koji objavljuju lažne ličnosti na nalozima društvenih mreža i širenje dezinformacija u vezi sa izborima. U izveštaju kompanije se navodi da su sajber kriminalci i prevaranti koristili veštačku inteligenciju tokom međufaza svojih kampanja, „u specifičnoj, srednjoj fazi aktivnosti - nakon što bi imali osnovne alate kao što su pristup internetu, email adrese i nalozi na društvenim mrežama, ali pre nego što bi primenili „gotove“ proizvode kao što su objave na društvenim mrežama ili malvere širom interneta“, napisali su istraživači kompanije u izveštaju.

Međutim, oni su naglasili da je uprkos učešću AI u sajber napadima i kampanjama uticaja, stvarni uticaj veštačke inteligencije do sada bio ograničen i da nisu pronašli dokaze da AI doprinosi stvaranju novih, naprednih malvera ili značajno poboljšava kampanje širenja dezinformacija.

Izveštaj OpenAI navodi tri ključne grupe koje su iskoristile ChatGPT za sajber napade.

Jedna od njih je grupa SweetSpectre povezana sa Kinom, koja je koristila ChatGPT za izviđanje, istraživanje ranjivosti, podršku za skriptovanje, izbegavanje otkrivanja anomalija i razvoj. Grupa je takođe slala spear phishing mejlove sa zlonamernim prilozima na korporativne i lične email naloge nekih zaposlenih u OpenAI-u, ali su blokirani pre nego što su stigli do njih.

Druga grupa koja se pominje u izveštaju je CyberAv3ngers koja je povezana sa iranskom Islamskom revolucionarnom gardom. Ona je poznata po svojim napadima na industrijske upravljačke sisteme (ICS) i programabilne logičke kontrolere (PLC) koji se koriste u vodovodnim sistemima, proizvodnji i energetskim sistemima. Grupa je koristila ChatGPT za istraživanje ranjivosti, otklanjanje grešaka koda i traženje saveta za skriptovanje za napade na infrastrukturu koja je uglavnom povezana sa Izraelom, Sjedinjenim Državama ili Irskom.

Još jedna grupa koja je zloupotrebljavala ChatGPT je STORM-0817 čije je sedište u Iranu. Ova grupa je pokušala da koristi ChatGPT za otklanjanje grešaka u malveru, kreiranje alata kao što je Instagram scraper, prevođenje LinkedIn profila na persijski, kao i za podršku za otklanjanje grešaka i kodiranje u implementaciji Android malvera, zajedno sa podrškom za komandnu i kontrolnu infrastrukturu.

Delovi koda u upitima koje je dostavio napadač uz pomoć OpenAI-jevog četbota ukazuju na to da malver može ukrasti kontakte, evidenciju poziva, instalirane pakete, skrinšotove, IMEI uređaja i model, istoriju pretraživanja, fajlove sa eksterne memorije (pdf, excel dokumenti) i sadržaj preuzet na eksternu memoriju, uključujući fajlove koje šalju aplikacije za bezbednu komunikaciju kao što su WhatsApp i IMO.

Iako su ove grupe pokušavale da iskoriste ChatGPT za svoje ciljeve, OpenAI je naglasio da im veštačka inteligencija nije pružila značajne nove mogućnosti za razvoj malvera. Hakeri su mogli da uz pomoć ChatGPT-a steknu samo neke prednosti, koje su već bile ostvarljive putem javno dostupnih alata bez AI.

Iako je učešće veštačke inteligencije u sajber napadima zabrinjavajuće, OpenAI je naglasio da primenjuje mere da identifikuje i prekine ove zlonamerne aktivnosti.

Foto: Matheus Bertelli | Pexels