Hakeri sada imaju svoj ChatGPT koji koriste za izvođenje napada

Vesti, 19.07.2023, 13:00 PM

Hakeri imaju sopstvenu verziju ChatGPT-a - četbot nazvan WormGPT koji može da automatizuje fišing napade i olakša napade kompromitovanja poslovne e-pošte (BEC) na više jezika.

Istraživači iz kompanije SlashNext, koja pruža usluge zaštite elektronske pošte, upozorili su na zabrinjavajući novi trend u svetu sajber kriminala. SlashNext tvrdi da kreator WormGPT-a prodaje pristup svom softveru na poznatom hakerskom forumu.

WormGPT nema nikakve mere zaštite koje bi sprečile da odgovori na zlonamerne upite, za razliku od ChatGPT-a ili Googleovog Barda. WormGPT je zlonamerna verzija ChatGPT-a koja je objavljena ovog meseca. Odgovara na upite koji uključuju zlonamerni sadržaj, dok drugi poznati generativni AI alati kao što su ChatGPT ili Bing to ne mogu.

Tvorac WormGPT-a je postavio fotografije na hakerskom forumu koje pokazuju kako možete da zatražite od bota da napravi malver i zatražite savet o tome kako da osmislite napad.

WormGPT se u teoriji može koristiti i za benigne ciljeve. Ipak, treba imati na umu da je napravljen sa lošom namerom - da pomogne kriminalcima na internetu.

Tako je WormGPT počeo da se koristi za za visoko sofisticirane fišing kampanje i BEC napade. Sajber-kriminalci sada mogu da koriste AI tehnologiju da automatizuju kreiranje vrlo ubedljivih imejlova prilagođenih potencijalnim žrtvama, kao i da vode razgovore bez mnogo ličnog učešća. To povećava šanse za uspešne napade a prodaja ovog alata na crnom tržištu otvara Pandorinu kutiju najrazličitijih mogućnosti za napadače.

WormGPT ne koristi OpenAI tehnologiju. On je zasnovan na velikom jezičkom modelu otvorenog koda GPT-J razvijenom 2021. godine. Ima 6 milijardi parametara i može se pohvaliti brojnim funkcijama.

Autor WormGPT-a je za obuku WormGPT-a navodno koristio različite izvore podataka, uglavnom koncentrišući se na podatke u vezi sa malverima.

S obzirom da za razliku od ChatGPT-a, koji je ograničen etičkim filterima, WormGPT-u nedostaju bilo kakva ograničenja, ovaj alat omogućava sajber kriminalcima da zaobiđu jezička i druga ograničenja koja su tradicionalno povezana sa BEC i fišing napadima.

U uobičajenim okolnostima, BEC napade je relativno lako uočiti zbog gramatičkih grešaka ili neprirodne upotrebe jezika, jer napadačima uglavnom nedostaje jezička finoća potrebna da bi prevarili mete napada. Međutim, uz pomoć WormGPT-a, čak i oni sa minimalnim jezičkim veštinama mogu da naprave ubedljive i gramatički besprekorne imejlove.

„Sproveli smo testove fokusirajući se na BEC napade da bismo sveobuhvatno procenili potencijalne opasnosti povezane sa WormGPT-om“, rekli su istraživači. Oni su tražili WormGPT-u da napravi imejl kako bi prevario računovođu da plati lažnu fakturu. Rezultat je bio uznemirujući: besprekorno napravljen, ubedljiv i taktički lukav imejl.

Pretplata za WormGPT košta 100 evra mesečno ili 550 evra godišnje. Popust od 5 posto može se dobiti uz kod „SAGE“, a potencijalni kupci moraju kontaktirati programera preko Telegrama.

Četbotovi kao što je ChatGPT, pa čak i Googleov Bard, dizajnirani su tako da odbiju zlonamerne zahteve. Međutim, hakeri pronalaze načine da ih prevare, koristeći posebne zahteve koji mogu da zavaraju AI i omoguće značajan broj kriminalnih aktivnosti „u rasponu od pomaganja kriminalcima da ostanu anonimni do određenih zločina, uključujući terorizam i seksualnu eksploataciju dece“, upozorio je Europol u nedavno objavljenom izveštaju.

Hakeri su sada preplavili forume mračnog veba svojim sopstvenim prilagođenim modulima koji su posebno obučeni da pomognu u sajber zločinima. Predviđanja su da će naredne iteracije velikih jezičkih modela biti gore jer će imati pristup za više podataka i moći da rešavaju složenije probleme.