Hakeri sada imaju svoj ChatGPT koji koriste za izvođenje napada

Vesti, 19.07.2023, 13:00 PM

Hakeri sada imaju svoj ChatGPT koji koriste za izvođenje napada

Hakeri imaju sopstvenu verziju ChatGPT-a - četbot nazvan WormGPT koji može da automatizuje fišing napade i olakša napade kompromitovanja poslovne e-pošte (BEC) na više jezika.

Istraživači iz kompanije SlashNext, koja pruža usluge zaštite elektronske pošte, upozorili su na zabrinjavajući novi trend u svetu sajber kriminala. SlashNext tvrdi da kreator WormGPT-a prodaje pristup svom softveru na poznatom hakerskom forumu.

WormGPT nema nikakve mere zaštite koje bi sprečile da odgovori na zlonamerne upite, za razliku od ChatGPT-a ili Googleovog Barda. WormGPT je zlonamerna verzija ChatGPT-a koja je objavljena ovog meseca. Odgovara na upite koji uključuju zlonamerni sadržaj, dok drugi poznati generativni AI alati kao što su ChatGPT ili Bing to ne mogu.

Tvorac WormGPT-a je postavio fotografije na hakerskom forumu koje pokazuju kako možete da zatražite od bota da napravi malver i zatražite savet o tome kako da osmislite napad.

WormGPT se u teoriji može koristiti i za benigne ciljeve. Ipak, treba imati na umu da je napravljen sa lošom namerom - da pomogne kriminalcima na internetu.

Tako je WormGPT počeo da se koristi za za visoko sofisticirane fišing kampanje i BEC napade. Sajber-kriminalci sada mogu da koriste AI tehnologiju da automatizuju kreiranje vrlo ubedljivih imejlova prilagođenih potencijalnim žrtvama, kao i da vode razgovore bez mnogo ličnog učešća. To povećava šanse za uspešne napade a prodaja ovog alata na crnom tržištu otvara Pandorinu kutiju najrazličitijih mogućnosti za napadače.

WormGPT ne koristi OpenAI tehnologiju. On je zasnovan na velikom jezičkom modelu otvorenog koda GPT-J razvijenom 2021. godine. Ima 6 milijardi parametara i može se pohvaliti brojnim funkcijama.

Autor WormGPT-a je za obuku WormGPT-a navodno koristio različite izvore podataka, uglavnom koncentrišući se na podatke u vezi sa malverima.

S obzirom da za razliku od ChatGPT-a, koji je ograničen etičkim filterima, WormGPT-u nedostaju bilo kakva ograničenja, ovaj alat omogućava sajber kriminalcima da zaobiđu jezička i druga ograničenja koja su tradicionalno povezana sa BEC i fišing napadima.

U uobičajenim okolnostima, BEC napade je relativno lako uočiti zbog gramatičkih grešaka ili neprirodne upotrebe jezika, jer napadačima uglavnom nedostaje jezička finoća potrebna da bi prevarili mete napada. Međutim, uz pomoć WormGPT-a, čak i oni sa minimalnim jezičkim veštinama mogu da naprave ubedljive i gramatički besprekorne imejlove.

„Sproveli smo testove fokusirajući se na BEC napade da bismo sveobuhvatno procenili potencijalne opasnosti povezane sa WormGPT-om“, rekli su istraživači. Oni su tražili WormGPT-u da napravi imejl kako bi prevario računovođu da plati lažnu fakturu. Rezultat je bio uznemirujući: besprekorno napravljen, ubedljiv i taktički lukav imejl.

Pretplata za WormGPT košta 100 evra mesečno ili 550 evra godišnje. Popust od 5 posto može se dobiti uz kod „SAGE“, a potencijalni kupci moraju kontaktirati programera preko Telegrama.

Četbotovi kao što je ChatGPT, pa čak i Googleov Bard, dizajnirani su tako da odbiju zlonamerne zahteve. Međutim, hakeri pronalaze načine da ih prevare, koristeći posebne zahteve koji mogu da zavaraju AI i omoguće značajan broj kriminalnih aktivnosti „u rasponu od pomaganja kriminalcima da ostanu anonimni do određenih zločina, uključujući terorizam i seksualnu eksploataciju dece“, upozorio je Europol u nedavno objavljenom izveštaju.

Hakeri su sada preplavili forume mračnog veba svojim sopstvenim prilagođenim modulima koji su posebno obučeni da pomognu u sajber zločinima. Predviđanja su da će naredne iteracije velikih jezičkih modela biti gore jer će imati pristup za više podataka i moći da rešavaju složenije probleme.


Prijavite se na našu mailing listu i primajte najnovije vesti (jednom dnevno) putem emaila svakog radnog dana besplatno:

Izdvojeno

Kako veštačka inteligencija pomaže u borbi protiv prevara na internetu

Kako veštačka inteligencija pomaže u borbi protiv prevara na internetu

Više od decenije, Google koristi veštačku inteligenciju za zaštitu korisnika od prevara na internetu koji žele da dobiju pristup njihovom novcu i... Dalje

Da li su vaše lozinke među najslabijim lozinkama?

Da li su vaše lozinke među najslabijim lozinkama?

Analiza više od 19 milijardi procurelih lozinki otkrila je i dalje prisutnu, široko rasprostranjenu pojavu ponovne upotrebe slabih lozinki. Lozinke,... Dalje

Prevare sa „tajanstvenim kutijama“ kradu podatke sa platnih kartica i novac sa računa kupaca

Prevare sa „tajanstvenim kutijama“ kradu podatke sa platnih kartica i novac sa računa kupaca

Istraživači kompanije Bitdefender upozorili su veoma sofisticirane prevare putem pretplata, za koje sajber kriminalci koriste „neverovatno ube... Dalje

Nalozi trećine korisnika interneta hakovani prošle godine zbog slabe lozinke

Nalozi trećine korisnika interneta hakovani prošle godine zbog slabe lozinke

Bar jedan onlajn nalog više od trećine (36%) ljudi prošle godine je hakovan zbog slabe ili ukradene lozinke, otkrilo je novo istraživanje FIDO al... Dalje

Google: Softverske ranjivosti nultog dana veoma tražene i sve ih je lakše nabaviti, a evo ko ih i zašto koristi

Google: Softverske ranjivosti nultog dana veoma tražene i sve ih je lakše nabaviti, a evo ko ih i zašto koristi

Sajber kriminalci su koristili najmanje 75 bezbednosnih ranjivosti za koje proizvođači softvera nisu znali - takozvane nulte ranjivosti - otkriva iz... Dalje