Veštačka inteligencija je naivna: AI pomoćnici ne prepoznaju stare onlajn prevare

Vesti, 22.08.2025, 14:00 PM

Istraživači iz Guardio Labs-a demonstrirali su novu tehniku napada pod nazivom PromptFix, koja pokazuje koliko su AI pomoćnici u pretraživačima ranjivi na prevare koje su ljudima odavno poznate. Oni su ovaj fenomen nazvali „novom erom digitalnih pretnji“ - Scamlexity. Suština napada je jednostavna, ali efikasna: lažni CAPTCHA test, koji AI prihvata kao legitiman zadatak i poslušno izvršava, dok bi ga čovek najverovatnije ignorisao.

CAPTCHA je obično bezazlen test koji potvrđuje da niste robot. Međutim, u PromptFix napadu CAPTCHA se koristi kao paravan da sakrije instrukcije napadača.

Čovek bi verovatno odmah primetio da je test lažan i ignorisao ga. Ali AI pomoćnik (Agentic AI) ga vidi kao naredbu i slepo sledi instrukcije, bez ikakvog preispitivanja. Istraživači ističu da AI pomoćnici mogu biti prevareni da daju osetljive informacije ili čak da obave kupovinu bez znanja korisnika.

U jednom testu, istraživači su napravili kopiju Walmart sajta. Kada je od veštačke inteligencije zatraženo da kupi artikal, nije oklevala. Pregledala je lažnu veb stranicu i, bez traženja dozvole, automatski unela sačuvane podatke o plaćanju i završila kupovinu na lažnom sajtu. Istraživači kažu da je veštačka inteligencija bila toliko fokusirana na završetak svog zadatka da je ignorisala očigledne znake prevare koje bi čovek primetio, poput sumnjive veb adrese i nedostatka bezbednosnih sertifikata.

U drugom testu, veštačka inteligencija je dobila fišing imejl koji je izgledao kao da je iz banke. Samouvereno je kliknula na zlonamerni link i, bez ikakvih upozorenja, otvorila lažnu stranicu za prijavu, tražeći od korisnika da unese svoje lične podatke. Korisnik se oslanja na veštačku inteligenciju, ne vidi znakove upozorenja i upada u zamku.

Zašto je ovo toliko opasno?

U budućnosti prevaranti neće morati da pokušavaju da prevare milione ljudi. Umesto toga, mogu jednostavno da prevare jedan model veštačke inteligencije i i da zatim preko njega kompromituju milione korisnika odjednom.

AI sistemi će sve više upravljati našim mejlovima, kupovinama i finansijama, pa im je potreban isti nivo zaštite koji koristimo za sebe. U suprotnom, veštačka inteligencija mogla bi postati nevidljivi saučesnik hakera, upozorili su istraživači.