Zloupotreba veštačke inteligencije u prevarama na TikToku

Društvene mreže, 16.11.2023, 10:30 AM

TikTok se pokazao kao plodno tlo za finansijske prevare, posebno prevare koje uključuju kriptovalute, upozorava kompanija Avast. Širok domet platforme i njena privlačnost za mlađu publiku, razlozi su zbog kojih je TikTok zanimljiv prevarantima. Na TikToku je primetan alarmantni trend finansijskih prevara zasnovanih na veštačkoj inteligenciji, gde se deepfake tehnologija koristi da bi se oponašale poznate ličnosti koje mame korisnike u prevare sa kriptovalutama.

U primeru koji navodi Avast, korisnici su privučeni da se prijave na navodnu berzu kriptovaluta koristeći promotivni kod, koji navodno dodaje njihovom nalogu značajnu količinu bitkoina. Međutim, nakon pokušaja povlačenja ovih sredstava, platforma nalaže preliminarni transfer bitkoina da bi se „verifikovao” korisnički nalog. Žrtve koje ispune ovakav zahtev, ne samo da će ostati bez obećanog bitkoina, već su i sva njihova sredstva preneta na platformu nepovratno izgubljena jer su već u rukama sajber kriminalaca koji stoje iza ove prevare.

U srcu ovih prevara je korišćenje veštačke inteligencije (AI) za pravljenje lažnih video snimaka poznatih ličnosti kao što su Ilon Mask, Mr. Beast, Sem Altman, Voren Bafet, Džo Rogan i Donald Tramp, od kojih navodno dolaze preporuke za berze kriptovaluta. Tako se korisnici mame obećanjima o nagradama.

Zlonamerna upotreba veštačke inteligencije, posebno deepfake tehnologije, ukazuje na sve veću sofisticiranost sajber prevaranata. Ovaj zabrinjavajući trend sajber pretnji na platformama društvenih medija predstavlja primer potencijala veštačke inteligencije u povećanju efikasnosti finansijskih prevara. Deepfake tehnologija postaje sve dostupnija, što još više otežava razlikovanje stvarnih preporuka od lažiranih.

U početku su ovakve prevare bile ograničene na publiku koja govori engleski, ali u međuvremenu su prevaziđene jezičke barijere, i one su sada prisutne i u regionima u kojima se ne govori engleski. Tako su primećene prevare na različitim jezicima, uključujući španski, nemački, italijanski i francuski.

Platforme poput YouTubea su takođe korišćene za širenje ovakvih prevara, ali TikTok, sa više od milijardu aktivnih korisnika mesečno, postaje primaran za prevarante.

“Kada smo počeli da blokiramo pristup ovim prevarama, zaštitili smo nekoliko hiljada korisnika za nekoliko dana”, kažu iz Avasta.

“TikTok prevare nisu izolovani incidenti, već pokazatelji rastućeg trenda sajber pretnji vođenih veštačkom inteligencijom. Lakoća širenja dezinformacija putem deepfake tehnologije, zajedno sa privlačnošću brze finansijske dobiti, moćna je kombinacija koja može utrti put sofisticiranijim prevarama u budućnosti. Potencijalne posledice se protežu dalje od individualnog ekonomskog gubitka do šire erozije poverenja u digitalne platforme i značajne ličnosti.”

Foto: Solen Feyissa / Unsplash