Hiljade AI profila u aplikacijama za upoznavanje navodile korisnike da plaćaju razgovore

Vesti, 17.09.2026, 10:00 AM

Više od 4.700 izmišljenih AI persona razgovaralo je sa najmanje 25.000 korisnika aplikacija za upoznavanje koji nisu znali da sa druge strane često nije stvarna osoba. Za samo dve nedelje razmenjeno je oko 2,36 miliona poruka, dok su korisnici morali da kupuju virtuelne kredite kako bi nastavili razgovore.

Mreža je obuhvatala više od 20 aplikacija za upoznavanje, među kojima su Dora, Doni, Romi, Luma, Jovia i Kira. Predstavljale su se kao platforme za upoznavanje stvarnih ljudi: Dora je, na primer, obećavala prostor za upoznavanje ljudi sa sličnim vrednostima, Romi povezivanje i razgovor sa „stvarnim ljudima“, a Doni upoznavanje ljudi iz okoline.

Mrežu je otkrio Anthropic nakon što je na svom AI modelu Claude uočio neuobičajenu aktivnost. Istraga je pokazala da je Claude korišćen za vođenje velikog broja razgovora u aplikacijama za upoznavanje.

Tokom dve nedelje u aprilu Anthropic je identifikovao više od 4.700 različitih AI persona koje su razgovarale sa najmanje 25.000 ljudi i razmenile oko 2,36 miliona poruka. Oko tri četvrtine profila koje su korisnici viđali činile su AI persone, dok je iza približno četvrtine stajala stvarna osoba.

Ali ni te stvarne osobe nisu bili korisnici koji su tražili partnera. Operater je angažovao ljude koji su se uključivali onda kada je bilo potrebno da se otkloni sumnja korisnika — na primer, tokom video-poziva ili povezivanja preko društvenih mreža. Čak su i njima odgovore pomagali da sastave AI sistemi: drugi model nudio im je tri moguća odgovora na poruku, od kojih su birali jedan.

AI persone su, sa druge strane, imale instrukciju da nikada ne otkriju da su automatizovane i da pronađu izgovor kada korisnik zatraži fotografiju ili video-poziv. Sistem je mogao da generiše i lažne lajkove, posete profilu i unapred snimljene video-snimke, kao i da prati koji korisnici počinju da sumnjaju da razgovaraju sa botom.

Cilj nije bio da navodni partner posle nedelja ili meseci razgovora zatraži novac, kao u klasičnim romantičnim prevarama. Same aplikacije bile su način zarade. Slanje poruka i druge interakcije trošile su virtuelne kredite, pa su korisnici morali da kupuju nove kako bi nastavili komunikaciju sa osobama za koje su verovali da su stvarne.

Bezbednosni istraživač Metju Gor-Kormanik, koji je za The Verge detaljnije analizirao aplikacije, i sam je iskusio kako je sistem funkcionisao. Dok je istraživao aplikaciju Dora, dobio je video-poziv od „Dženifer“, navodno 41-godišnje crvenokose žene. Kada se javio, nije video nju, već samo tapiseriju koja se pomerala i čuo neobične zvuke.

Posle poziva „Dženifer“ mu je poslala poruku da je njegov glas bio bolji nego što je očekivala. Problem je bio u tome što njegov mikrofon tokom poziva uopšte nije bio povezan.

Gor-Kormanik je zatim analizirao aplikacije Doni, Dora, Jovia, Kira, Nalo i Romi i utvrdio da dele isti kod, arhitekturu servera i neke API-je. Došao je i do interne dokumentacije operatera, na kineskom jeziku, koja je greškom bila uključena u aplikaciju Doni i opisivala način na koji operacija funkcioniše.

Anthropic je operaciju povezao sa akterom iz Kine na osnovu interne dokumentacije na kineskom jeziku i infrastrukture koju je koristio. Kompanija navodi da su aplikacije bile deo organizovane operacije koja je koristila više različitih AI sistema: Claude je vodio razgovore, drugi model pomagao je angažovanim radnicima da odgovaraju na poruke, dok je još jedan korišćen za obradu fotografija.

Operateri su pokušavali i da izbegnu kontrole Google Play i Apple App Store prodavnica. Prema dokumentaciji koju je analizirao Anthropic, aplikacije su tokom procesa provere mogle da se ponašaju kao obične aplikacije za upoznavanje, dok bi se nakon odobrenja aktivirali AI profili i sistem naplate. Veze između više od 20 aplikacija prikrivane su različitim imenima programskih komponenti i različitim identitetima programera.

Anthropic je blokirao naloge povezane sa operacijom i podatke podelio sa Appleom i Googleom. Većina aplikacija je u međuvremenu uklonjena iz prodavnica, ali neke su bile dostupne još početkom septembra. Kada je The Verge proveravao 16. septembra, Kira je još bila dostupna u Google Play prodavnici, a Gor-Kormanik je potvrdio da koristi isti kod kao ostale aplikacije iz mreže.

Ovaj slučaj pokazuje kako AI može da promeni razmere ovakvih prevara. Umesto velikog broja ljudi koji pojedinačno vode razgovore sa potencijalnim žrtvama, jedan sistem može istovremeno da održava hiljade različitih persona i razgovora, dok se stvarni ljudi uključuju samo kada je potrebno da korisnika dodatno uvere da iza profila zaista stoji osoba.