Istraživanje otkriva: Ljudi teško prepoznaju dipfejk govor a to bi moglo dovesti do prevara i širenja dezinformacija
Vesti, 04.08.2023, 10:30 AM

Ljudi ne mogu da prepoznaju dipfejk govor u 27% slučajeva, otkrila je studija koju su sproveli naučnici sa Univerzitetskog koledža u Londonu (UCL).
U studiji je učestvovalo 529 ljudi kojima je pušteno 100 stvarnih i dipfejk govora. Njihov zadatak je bio da pokušaju da identifikuju dipfejk. Učesnici studije su mogli da identifikuju lažni govor samo u 73% slučajeva, iako se preciznost detekcije poboljšala u proseku za 3,84% nakon što su prošli obuku za prepoznavanje lažnog govora.
Istraživači su koristili algoritam za pretvaranje teksta u govor (TTS) obučen na dva javno dostupna skupa podataka da bi proizveli dipfejk uzorke govora i to na engleskom i kineskom mandarinskom kako bi se saznalo da li jezik može da utiče na performanse otkrivanja i obrazloženje donošenja procene.
„Naši nalazi potvrđuju da ljudi nisu u stanju da pouzdano otkriju lažni govor, bez obzira da li su prošli obuku koja će im pomoći da uoče veštački sadržaj. Takođe je vredno napomenuti da su uzorci koje smo koristili u ovoj studiji kreirani sa algoritmima koji su relativno stari, što postavlja pitanje da li bi ljudi bili manje sposobni da otkriju dipfejk govor kreiran korišćenjem najsofisticiranije tehnologije koja je dostupna sada i u budućnosti.“
Studija je prva koja procenjuje sposobnost ljudi da prepoznaju veštački generisan govor na jeziku koji nije engleski. Istraživači sada planiraju da razviju bolje automatizovane detektore govora kao deo napora da se stvore mogućnosti detekcije dipfejk zvuka i slika.
Dipfejk tehnologija - sintetički mediji generisani pomoću veštačke inteligencije i algoritama mašinskog učenja - poslednjih godina postaje sve realističnija. To uključuje manipulacije zvuka, videa i slika ili potpuno lažne kreacije sadržaja pojedinaca, često javnih ličnosti.
2019. godine, izvršni direktor jedne energetske kompanije sa sedištem u Velikoj Britaniji prevaren je da prebaci 243.000 dolara nakon što je dobio telefonski poziv od nekoga ko je tvrdio da je nemački izvršni direktor kompanije. Prevaranti su koristili AI tehnologiju za lažiranje glasa. Ovo je bio prvi zabeleženi slučaj dipfejk prevare.
U drugom slučaju iz 2021. godine, jedna banka u Hong Kongu prevarena je za 35 miliona dolara kada su prevaranti koji su koristili tehnologiju da kloniraju glas direktora kompanije koji se sprema da izvrši akviziciju, zatražili od banke da odobri transfere vredne 35 miliona dolara.
Sve je više poziva da se reguliše dipfejk zbog njegovog potencijala da se koristi za prevare i širenje dezinformacija, kao što je to uradila Velika Britanija čiji zakon o bezbednosti na mreži uključuje odredbe kojima se kriminalizuje deljenje „dipfejk pornografije“.
Foto: Ali Madad Sakhirani

Izdvojeno
Microsoft uvodi podršku za pristupne ključeve u Windows 11

Microsoft uvodi podršku za pristupne ključeve (passkeys) u operativnom sistemu Windows 11 kao deo velikog ažuriranja operativnog sistema. Ova funkc... Dalje
Prevaranti na internetu koriste stare metode ali su ubedljiviji nego ikad pre

Prema podacima kompanije Norton, prevare su najznačajnija pretnja naših digitalnih života, i trenutno su dostigle najviši nivo u istoriji. Telemet... Dalje
Signal dobija novu bezbednosnu funkciju koja će nam biti potrebna u budućnosti
.jpg)
Mnogi ljudi sada shvataju prednosti end-to-end enkripcije (E2E) poruka koje šalju i primaju. Kako raste popularnost šifrovane komunikacije, kompanij... Dalje
Hakeri koji su hakovali kockarnice u Las Vegasu, napali i druge kompanije

Hakeri koji su poslednjih nedelja napali poznate kockarnice u vlasništvu kompanija MGM Resorts International i Caesars Entertainment, takođe su hako... Dalje
Microsoft greškom otkrio 38TB podataka, ali kompanija tvrdi da podaci korisnika nisu ugroženi
.jpg)
Microsoft je preko javnog GitHub repozitorijuma nenamerno otkrio ogromnu količinu osetljivih internih informacija koje datiraju pre više od tri godi... Dalje
Pratite nas
Nagrade