Facebook razvija novi metod za borbu protiv dipfejka

Društvene mreže, 18.06.2021, 12:30 PM

Facebook razvija novi metod za borbu protiv dipfejka

Facebook planira dalje istraživanje deepfake tehnologije kako bi se zaštitio od budućih pretnji, iako to trenutno nije veliki problem za kompaniju, objavio je The Verge.

Kompanija nastavlja da finansira istraživanja o ovoj tehnologiji a najnovije je ono koje sprovode naučnici sa Državnog univerziteta u Mičigenu (MSU). Ono je usredsređeno na razvoj metode za reverzno inženjerstvo za deepfake: analiziranje slika generisanih veštačkom inteligencijom kako bi se otkrile karakteristike modela mašinskog učenja koji stoji iza njih.

Ovo je veoma važno jer bi moglo da pomogne Facebooku da pronađe sajber kriminalce koji šire deepfake na društvenim mrežama. Ovaj sadržaj može uključivati lažne informacije, ali i pornografiju. Deepfake tehnologija se veoma često koristi za ovo potonje.

Prethodna istraživanja u ovoj oblasti uspela su da identifikuju koji poznati AI model je stvorio deepfake, ali ova studija ide korak dalje identifikujući arhitektonske karakteristike nepoznatih modela. Ove karakteristike, poznate kao hiperparametri, moraju se postaviti u svakom modelu mašinskog učenja poput delova motora. Zajedno ostavljaju jedinstveni otisak prsta na gotovoj slici koji se može koristiti za utvrđivanje izvora.

Prepoznavanje karakteristika nepoznatih modela je presudno jer je deepfake softver izuzetno lako prilagoditi. To bi moglo omogućiti kriminalcima da prikriju tragove kada ih istražitelji pokušaju pratiti, smatra Tal Hasner, Facebookov direktor istraživanja.

„Pretpostavimo da neko generiše puno različitih deepfakeova i postavlja ih na različite platforme različitim korisnicima“, kaže Hasner. „Ako je ovo novi AI model koji niko ranije nije video, tada je vrlo malo toga iz prošlosti što smo mogli da kažemo o njemu. Sada možemo da kažemo: „Pogledajte, slika koja je ovde postavljena, slika koja je tamo postavljena, sve su poticale iz istog modela." A ako bismo mogli da zaplenimo laptop ili računar koji je korišćen za generisanje sadržaja, moći ćemo da kažemo: „Ovo je krivac“.“

On je uporedio ovo sa forenzičkim tehnikama koje se koriste za identifikaciju modela kamere koja je korišćena da bi se napravila fotografija.

Facebook je prošle godine održao takmičenje za otkrivanje lažnih videa, a pobednički sistem je mogao da otkrije filmove kojima se upravlja veštačkom inteligencijom u samo 65,1% slučajeva.


Prijavite se na našu mailing listu i primajte najnovije vesti (jednom dnevno) putem emaila svakog radnog dana besplatno:

Izdvojeno

Instagram uvodi nova bezbednosna podešavanja za tinejdžere

Instagram uvodi nova bezbednosna podešavanja za tinejdžere

Instagram uvodi nova bezbednosna podešavanja za mlade korisnike: novi nalozi za decu mlađu od 16 godina biće podrazumevano privatni, biće blokiran... Dalje

Twitter testira nova obaveštenja o suspendovanim i zaključanim nalozima

Twitter testira nova obaveštenja o suspendovanim i zaključanim nalozima

Twitter testira nova obaveštenja za korisnike koji prekrše njegova pravila iz kojih mogu saznati da im je nalog suspendovan ili zaključan ili stavl... Dalje

Twitter otkrio da korisnici slabo prihvataju zaštitu naloga dvofaktorskom autentifikacijom

Twitter otkrio da korisnici slabo prihvataju zaštitu naloga dvofaktorskom autentifikacijom

U najnovijem izveštaju o bezbednosti objavljenoj na stranici Transparentnost, Twitter je otkrio da je od jula do decembra 2020. godine za samo 2,3% s... Dalje

Instagram testira novu opciju za zaštitu korisnika od vređanja i uznemiravanja

Instagram testira novu opciju za zaštitu korisnika od vređanja i uznemiravanja

Instagram testira novu funkciju pod nazivom „Ograničenja“ koja će omogućiti korisnicima da zaključaju svoje naloge i ograniče sve po... Dalje

Facebook otpustio 52 zaposlena zbog špijuniranja korisnika, uglavnom žena

Facebook otpustio 52 zaposlena zbog špijuniranja korisnika, uglavnom žena

Facebook je 2014. i 2015. godine otpustio 52 zaposlena zbog zloupotrebe pristupa podacima korisnika društvene mreže. Među onima koji su dobili otka... Dalje