Facebook razvija novi metod za borbu protiv dipfejka

Društvene mreže, 18.06.2021, 12:30 PM

Facebook razvija novi metod za borbu protiv dipfejka

Facebook planira dalje istraživanje deepfake tehnologije kako bi se zaštitio od budućih pretnji, iako to trenutno nije veliki problem za kompaniju, objavio je The Verge.

Kompanija nastavlja da finansira istraživanja o ovoj tehnologiji a najnovije je ono koje sprovode naučnici sa Državnog univerziteta u Mičigenu (MSU). Ono je usredsređeno na razvoj metode za reverzno inženjerstvo za deepfake: analiziranje slika generisanih veštačkom inteligencijom kako bi se otkrile karakteristike modela mašinskog učenja koji stoji iza njih.

Ovo je veoma važno jer bi moglo da pomogne Facebooku da pronađe sajber kriminalce koji šire deepfake na društvenim mrežama. Ovaj sadržaj može uključivati lažne informacije, ali i pornografiju. Deepfake tehnologija se veoma često koristi za ovo potonje.

Prethodna istraživanja u ovoj oblasti uspela su da identifikuju koji poznati AI model je stvorio deepfake, ali ova studija ide korak dalje identifikujući arhitektonske karakteristike nepoznatih modela. Ove karakteristike, poznate kao hiperparametri, moraju se postaviti u svakom modelu mašinskog učenja poput delova motora. Zajedno ostavljaju jedinstveni otisak prsta na gotovoj slici koji se može koristiti za utvrđivanje izvora.

Prepoznavanje karakteristika nepoznatih modela je presudno jer je deepfake softver izuzetno lako prilagoditi. To bi moglo omogućiti kriminalcima da prikriju tragove kada ih istražitelji pokušaju pratiti, smatra Tal Hasner, Facebookov direktor istraživanja.

„Pretpostavimo da neko generiše puno različitih deepfakeova i postavlja ih na različite platforme različitim korisnicima“, kaže Hasner. „Ako je ovo novi AI model koji niko ranije nije video, tada je vrlo malo toga iz prošlosti što smo mogli da kažemo o njemu. Sada možemo da kažemo: „Pogledajte, slika koja je ovde postavljena, slika koja je tamo postavljena, sve su poticale iz istog modela." A ako bismo mogli da zaplenimo laptop ili računar koji je korišćen za generisanje sadržaja, moći ćemo da kažemo: „Ovo je krivac“.“

On je uporedio ovo sa forenzičkim tehnikama koje se koriste za identifikaciju modela kamere koja je korišćena da bi se napravila fotografija.

Facebook je prošle godine održao takmičenje za otkrivanje lažnih videa, a pobednički sistem je mogao da otkrije filmove kojima se upravlja veštačkom inteligencijom u samo 65,1% slučajeva.


Prijavite se na našu mailing listu i primajte najnovije vesti (jednom dnevno) putem emaila svakog radnog dana besplatno:

Izdvojeno

Instagram testira novi metod verifikacije starosti korisnika skeniranjem lica

Instagram testira novi metod verifikacije starosti korisnika skeniranjem lica

Instagram testira nove opcije za verifikaciju starosti korisnika, uključujući AI alat koji je razvila kompanija Yoti, koji procenjuje koliko imate ... Dalje

Twitter se javno izvinio korisnicima zbog zloupotrebe njihovih podataka

Twitter se javno izvinio korisnicima zbog zloupotrebe njihovih podataka

Twitter je u sredu objavio izvinjenje zbog toga što je bez znanja i saglasnosti korisnika koristio podatke o bezbednosti naloga za ciljano oglašavan... Dalje

Otkrivena velika fišing kampanja na Facebooku, napadači za nekoliko meseci zaradili milione dolara

Otkrivena velika fišing kampanja na Facebooku, napadači za nekoliko meseci zaradili milione dolara

Istraživači iz američke firme za sajber-bezbednost PIXM, sa sedištem u Njujorku, otkrili su veliku fišing operaciju koja je zloupotrebljavala Fac... Dalje

LinkedIn otkriva sve više prevara, lažnih profila i spama na platformi

LinkedIn otkriva sve više prevara, lažnih profila i spama na platformi

LinkedIn otkriva i blokira sve više lažnih naloga, zahvaljujući poboljšanjima u svojim automatizovanim sistemima, ali poboljšanja su primetna i ... Dalje

Meta promenila Politiku privatnosti za Facebook, Instagram i Messenger

Meta promenila Politiku privatnosti za Facebook, Instagram i Messenger

U nastojanju da Politiku privatnosti, ranije poznatu kao Politika podataka, učini manje komplikovanom, Meta je ponovo napisala i praktično redizajni... Dalje