Facebook razvija novi metod za borbu protiv dipfejka

Društvene mreže, 18.06.2021, 12:30 PM

Facebook razvija novi metod za borbu protiv dipfejka

Facebook planira dalje istraživanje deepfake tehnologije kako bi se zaštitio od budućih pretnji, iako to trenutno nije veliki problem za kompaniju, objavio je The Verge.

Kompanija nastavlja da finansira istraživanja o ovoj tehnologiji a najnovije je ono koje sprovode naučnici sa Državnog univerziteta u Mičigenu (MSU). Ono je usredsređeno na razvoj metode za reverzno inženjerstvo za deepfake: analiziranje slika generisanih veštačkom inteligencijom kako bi se otkrile karakteristike modela mašinskog učenja koji stoji iza njih.

Ovo je veoma važno jer bi moglo da pomogne Facebooku da pronađe sajber kriminalce koji šire deepfake na društvenim mrežama. Ovaj sadržaj može uključivati lažne informacije, ali i pornografiju. Deepfake tehnologija se veoma često koristi za ovo potonje.

Prethodna istraživanja u ovoj oblasti uspela su da identifikuju koji poznati AI model je stvorio deepfake, ali ova studija ide korak dalje identifikujući arhitektonske karakteristike nepoznatih modela. Ove karakteristike, poznate kao hiperparametri, moraju se postaviti u svakom modelu mašinskog učenja poput delova motora. Zajedno ostavljaju jedinstveni otisak prsta na gotovoj slici koji se može koristiti za utvrđivanje izvora.

Prepoznavanje karakteristika nepoznatih modela je presudno jer je deepfake softver izuzetno lako prilagoditi. To bi moglo omogućiti kriminalcima da prikriju tragove kada ih istražitelji pokušaju pratiti, smatra Tal Hasner, Facebookov direktor istraživanja.

„Pretpostavimo da neko generiše puno različitih deepfakeova i postavlja ih na različite platforme različitim korisnicima“, kaže Hasner. „Ako je ovo novi AI model koji niko ranije nije video, tada je vrlo malo toga iz prošlosti što smo mogli da kažemo o njemu. Sada možemo da kažemo: „Pogledajte, slika koja je ovde postavljena, slika koja je tamo postavljena, sve su poticale iz istog modela." A ako bismo mogli da zaplenimo laptop ili računar koji je korišćen za generisanje sadržaja, moći ćemo da kažemo: „Ovo je krivac“.“

On je uporedio ovo sa forenzičkim tehnikama koje se koriste za identifikaciju modela kamere koja je korišćena da bi se napravila fotografija.

Facebook je prošle godine održao takmičenje za otkrivanje lažnih videa, a pobednički sistem je mogao da otkrije filmove kojima se upravlja veštačkom inteligencijom u samo 65,1% slučajeva.


Prijavite se na našu mailing listu i primajte najnovije vesti (jednom dnevno) putem emaila svakog radnog dana besplatno:

Izdvojeno

Instagram pokreće ''Odmori se'' i druge funkcije za zaštitu dece

Instagram pokreće ''Odmori se'' i druge funkcije za zaštitu dece

Instagram je pokrenuo niz novih i eksperimentalnih funkcija koje imaju za cilj da aplikaciju učine sigurnijim mestom za tinejdžere, najavio je direk... Dalje

Fišing napadi na verifikovane Twitter naloge

Fišing napadi na verifikovane Twitter naloge

Verifikovani Twitter nalozi meta su fišing napada, upozorio je BleepingComputer. Verifikovani nalozi na Twitteru su oni sa plavom oznakom a obično p... Dalje

Meta proširuje program napredne zaštite naloga Facebook Protect

Meta proširuje program napredne zaštite naloga Facebook Protect

Meta, kompanija ranije poznata kao Facebook, najavila je proširenje svog bezbednosnog programa Facebook Protect i uključila u njega branioce ljudski... Dalje

Tviter zabranio objavljivanje tuđih privatnih fotografija i video snimaka

Tviter zabranio objavljivanje tuđih privatnih fotografija i video snimaka

Tviter je najavio proširenje politike koja se odnosi na privatne informacije kako bi obuhvatio i privatne medije, odnosno zabranu deljenja fotografij... Dalje

Društvene mreže mogle bi biti primorane da otkriju identitet onih koji ostavljaju klevetničke komentare

Društvene mreže mogle bi biti primorane da otkriju identitet onih koji ostavljaju klevetničke komentare

Premijer Australije Skot Morison najavio je novi zakon koji će naterati internet platforme da otkriju identitet korisnika koji stoje iza klevetnički... Dalje