Facebook razvija novi metod za borbu protiv dipfejka

Društvene mreže, 18.06.2021, 12:30 PM

Facebook razvija novi metod za borbu protiv dipfejka

Facebook planira dalje istraživanje deepfake tehnologije kako bi se zaštitio od budućih pretnji, iako to trenutno nije veliki problem za kompaniju, objavio je The Verge.

Kompanija nastavlja da finansira istraživanja o ovoj tehnologiji a najnovije je ono koje sprovode naučnici sa Državnog univerziteta u Mičigenu (MSU). Ono je usredsređeno na razvoj metode za reverzno inženjerstvo za deepfake: analiziranje slika generisanih veštačkom inteligencijom kako bi se otkrile karakteristike modela mašinskog učenja koji stoji iza njih.

Ovo je veoma važno jer bi moglo da pomogne Facebooku da pronađe sajber kriminalce koji šire deepfake na društvenim mrežama. Ovaj sadržaj može uključivati lažne informacije, ali i pornografiju. Deepfake tehnologija se veoma često koristi za ovo potonje.

Prethodna istraživanja u ovoj oblasti uspela su da identifikuju koji poznati AI model je stvorio deepfake, ali ova studija ide korak dalje identifikujući arhitektonske karakteristike nepoznatih modela. Ove karakteristike, poznate kao hiperparametri, moraju se postaviti u svakom modelu mašinskog učenja poput delova motora. Zajedno ostavljaju jedinstveni otisak prsta na gotovoj slici koji se može koristiti za utvrđivanje izvora.

Prepoznavanje karakteristika nepoznatih modela je presudno jer je deepfake softver izuzetno lako prilagoditi. To bi moglo omogućiti kriminalcima da prikriju tragove kada ih istražitelji pokušaju pratiti, smatra Tal Hasner, Facebookov direktor istraživanja.

„Pretpostavimo da neko generiše puno različitih deepfakeova i postavlja ih na različite platforme različitim korisnicima“, kaže Hasner. „Ako je ovo novi AI model koji niko ranije nije video, tada je vrlo malo toga iz prošlosti što smo mogli da kažemo o njemu. Sada možemo da kažemo: „Pogledajte, slika koja je ovde postavljena, slika koja je tamo postavljena, sve su poticale iz istog modela." A ako bismo mogli da zaplenimo laptop ili računar koji je korišćen za generisanje sadržaja, moći ćemo da kažemo: „Ovo je krivac“.“

On je uporedio ovo sa forenzičkim tehnikama koje se koriste za identifikaciju modela kamere koja je korišćena da bi se napravila fotografija.

Facebook je prošle godine održao takmičenje za otkrivanje lažnih videa, a pobednički sistem je mogao da otkrije filmove kojima se upravlja veštačkom inteligencijom u samo 65,1% slučajeva.


Prijavite se na našu mailing listu i primajte najnovije vesti (jednom dnevno) putem emaila svakog radnog dana besplatno:

Izdvojeno

Zbog greške neki korisnici Twittera ostali prijavljeni na drugim uređajima posle resetovanja lozinke

Zbog greške neki korisnici Twittera ostali prijavljeni na drugim uređajima posle resetovanja lozinke

Twitter je odjavio neke korisnike nakon što je rešio grešku zbog koje su neki Twitter nalozi ostali prijavljeni na nekim mobilnim uređajima nakon ... Dalje

Zakonodavci vrše pritisak na Zakerberga zbog kripto prevara na Instagramu, Facebooku i WhatsAppu

Zakonodavci vrše pritisak na Zakerberga zbog kripto prevara na Instagramu, Facebooku i WhatsAppu

Zbog svoje veličine i dosega, mnoge platforme u vlasništvu Mete kao što su Facebook, Instagram i WhatsApp često koriste prevaranti. Priroda ovih p... Dalje

Bivši šef bezbednosti Twittera svedočio pred Kongresom: Twitter obmanjuje javnost o bezbednosti platforme

Bivši šef bezbednosti Twittera svedočio pred Kongresom: Twitter obmanjuje javnost o bezbednosti platforme

Bivši direktor bezbednosti Twittera, Piter Zatko, rekao je američkim zakonodavcima da kompanija „obmanjuje javnost” o tome koliko je pla... Dalje

Bivši šef bezbednosti Twittera tvrdi da je kompanija lagala o botovima i bezbednosti platforme, Kongres najavio istragu

Bivši šef bezbednosti Twittera tvrdi da je kompanija lagala o botovima i bezbednosti platforme, Kongres najavio istragu

Američki Kongres istražuje tvrdnje koje je izneo Peiter „Madž“ Zatko, koji je otpušten sa mesta šefa sektora za bezbednost Twittera. ... Dalje

Aplikacije Facebook i Instagram prate korisnike čak i kada im izričito kažu da to ne rade

Aplikacije Facebook i Instagram prate korisnike čak i kada im izričito kažu da to ne rade

Kada posetite veb sajt koji ste videli na Facebooku i Instagramu, verovatno ste primetili da niste preusmereni na pretraživač po vašem izboru, vec... Dalje