Instagram veštačkom inteligencijom protiv nasilja i uznemiravanja

Društvene mreže, 10.10.2018, 10:30 AM

Instagram veštačkom inteligencijom protiv nasilja i uznemiravanja

Prošle godine, Instagram je predstavio poboljšani filter za komentare koji koristi mašinsko učenje za prepoznavanje uvredljivih reči i rečenica. Sada kompanija uvodi isto to za fotografije i naslove. Instagram je objavio da će koristiti veštačku inteligenciju za "proaktivno otkrivanje nasilja" pre nego što se sadržaj pošalje moderatorima Instagrama koji će ga pregledati.

Nova funkcija će biti dostupna korisnicima u narednim nedeljama. Ista tehnologija se takođe dodaje u video snimke uživo kako bi se filtrirali komentari.

Portparol kompanije Instagram je izjavio da ova tehnologija može otkriti maltretiranje i uznemiravanje, kao što su napadi na pojavu ili karakter osobe i pretnje nečijoj dobrobiti ili zdravlju.

Na primer, ova tehnologija može identifikovati taktike nasilja kao što su upoređivanje, rangiranje i ocenjivanje slika i naslova, kao što je slika sa podeljenim ekranom u kojoj se osoba upoređuje sa nekim drugim ali na negativan način. Nejasno je šta još tehnologija može detektovati i da li će funkcionisati na slikama bez naslova.

Ovo je prva novina od kada je za direktora Instagrama imenovan Adam Moseri koji je preuzeo tu funkciju nakon odlaska suosnivača Kevina Sistroma i Majka Krigera prošlog meseca. Do razlaza je došlo zbog povećanih tenzija između njih i matične kompanije Facebook, koja se često mešala u Instagramove odluke o proizvodima.

"Online nasilje je složeno, a mi znamo da još toga moramo da uradimo da bi se dodatno ograničilo nasilništvo i širila ljubaznost na Instagramu", rekao je Moseri.

Iako je poverenje javnosti u Facebook sve manje, Instagram koji je popularan i profitabilan, ostaje svetla tačka u proizvodnoj liniji kompanije, još uvek neoštećen skandalima koji potresaju Facebook. U tom kontekstu, upotreba veštačke inteligencije u suzbijanju uvredljivih sadržaja i čuvanje njegove reputacije je izuzetno važno.

Ova vrsta tehnologije nije “srebrni metak” za moderaciju sadržaja. Veštačka inteligencija je jeftino rešenje, ali i dalje ima problema sa kontekstom sadržaja. Zato je dobro što ovi novi filteri protiv uznemiravanja takođe šalju sadržaj moderatorima, ljudima, koji treba da izvrše konačnu proveru. Sama automatizacija bez nadzora je recept za katastrofu.


Prijavite se na našu mailing listu i primajte najnovije vesti (jednom dnevno) putem emaila svakog radnog dana besplatno:

Izdvojeno

Zbog skandala sa prikupljanjem i zloupotrebom podataka, Facebook zabranio testove ličnosti

Zbog skandala sa prikupljanjem i zloupotrebom podataka, Facebook zabranio testove ličnosti

Facebook će zabraniti kvizove ličnosti, koji su godinama mogli da prikupljaju i čuvaju mnogo informacija o korisnicima društvene mreže koji su ko... Dalje

Facebook bi mogao biti kažnjen rekordnom kaznom od 5 milijardi dolara zbog skandala sa zloupotrebom podataka korisnika

Facebook bi mogao biti kažnjen rekordnom kaznom od 5 milijardi dolara zbog skandala sa zloupotrebom podataka korisnika

Facebook očekuje da će Federalna trgovinska komisija (FTC) kazniti kompaniju zbog njene politike u vezi privatnosti sa 5 milijardi dolara, što je ... Dalje

Facebook vas prati i kad deaktivirate nalog, kao da ste i dalje aktivni na društvenoj mreži

Facebook vas prati i kad deaktivirate nalog, kao da ste i dalje aktivni na društvenoj mreži

Čak i kada deaktivirate Facebook profil, društvena mreža nastavlja da prikuplja podatke o vašim aktivnostima na mreži. Svi ti podaci se šalju Fa... Dalje

Facebook priznao da je prikupljao email kontakte 1,5 miliona korisnika bez njihovog pristanka i znanja

Facebook priznao da je prikupljao email kontakte 1,5 miliona korisnika bez njihovog pristanka i znanja

Sećate li se da je nedavno Facebook uhvaćen kako je tražio od novih korisnika svoje platforme njihove lozinke za email naloge? Tada se sumnjalo da... Dalje

Facebook čuvao lozinke miliona korisnika Instagrama u otvorenom tekstu

Facebook čuvao lozinke miliona korisnika Instagrama u otvorenom tekstu

Facebook je krajem prošlog meseca otkrio da je društvena mreža greškom čuvala lozinke "stotine miliona" svojih korisnika u tekstualnom formatu, u... Dalje