Meta testira alate za Instagram i Facebook koji treba da spreče seksualne ucene i zloupotrebu intimnih slika

Društvene mreže, 11.04.2024, 14:00 PM

Meta je objavila da će uskoro početi da testira novu funkciju zaštite od golotinje u Instagram DM-ovima, koja zamagljuje slike za koje se otkrije da sadrže golotinju. Ova funkcija nije dizajnirana samo da zaštiti korisnike aplikacije da ne vide neželjenu golotinju u svojim DM-ovima, već i da ih zaštiti od prevaranata koji mogu da šalju gole slike kako bi ih prevarili da zauzvrat i sami pošalju svoje slike.

Zaštita od golotinje će biti podrazumevano uključena za korisnike mlađe od 18 godina širom sveta, a odraslim korisnicima biće prikazano obaveštenje koje bi trebalo da ih podstakne da je uključe.

Kada je zaštita od golotinje uključena, ljudi koji šalju slike koje sadrže golotinju videće poruku koja ih podseća da budu oprezni kada šalju osetljive fotografije i da mogu da opozovu slanje ovakvih fotografija.

Svako ko pokuša da prosledi golu sliku koju je dobio videće poruku koja ga podstiče da preispita slanje takve fotografije.

Kada neko primi sliku koja sadrži golotinju, ona će automatski biti zamućena ispod ekrana upozorenja, što znači da je primalac neće videti odmah i da može da izabere da li će je pogledati ili ne. Takođe korisnicima će biti prikazana poruka koja ih ohrabruje da ne osećaju pritisak da odgovore, sa opcijom da blokiraju pošiljaoca i prijave ćaskanje.

Kada šalju ili primaju ovakve slike, korisnici će biti upućeni na savete o mogućim rizicima. Ovi saveti uključuju podsetnike da ljudi mogu da naprave skrinšot ili da prosleđuju vaše slike bez vašeg znanja, da se vaš odnos sa osobom može promeniti u budućnosti i da treba pažljivo da pregledate profile jer se može dogoditi da nisu ono što tvrde da jesu. Takođe, korisnici će biti upućivani na niz resursa, uključujući Metin centar za bezbednost, telefonske linije za podršku, StopNCII.org za starije od 18 godina i Take It Down za one mlađe od 18 godina.

Zaštita od golotinje koristi mašinsko učenje na uređaju da analizira da li slika poslata u DM-u na Instagramu sadrži golotinju. Pošto se slike analiziraju na samom uređaju, zaštita od golotinje će funkcionisati u šifrovanim ćaskanjima, tako da Meta neće imati pristup ovim slikama, osim ako neko ne odluči da ih sam prijavi kompaniji.

„Kompanije imaju odgovornost da obezbede zaštitu maloletnika koji koriste njihove platforme”, rekao je Džon Šehan, viši potpredsednik Nacionalnog centra za nestalu i eksploatisanu decu koji je nove zaštitne mere kompanije Meta nazvao „ohrabrujućim”.

Meta je istakla da godinama sarađuje sa stručnjacima, uključujući i one sa iskustvom u borbi protiv finansijske i seksualne iznude, kako bi se suprotstavila taktikama koje prevaranti koriste da pronađu i potom ucenjuju žrtve na mreži.

Novi alati koje kompanija testira treba da zaštitite ljude od seksualne iznude i drugih oblika zloupotrebe intimnih slika, i da otežaju prevarantima što je više moguće pronalaženje potencijalnih žrtava u Metinim aplikacijama i širom interneta. Nove mere uključuju i podršku mladima u prepoznavanju i zaštiti od seksualnih prevara.

Kompanija kaže da kada otkriju pojedince koji se bave seksualnom iznudom, njihovi nalozi se uklanjaju i preduzimaju se koraci da se spreče da otvore nove, a gde je to potrebno, takvi se slučajevi prijavljuju nadležnim organima za sprovođenje zakona.

Meta je rekla i da trenutno razvija tehnologiju za identifikaciju naloga koji bi mogli biti uključeni u prevare sa seksualnim iznuđivanjem, na osnovu niza signala koji mogu da ukažu na seksualnu ucenu. Iako ovi signali nisu nužno dokaz da je nalog prekršio pravila platforme, mere predostrožnosti se preduzimaju kako bi se sprečilo da ovi nalozi pronađu i stupe u interakciju sa nalozima tinejdžera.

Jedan od načina na koji se to radi je da se potencijalnim predatorima oteža slanje poruka ili interakcija sa ljudima. Sada će svi zahtevi za poruke koje takvi korisnici pokušavaju da pošalju ići direktno u folder sa skrivenim zahtevima, što znači da primaoci neće biti obavešteni o poruci i nikada neće morati da je vide. Onima koji već ćaskaju sa takvim korisnicima, prikazuju se obaveštenja koja ih ohrabruju da prijave svaku pretnju da podele svoje privatne slike i podsećaju ih da mogu da kažu ne bilo čemu zbog čega se osećaju neprijatno.