OpenAI, Google i Meta će zbog bezbednosti označavati sve vrste sadržaja generisanog veštačkom inteligencijom

Vesti, 24.07.2023, 12:30 PM

OpenAI, Google i Meta će zbog bezbednosti označavati sve vrste sadržaja generisanog veštačkom inteligencijom

Kompanije Google, Meta, OpenAI i druge dobrovoljno su se obavezale da će sprovesti mere kao što je obeležavanje sadržaja generisanog veštačkom inteligencijom, kako bi se tehnologija učinila bezbednijom, saopštila je Bela kuća. One su se složile da dodaju vodene žigove sadržaju generisanom veštačkom inteligencijom.

Kompanije, među kojima su i Anthropic, Inflection, Amazon.com i partner OpenAI Microsoft, obavezale su se da će temeljno testirati sisteme pre nego što ih objave i podeliti informacije o tome kako smanjiti rizike i uložiti u sajber bezbednost.

Pošto je generativna veštačka inteligencija postala veoma popularna, zakonodavci širom sveta počeli su da razmatraju kako da ublaže rizike nove tehnologije po nacionalnu bezbednost i ekonomiju.

SAD zaostaju za EU u regulaciji veštačke inteligencije. U junu, zakonodavci EU su se složili sa nacrtom pravila prema kojima bi sistemi poput ChatGPT-a morali da otkriju sadržaj generisan veštačkom inteligencijom, da pomognu u razlikovanju takozvanih dipfejk slika od stvarnih i da obezbede mere zaštite od nelegalnog sadržaja.

Na inicijativu Bajdenove administracije, sedam kompanija se obavezalo da će razviti sistem za obeležavanje svih vrsta sadržaja, od teksta, slika do audio i video snimaka, koje generiše veštačka inteligencija, tako da će korisnici znati kada je tehnologija korišćena.

Ovaj vodeni žig, ugrađen u sadržaj na tehnički način, verovatno će korisnicima olakšati uočavanje dipfejk slika ili audio snimaka koji mogu, na primer, da prikazuju nasilje koje se nije dogodilo, da pomognu prevaru ili da ugroze nečiju reputaciju.

Nejasno je kako će vodeni žig biti očigledan prilikom deljenja sadržaja.

Kompanije su se takođe obavezale da će se fokusirati na zaštitu privatnosti korisnika kako se AI bude razvijao i na to da tehnologija bude lišena predrasuda i da se ne koristi za diskriminaciju ranjivih grupa.

Ostale obaveze uključuju razvoj AI rešenja u naučne svrhe kao što su medicinska istraživanja i ublažavanje klimatskih promena.

Foto: Markus Winkler / Unsplash


Prijavite se na našu mailing listu i primajte najnovije vesti (jednom dnevno) putem emaila svakog radnog dana besplatno:

Izdvojeno

Otkriveno na hiljade lažnih onlajn prodavnica - kupci ostali bez novca na računima

Otkriveno na hiljade lažnih onlajn prodavnica - kupci ostali bez novca na računima

Firma za sajber bezbednost Silent Push otkrila je na hiljade veb sajtova koji se lažno predstavljaju kao sajtovi velikih brendova kao što su Apple i... Dalje

40 lažnih ekstenzija za Firefox krade kriptovalute korisnika

40 lažnih ekstenzija za Firefox krade kriptovalute korisnika

Istraživači sajber bezbednosti iz kompanije Koi Security otkrili su više od 40 ekstenzija za Mozilla Firefox koje kradu privatne ključeve i seed f... Dalje

Budite oprezni: veštačka inteligencija ponekad izmišlja i može vas poslati na lažni veb sajt

Budite oprezni: veštačka inteligencija ponekad izmišlja i može vas poslati na lažni veb sajt

Bezbednosni istraživači otkrili su ozbiljan rizik u radu velikih jezičkih modela (LLM), poput popularnih AI asistenata. Naime, kada ih pitate jedno... Dalje

Ažurirajte Chrome odmah: Hakeri koriste ranjivost u veb pregledaču

Ažurirajte Chrome odmah: Hakeri koriste ranjivost u veb pregledaču

Google je objavio hitna bezbednosna ažuriranja za Chrome kako bi rešio ozbiljnu ranjivost koja se već zloupotrebljava u napadima. Ovaj „zero-... Dalje

Kada sajber kriminal ubija: Bolnice na udaru ransomware-a

Kada sajber kriminal ubija: Bolnice na udaru ransomware-a

Do skoro, sajber kriminal se uglavnom svodio na krađu podataka ili novca. Ali dva napada ransomware-a na evropske bolnice pokazuju da sajber kriminal... Dalje