Otvoreno pismo Maska, Voznijaka i grupe stručnjaka za AI: Trka za razvoj sistema veštačke inteligencije je van kontrole

Vesti, 30.03.2023, 10:30 AM

Otvoreno pismo Maska, Voznijaka i grupe stručnjaka za AI: Trka za razvoj sistema veštačke inteligencije je van kontrole

Ilon Musk i grupa stručnjaka za veštačku inteligenciju pozvala je da se privremeno obustavi obuka moćnih sistema veštačke inteligencije zbog potencijalnih rizika za društvo i čovečanstvo.

U otvorenom pismu neprofitne organizacije „Institut za budućnost života“, koje je potpisalo više od 1.000 ljudi, upozorava se na potencijalne rizike za društvo i civilizaciju koji bi mogli predstavljati sistemi veštačke inteligencije, ali i da je trka za razvoj sistema veštačke inteligencije izmakla kontroli.

„Sistemi veštačke inteligencije sa inteligencijom koja je konkurentna ljudskoj mogu predstavljati velike rizike za društvo i čovečanstvo“, upozorava se u pismu. „Moćne AI sisteme treba razvijati tek kada budemo sigurni da će njihovi efekti biti pozitivni i da se rizicima može upravljati.“

Potpisnici ovog pisma pozvali su na šestomesečni prekid „opasne trke“ za razvoj sistema naprednijih od nedavno pokrenutog OpenAI-ovog GPT-4.

Naprednu veštačku inteligenciju treba pažljivo razvijati, kaže se u pismu, ali umesto toga, „poslednjih meseci smo videli da su laboratorije veštačke inteligencije zaključane u trci van kontrole da razviju i primene sve moćnije digitalne umove koje niko, pa čak ni njihovi kreatori, ne može da razume, predvidi ili pouzdano kontroliše“.

U pismu se upozorava da bi veštačka inteligencija mogla da preplavi kanale informacija dezinformacijama i da automatizuje poslove koje trenutno obavljaju ljudi.

„Savremeni sistemi veštačke inteligencije sada postaju konkurentni ljudima u opštim zadacima i moramo da se zapitamo: da li treba da dozvolimo mašinama da preplave naše informacione kanale propagandom i neistinom? Da li treba da automatizujemo sve poslove, uključujući i one koji nas ispunjavaju?“

Pismo je usledilo nakon nedavnog izveštaja investicione banke Goldman Sachs u kojem se navodi da bi, iako će veštačka inteligencija verovatno povećati produktivnost, milioni poslova mogli da postanu automatizovani.

„Da li treba da razvijamo neljudske umove koji bi nas na kraju mogli nadmašiti, nadmudriti, učiniti zastarelim i zameniti nas? Da li treba da rizikujemo gubitak kontrole nad našom civilizacijom? Takve odluke se ne smeju prepustiti neizabranim tehnološkim liderima“, navodi se u pismu u kome se citira OpenAI koji je u nedavno objavljenom tekstu na blogu upozorio na rizike nepromišljenog razvoja veštačke opšte inteligencije (AGI): „Neusklađen superinteligentni AGI bi mogao da nanese tešku štetu svetu; autokratski režim sa odlučnim vođstvom superinteligencije mogao bi da učini i to.“

„Pozivamo sve laboratorije za veštačku inteligenciju da odmah pauziraju na najmanje šest meseci obuku AI sistema moćnijih od GPT-4. Ova pauza treba da bude javna i proverljiva i da uključuje sve ključne aktere. Ako se takva pauza ne može brzo primeniti, vlade bi trebalo da se umešaju i uvedu moratorijum“, navodi se u pismu.

U pismu se pozivaju programeri da blisko sarađuju sa kreatorima politike i kreiraju sisteme upravljanja AI. Potonji bi pratili AI i razvijali sisteme vodenih žigova kako bi pomogli u razlikovanju stvarnog od sintetičkog. Osim toga, biće potrebne revizije, kao i mehanizmi odgovornosti u slučaju štete prouzrokovane tehnologijom.

„Laboratorije veštačke inteligencije i nezavisni stručnjaci treba da iskoriste ovu pauzu da zajednički razviju i implementiraju skup zajedničkih bezbednosnih protokola za napredni dizajn i razvoj veštačke inteligencije koji su pod rigoroznom revizijom i nadzorom nezavisnih spoljnih stručnjaka“, navodi se u pismu. „Ovi protokoli treba da osiguraju da su sistemi koji ih se pridržavaju bezbedni izvan razumne sumnje.“

„Čovečanstvo može da uživa u budućnosti sa veštačkom inteligencijom. Pošto smo uspeli da stvorimo moćne sisteme veštačke inteligencije, sada možemo da uživamo u „letu veštačke inteligencije“ u kojem ubiremo plodove, dizajniramo ove sisteme za jasnu dobrobit svih i damo društvu priliku da se prilagodi“, navodi se u pismu.

Među potpisnicima ovog otvorenog pisma su, pored milijardera Ilona Maska, i suosnivač Applea Stiv Voznijak i istraživači iz kompanije Deep Mind koja je u vlasništvu Aplhabeta, Googleove matične kompanije.

Zanimljivo je da je Mask bio suosnivač OpenAI ali je dao ostavku u odboru organizacije pre nekoliko godina posle čega je na Twitteru govorio kritički o njenom trenutnom pravcu.

Ipak, funkcije autonomne vožnje koje je razvila njegova automobilska kompanija Tesla, kao i većina sličnih sistema, koriste AI tehnologiju.

Niko iz OpenAI, kompanije koja stoji iza ChatGPT-4, nije potpisao pismo, iako je Emad Mostaka, osnivač i izvršni direktor Stability AI, na listi.


Naslovna fotografija: Markus Winkler / Unsplash


Prijavite se na našu mailing listu i primajte najnovije vesti (jednom dnevno) putem emaila svakog radnog dana besplatno:

Izdvojeno

Google omogućio deljenje lozinki sa članovima porodice

Google omogućio deljenje lozinki sa članovima porodice

Google je ranije ove godine najavio da deljenje lozinki dolazi u Google menadžer lozinki, a sada je ova funkcija najzad dostupna korisnicima. Googleo... Dalje

Velika Britanija razmatra uvođenje dozvola za plaćanje otkupa za žrtve napada ransomwarea

Velika Britanija razmatra uvođenje dozvola za plaćanje otkupa za žrtve napada ransomwarea

Velika Britanija razmatra da promeni način na koji zemlja reaguje na napade ransomwarea tako što će od svih žrtava zahtevati da incidente prijave... Dalje

Mastercard najavio da će primenjivati generativnu veštačku inteligenciju za brže otkrivanja prevara

Mastercard najavio da će primenjivati generativnu veštačku inteligenciju za brže otkrivanja prevara

Mastercard je najavio da će primenjivati generativnu AI tehnologiju kako bi poboljšao otkrivanje prevara. Kompanija je rekla da veštačka inteligen... Dalje

YouTube postao leglo prevara

YouTube postao leglo prevara

Prevare koje se oslanjaju na socijalni inženjering odnosno manipulaciju ljudima i njihovu naivnost i neopreznost predstavljaju većinu sajber pretnj... Dalje

Policija ponovo zatvorila zloglasni hakerski sajt BreachForums

Policija ponovo zatvorila zloglasni hakerski sajt BreachForums

Policija je po drugi put za godinu dana preuzela kontolu nad zloglasnom platformom BreachForums, koja je poznata pre svega po prodaji ukradenih podata... Dalje