Otvoreno pismo Maska, Voznijaka i grupe stručnjaka za AI: Trka za razvoj sistema veštačke inteligencije je van kontrole

Vesti, 30.03.2023, 10:30 AM

Otvoreno pismo Maska, Voznijaka i grupe stručnjaka za AI: Trka za razvoj sistema veštačke inteligencije je van kontrole

Ilon Musk i grupa stručnjaka za veštačku inteligenciju pozvala je da se privremeno obustavi obuka moćnih sistema veštačke inteligencije zbog potencijalnih rizika za društvo i čovečanstvo.

U otvorenom pismu neprofitne organizacije „Institut za budućnost života“, koje je potpisalo više od 1.000 ljudi, upozorava se na potencijalne rizike za društvo i civilizaciju koji bi mogli predstavljati sistemi veštačke inteligencije, ali i da je trka za razvoj sistema veštačke inteligencije izmakla kontroli.

„Sistemi veštačke inteligencije sa inteligencijom koja je konkurentna ljudskoj mogu predstavljati velike rizike za društvo i čovečanstvo“, upozorava se u pismu. „Moćne AI sisteme treba razvijati tek kada budemo sigurni da će njihovi efekti biti pozitivni i da se rizicima može upravljati.“

Potpisnici ovog pisma pozvali su na šestomesečni prekid „opasne trke“ za razvoj sistema naprednijih od nedavno pokrenutog OpenAI-ovog GPT-4.

Naprednu veštačku inteligenciju treba pažljivo razvijati, kaže se u pismu, ali umesto toga, „poslednjih meseci smo videli da su laboratorije veštačke inteligencije zaključane u trci van kontrole da razviju i primene sve moćnije digitalne umove koje niko, pa čak ni njihovi kreatori, ne može da razume, predvidi ili pouzdano kontroliše“.

U pismu se upozorava da bi veštačka inteligencija mogla da preplavi kanale informacija dezinformacijama i da automatizuje poslove koje trenutno obavljaju ljudi.

„Savremeni sistemi veštačke inteligencije sada postaju konkurentni ljudima u opštim zadacima i moramo da se zapitamo: da li treba da dozvolimo mašinama da preplave naše informacione kanale propagandom i neistinom? Da li treba da automatizujemo sve poslove, uključujući i one koji nas ispunjavaju?“

Pismo je usledilo nakon nedavnog izveštaja investicione banke Goldman Sachs u kojem se navodi da bi, iako će veštačka inteligencija verovatno povećati produktivnost, milioni poslova mogli da postanu automatizovani.

„Da li treba da razvijamo neljudske umove koji bi nas na kraju mogli nadmašiti, nadmudriti, učiniti zastarelim i zameniti nas? Da li treba da rizikujemo gubitak kontrole nad našom civilizacijom? Takve odluke se ne smeju prepustiti neizabranim tehnološkim liderima“, navodi se u pismu u kome se citira OpenAI koji je u nedavno objavljenom tekstu na blogu upozorio na rizike nepromišljenog razvoja veštačke opšte inteligencije (AGI): „Neusklađen superinteligentni AGI bi mogao da nanese tešku štetu svetu; autokratski režim sa odlučnim vođstvom superinteligencije mogao bi da učini i to.“

„Pozivamo sve laboratorije za veštačku inteligenciju da odmah pauziraju na najmanje šest meseci obuku AI sistema moćnijih od GPT-4. Ova pauza treba da bude javna i proverljiva i da uključuje sve ključne aktere. Ako se takva pauza ne može brzo primeniti, vlade bi trebalo da se umešaju i uvedu moratorijum“, navodi se u pismu.

U pismu se pozivaju programeri da blisko sarađuju sa kreatorima politike i kreiraju sisteme upravljanja AI. Potonji bi pratili AI i razvijali sisteme vodenih žigova kako bi pomogli u razlikovanju stvarnog od sintetičkog. Osim toga, biće potrebne revizije, kao i mehanizmi odgovornosti u slučaju štete prouzrokovane tehnologijom.

„Laboratorije veštačke inteligencije i nezavisni stručnjaci treba da iskoriste ovu pauzu da zajednički razviju i implementiraju skup zajedničkih bezbednosnih protokola za napredni dizajn i razvoj veštačke inteligencije koji su pod rigoroznom revizijom i nadzorom nezavisnih spoljnih stručnjaka“, navodi se u pismu. „Ovi protokoli treba da osiguraju da su sistemi koji ih se pridržavaju bezbedni izvan razumne sumnje.“

„Čovečanstvo može da uživa u budućnosti sa veštačkom inteligencijom. Pošto smo uspeli da stvorimo moćne sisteme veštačke inteligencije, sada možemo da uživamo u „letu veštačke inteligencije“ u kojem ubiremo plodove, dizajniramo ove sisteme za jasnu dobrobit svih i damo društvu priliku da se prilagodi“, navodi se u pismu.

Među potpisnicima ovog otvorenog pisma su, pored milijardera Ilona Maska, i suosnivač Applea Stiv Voznijak i istraživači iz kompanije Deep Mind koja je u vlasništvu Aplhabeta, Googleove matične kompanije.

Zanimljivo je da je Mask bio suosnivač OpenAI ali je dao ostavku u odboru organizacije pre nekoliko godina posle čega je na Twitteru govorio kritički o njenom trenutnom pravcu.

Ipak, funkcije autonomne vožnje koje je razvila njegova automobilska kompanija Tesla, kao i većina sličnih sistema, koriste AI tehnologiju.

Niko iz OpenAI, kompanije koja stoji iza ChatGPT-4, nije potpisao pismo, iako je Emad Mostaka, osnivač i izvršni direktor Stability AI, na listi.


Naslovna fotografija: Markus Winkler / Unsplash


Prijavite se na našu mailing listu i primajte najnovije vesti (jednom dnevno) putem emaila svakog radnog dana besplatno:

Izdvojeno

Kako veštačka inteligencija pomaže u borbi protiv prevara na internetu

Kako veštačka inteligencija pomaže u borbi protiv prevara na internetu

Više od decenije, Google koristi veštačku inteligenciju za zaštitu korisnika od prevara na internetu koji žele da dobiju pristup njihovom novcu i... Dalje

Da li su vaše lozinke među najslabijim lozinkama?

Da li su vaše lozinke među najslabijim lozinkama?

Analiza više od 19 milijardi procurelih lozinki otkrila je i dalje prisutnu, široko rasprostranjenu pojavu ponovne upotrebe slabih lozinki. Lozinke,... Dalje

Prevare sa „tajanstvenim kutijama“ kradu podatke sa platnih kartica i novac sa računa kupaca

Prevare sa „tajanstvenim kutijama“ kradu podatke sa platnih kartica i novac sa računa kupaca

Istraživači kompanije Bitdefender upozorili su veoma sofisticirane prevare putem pretplata, za koje sajber kriminalci koriste „neverovatno ube... Dalje

Nalozi trećine korisnika interneta hakovani prošle godine zbog slabe lozinke

Nalozi trećine korisnika interneta hakovani prošle godine zbog slabe lozinke

Bar jedan onlajn nalog više od trećine (36%) ljudi prošle godine je hakovan zbog slabe ili ukradene lozinke, otkrilo je novo istraživanje FIDO al... Dalje

Google: Softverske ranjivosti nultog dana veoma tražene i sve ih je lakše nabaviti, a evo ko ih i zašto koristi

Google: Softverske ranjivosti nultog dana veoma tražene i sve ih je lakše nabaviti, a evo ko ih i zašto koristi

Sajber kriminalci su koristili najmanje 75 bezbednosnih ranjivosti za koje proizvođači softvera nisu znali - takozvane nulte ranjivosti - otkriva iz... Dalje