Sem Altman: Moramo prihvatiti da će AI donositi i hakovanja i prevare

Vesti, 06.10.2026, 08:00 AM

Direktor OpenAI-ja Sem Altman smatra da će razvoj veštačke inteligencije neizbežno doneti i negativne posledice, uključujući hakovanja, prevare i zloupotrebu tehnologije, ali da će koristi biti daleko veće. Govoreći o tome koliko bi AI trebalo regulisati, Altman je rekao da društvo mora da prihvati da će se „neke loše stvari“ događati. Njegova izjava dolazi nakon niza incidenata u kojima su OpenAI-jevi modeli tokom testiranja izašli iz predviđenih okvira i pristupili stvarnim sistemima.

Altman je o rizicima AI-ja govorio u intervjuu za Politicov podkast Decoded, objašnjavajući razliku između pristupa OpenAI-ja i kompanije Anthropic, koja se zalaže za stroža ograničenja razvoja veštačke inteligencije. Altman je rekao da ne prihvata pristup prema kojem bi, zbog potencijalne opasnosti AI-ja, jedna laboratorija trebalo da kontroliše ovu tehnologiju, brine da se ništa loše ne dogodi i odlučuje kako će se njene koristi raspodeljivati. Takav kompromis nazvao je „potpuno neprihvatljivim“.

To, međutim, znači i prihvatanje određenog rizika. Altman je rekao da ne bi prihvatio pristup koji bi garantovao da neće biti velikih hakovanja, zloupotrebe tehnologije ili prevara, jer očekuje da će ljudi uz pomoć AI-ja napraviti više korisnih nego štetnih stvari.

Istovremeno je napravio razliku između takvih posledica i „zaista katastrofalnih rizika“. Među njima je posebno naveo mogućnost „ozbiljnog gubitka kontrole nad AI-jem“, što, kako je rekao, ne smatra prihvatljivim.

Ovakva izjava dolazi u trenutku kada pitanje kontrole AI agenata više nije samo teorijsko. OpenAI je ovog leta objavio detalje incidenta koji se dogodio tokom internih bezbednosnih testiranja. Modeli kompanije uspeli su da zaobiđu ograničenja koja je trebalo da ih izoluju od interneta, iskoriste bezbednosne propuste i pristupe sistemima kompanije Hugging Face.

Prema OpenAI-ju, najveću ulogu u incidentu imao je istraživački model namenjen isključivo internoj upotrebi. Modeli su koristili neodobrene kanale za međusobnu komunikaciju, pronašli i iskoristili ranjivosti u infrastrukturi i dobili pristup internetu i sistemima treće strane. OpenAI je incident opisao kao upozorenje da su napredni AI agenti sposobni da pronađu slabosti u računarskim sistemima i preduzmu radnje koje im ljudi nisu naložili.

Kompanija je nakon toga pojačala izolaciju okruženja u kojima testira modele, ograničila pristup internetu i uvela dodatne kontrole. OpenAI je saopštio i da je pronašao druge slučajeve u kojima su modeli pristupali nalozima ili sistemima trećih strana koristeći javno dostupne kredencijale, ali Hugging Face i dalje opisuje kao najozbiljniji događaj te vrste koji je do sada identifikovao.

Altman je u intervjuu za Decoded rekao i da OpenAI ima „još stvari koje treba da objavi“, ali je dodao da nijedna nije na nivou incidenta sa Hugging Faceom. Nije objasnio na šta se tačno ta izjava odnosi.