Budući AI modeli donose nove sajber rizike, upozorava OpenAI

Vesti, 19.12.2025, 08:30 AM

OpenAI upozorava da bi buduće generacije velikih jezičkih modela mogle značajno da utiču na sajber bezbednost, povećavajući i napadačke i odbrambene kapacitete. Kompanija navodi da bi napredni AI sistemi u teoriji mogli biti zloupotrebljeni za razvoj sofisticiranih sajber napada, uključujući otkrivanje do sada nepoznatih ranjivosti ili izvođenje špijunskih operacija, zbog čega je neophodna pravovremena priprema.

Istovremeno, OpenAI ističe da isti tehnološki napredak može snažno da unapredi sajber odbranu. Poboljšanja u rezonovanju, analizi koda i automatizaciji mogla bi pomoći bezbednosnim timovima da brže otkrivaju slabosti u sistemima, efikasnije analiziraju složen softver i preciznije primenjuju zakrpe. Umesto da AI posmatra isključivo kao pretnju, kompanija ovaj razvoj opisuje kao „dual-use“ izazov koji zahteva odgovorno upravljanje, primenu zaštitnih mehanizama i kontrolisano puštanje naprednih funkcionalnosti u upotrebu.

Kako bi umanjio rizike, OpenAI već ulaže u razvoj AI alata za odbranu i najavljuje nove zaštitne mere, uključujući strožu kontrolu pristupa naprednim funkcijama, ograničavanje izlaznih podataka kako bi se sprečilo curenje informacija i kontinuirani nadzor radi otkrivanja neuobičajenog ponašanja modela. Kompanija je takođe najavila formiranje Frontier Risk Council-a, saveta sastavljenog od istaknutih stručnjaka za sajber bezbednost, kao i program sa višeslojnim pristupom bezbednosnim AI alatima koji će omogućiti istraživačima, kompanijama i bezbednosnim stručnjacima da koriste naprednije funkcionalnosti za legitimne odbrambene svrhe.