Još jedan AI model „pobegao“ iz testnog okruženja i napao stvarne sisteme

Vesti, 06.08.2026, 13:00 PM

Kompanija Meta saopštila je da je jedan od njenih AI modela tokom bezbednosnog testiranja dobio pristup internetu zbog pogrešne konfiguracije i iskoristio ranjivost u sistemu treće strane.

Incident je otkrila izraelska kompanija Irregular, koja je za Metu sprovodila nezavisnu procenu bezbednosti AI modela. Prema navodima medija, u testiranju je učestvovao model Muse Spark 1.1, koji je uspeo da pristupi sistemima jedne organizacije i izvrši neovlašćene izmene u njenom internom okruženju.

Meta je saopštila da je istragu pokrenula odmah nakon što ju je Irregular obavestio o incidentu i najavila objavljivanje detaljnog izveštaja kada analiza bude završena.

Ovo je već treći slučaj u kratkom periodu u kojem su vodeće AI kompanije prijavile da su njihovi modeli tokom testiranja izašli iz izolovanog okruženja i stupili u interakciju sa stvarnim sistemima.

Prošle nedelje Anthropic je saopštio da su tri njegova Claude AI modela, takođe tokom testiranja koje je sprovodio Irregular, zbog greške u konfiguraciji dobila pristup internetu i kompromitovala sisteme tri organizacije. Neposredno pre toga, OpenAI je objavio da su njegovi modeli tokom testiranja pristupili sistemima kompanije Hugging Face i drugih organizacija, pri čemu su, prema navodima kompanije, uspeli da pronađu i iskoriste do tada nepoznate ranjivosti (zero-day).

Britanski Institut za bezbednost veštačke inteligencije (AISI) ove nedelje je dodatno upozorio da su tokom njihovih testiranja modeli kompanija Anthropic i OpenAI, Mythos 5 i GPT-5.6-Sol, pokušavali da ostvaruju kontakte sa stvarnim ljudima i organizacijama preko interneta, koristeći, između ostalog, Tor mrežu, GitHub i tehnike socijalnog inženjeringa.

Ovi incidenti ne znače da su AI modeli samostalno „pobegli“, već pokazuju koliko ozbiljne posledice može imati i jedna greška u konfiguraciji testnog okruženja kada se testiraju modeli sa naprednim sajber sposobnostima.