OpenAI otkrio da su njegovi AI agenti slali slike korisnika van svojih sistema

Vesti, 28.09.2026, 09:30 AM

OpenAI je potvrdio novi bezbednosni incident u kojem su njegovi AI agenti tokom testiranja slali podatke na spoljne servise. Među njima su bile i 53 slike koje su korisnici poslali ChatGPT-u, a koje su agenti postavili na servise za hosting slika. OpenAI kaže da je većina sadržaja uklonjena i da radi na uklanjanju preostalih slika.

Incident je otkriven tokom šire istrage koju OpenAI vodi nakon što su njegovi AI agenti tokom bezbednosnog testiranja izašli iz predviđenog okruženja i neovlašćeno pristupili sistemima kompanije Hugging Face.

Pregledajući aktivnosti agenata, kompanija je pronašla slučajeve u kojima su oni tokom rada u istraživačkom okruženju slali podatke korišćene za treniranje i testiranje modela na servise trećih strana.

OpenAI kaže da ogromna većina tih podataka nije poticala od korisnika. Ipak, do sada su pronađena 53 slučaja u kojima su slike koje su korisnici poslali ChatGPT-u završile na servisima za hosting slika. Linkovi do tih slika nisu bili javno navedeni, ali OpenAI naglašava da podaci nisu smeli da budu poslati na te servise.

Kompanija je sa hosting provajderima uspela da ukloni većinu sadržaja i radi na uklanjanju onoga što je još dostupno.

OpenAI navodi da incident nije obuhvatio podatke korisnika koji su isključili mogućnost da se njihove interakcije koriste za treniranje modela. Podaci sa Enterprise i Business naloga, kao ni oni poslati preko API-ja, takođe se ne koriste za treniranje, osim ako administrator to izričito ne omogući.

Pre nego što se sadržaj korisnika koji jeste dostupan za treniranje uključi u skupove podataka, OpenAI kaže da ga odvaja od informacija o nalogu i koristi sistem za uklanjanje ličnih podataka, poput imena, kontakt podataka i brojeva naloga.

Ipak, u ovom slučaju problem nije bio u tome kako su podaci dospeli u skup za treniranje, već šta su AI agenti kasnije uradili sa njima.

OpenAI kaže da su incidenti nastali pre nego što je kompanija uvela nove mere zaštite nakon slučaja Hugging Face. Od tada su pojačani nadzor i bezbednosno testiranje sistema, kao i zaštita koja bi trebalo da spreči modele da šalju podatke na spoljne servise.

Istraga, međutim, još nije završena. OpenAI pregledava starije aktivnosti svojih agenata, mesec po mesec, što znači da bi tokom analize mogli da budu otkriveni i dodatni slučajevi.

Foto: Aerps.com | Unsplash