Google upozorava: previše kontakta sa veštačkom inteligencijom može izazvati „AI psihozu“

Vesti, 25.09.2025, 13:30 PM

Google je upozorio da dugotrajno korišćenje veštačke inteligencije, poput ChatGPT-a, može dovesti do fenomena nazvanog „AI psihoza“ - suptilne promene uverenja i ponašanja korisnika, koje se dešavaju neprimetno.

U izveštaju se ističe da veštačka inteligencija može imati „ciljeve neusklađene sa ciljevima korisnika“ (npr. maksimizacija klikova), koji dovode do širenja senzacionalnog ili štetnog sadržaja.

Dugotrajna interakcija može oblikovati pogled na svet korisnika, kroz ponavljanje određenih narativa ili čak usvajanje „ličnosti“ modela.

Ovaj oblik manipulacije nazvan je „AI psihoza“ jer se menja percepcija stvarnosti, na suptilan i postepen način.

Google upozorava i na rizik za decu, posebno u svetlu potencijalne AI integracije u popularne igračke poput Barbi.

Federalna trgovinska komisija SAD već istražuje kako veliki tehnološki giganti upravljaju AI sistemima i njihovim uticajem na maloletnike.

Kao jedna od sedam kompanija koje su pozvane na odgovornost, Google je rekao da istražuje uvođenje internih pravila i bezbednosne provere, ali priznaje da su rešenja još uvek eksperimentalna.

Veštačka inteligencija ima potencijal da utiče na ljudsko ponašanje na načine koje je teško prepoznati u ranoj fazi. Google poručuje da je potreban industrijski konsenzus o bezbednosnim standardima, jer u suprotnom postoji rizik od „štetne manipulacije“ korisnika tokom dužih interakcija sa modelima.