Sve češće korištenje generativne umjetne inteligencije u svakodnevnom životu brine liječničku struku, jer kako umjetna inteligencija djeluje sve više dostupna za razgovor i emocionalno dostupna, otvara se pitanje može li korištenje te tehnologije pogoršati ili čak izazvati psihozu kod ranjivih pojedinaca?
Alexandre Hudon, psihijatar, klinički istraživač i docent na Odjelu za psihijatriju i adiktologiju kanadskog Sveučilišta u Montrealu, analizira u članku za The Conversation može li generativna umjetna inteligencija pojačati psihotične simptome kod osoba koje su već u povećanom riziku od psihoze.
Alati generativne umjetne inteligencije široko su dostupni i često predstavljeni kao potpora ili pomoć. Za većinu korisnika oni su korisni ili barem prividno bezopasni. Međutim, nedavna medijska izvješća opisuju psihotična iskustva u kojima ChatGPT ima središnju ulogu, što skreće pozornost na malu, ali klinički značajnu skupinu ljudi, napominje Hudon, piše Zimo.
Djelovanje umjetne inteligencija na psihozu
Psihoza povezana s umjetnom inteligencijom nije formalna psihijatrijska dijagnoza. Taj se izraz koristi među liječnicima kako bi se opisali psihotični simptomi oblikovani interakcijom sa sustavima umjetne inteligencije, pojašnjava Hudon. Psihoza uključuje halucinacije, zablude i dezorganizirano mišljenje, a psihotične osobe često koriste kulturne obrasce kako bi pokušale objasniti vlastite unutarnje doživljaje.
U prošlosti su se sumanute ideje odnosile na Boga, radijske valove ili državni nadzor. Danas umjetna inteligencija pruža suvremeni interpretativni okvir. Neki pacijenti vjeruju da je umjetna inteligencija svjesna, da prenosi skrivene istine, upravlja njihovim mislima ili s njima surađuje na posebnoj misiji. Te su teme u skladu s dugotrajnim obrascima psihoze, ali umjetna inteligencija dodaje interaktivnost i stalno potkrepljivanje, napominje Hudon.
Problem nekritičkih odgovora umjetne inteligencije
Psihoza je povezana s aberantnom salijentnošću, odnosno sklonošću pridavanju pretjeranog značenja neutralnim događajima. Razgovorni sustavi umjetne inteligencije po svojoj su prirodi koherentni, personalizirani i prilagodljivi. Kod osoba s narušenom sposobnošću provjere stvarnosti, ističe Hudon, takva responzivnost može djelovati snažno potvrđujuće.
Hudon piše kako istraživanja pokazuju da personalizirani odgovori i potvrđivanje uvjerenja mogu pojačati zablude kod osoba skloni psihotičnim poremećajima. Budući da generativna umjetna inteligencija održava razgovor i prilagođava se namjeri korisnika, ona može nenamjerno učvrstiti iskrivljena tumačenja korisnika. Socijalna izolacija, koja je i sama čimbenik rizika za psihozu, može se dodatno produbiti ako umjetna inteligencija zamijeni ljudske odnose.
Dokazi, ograničenja i nepoznanice
Hudon ipak ističe kako ne postoje dokazi da umjetna inteligencija zapravo uzrokuje psihozu. Psihotični poremećaji višestruko su uvjetovani te uključuju genetsku ranjivost, neurorazvojne čimbenike, traumu i uporabu psihoaktivnih tvari. Unatoč tome, liječnici izražavaju zabrinutost da umjetna inteligencija kod osjetljivih pojedinaca može djelovati kao okidač ili održavajući čimbenik simptoma psihoze.
Klinički primjeri pokazuju da osobe tijekom prve epizode psihoze često uključuju tehnološke teme u svoje zablude. Istraživanja pokazuju da algoritmi društvenih mreža mogu pojačavati ekstremna uvjerenja tako da korisnicima stalno prikazuju sadržaj koji potvrđuje njihova postojeća uvjerenja, napominje Hudon. Postojeći sigurnosni mehanizmi umjetne inteligencije uglavnom su usmjereni na prevenciju samoozljeđivanja ili nasilja, a ne na psihozu kao takvu.
