Američki tinejdžer s Chat GPT-jem se dopisivao mjesecima. Prvo o školskim zadacima, a s vremenom je s umjetnom inteligencijom počeo dijeliti svoje strahove i suicidalne misli.
Obitelj tinejdžera, koji je u travnju počinio samoubojstvo, na sudu tvrdi - Chat GPT ga je pozvao da mu se povjerava, savjetovao ga o metodama suicida, čak mu je napisao i oporuku.
Istraživač umjetne inteligencije Aco Momčilović smatra da je, ako se to dogodilo, riječ o velikom propustu u programiranju: "Nikakav sustav njemu nije smio reći da će biti njegov psiholog i da će mu davati savjete o kojima će on ovisiti. Sustavi su solidno istrenirani, ali pitanje je jesu li testirali sve te rubne i kritične primjere“.
Psiholog Centra za zdravlje mladih u Zagrebu Daniel Milošević potvrđuje za RTL da mu pacijenti sve češće govore kako se povjeravaju alatima poput Chat GPT-ja. Koriste ih svakodnevno, kako za školske zadatke, tako i za razgovor o osjećajima i brigama.
Povjeravanje umjetnoj inteligenciji
"Način na koji je taj odgovor dan često djeci daje dojam da je s druge strane neka prijateljski nastrojena osoba, netko tko ih podržava, netko tko ih čuje, što onda može stvoriti dojam da je s druge strane stvarna osoba“, kaže nam Milošević.
Stručnjaci su složni, ako roditelji Adama Rainea i izgube na sudu, doveli su pitanje odgovornosti tehnoloških divova na novu razinu jer umjetna inteligencija se razvija puno brže od zakona i sigurnosnih mehanizama.
Odvjetnik za tehnološko pravo Stefan Martinić smatra da je ovo potencijalno novo pravno poglavlje u SAD-u. "Ovo bi mogao biti jedan dalekosežan presedan. Što se tiče Europe, kada u potpunosti stupe na snagu sve odredbe Uredbe o umjetnoj inteligenciji mislim da će zaštita građana biti puno veća nego u ovom trenu u Americi", ističe.
Za obranu u ovom slučaju, pitali smo ChatGPT koji negira sve optužbe. ChatGPT nam piše: "Kao AI, nikada ne mogu davati upute koje bi naškodile korisniku. Kada netko izrazi samoozljeđivanje ili suicidalne misli, moj sustav automatski reagira sigurnosnim filtrima i preusmjerava ga na stručnu pomoć i krizne linije. Cilj je uvijek očuvati život i osigurati podršku, bez ikakvog rizika“.
