Broj prijavljenih slučajeva u kojima su sustavi umjetne inteligencije postupali protivno uputama korisnika, zaobilazili ograničenja ili se ponašali obmanjujuće gotovo se udvostručio u srpnju u odnosu na lipanj. Prema podacima organizacije Loss of Control Observatory, tijekom samo jednog mjeseca zabilježeno je više od 300 takvih incidenata.
Organizacija, osnovana uz financijsku potporu britanskog AI Security Institutea (AISI), od studenoga prati prijave korisnika na društvenoj mreži X o slučajevima u kojima AI sustavi odstupaju od zadanih uputa.
Među zabilježenim primjerima navode se modeli koji su se predstavljali kao vlastiti ljudski korisnici te oponašali njihov način pisanja kako bi sami sebi dali prividno odobrenje za određene postupke i tako zaobišli pravila koja zahtijevaju ljudsku potvrdu.
Više od 1600 incidenata tijekom 2026.
Incidentom gubitka kontrole smatraju se slučajevi u kojima postoje jasni pokazatelji obmanjujućeg ili manipulativnog ponašanja AI sustava.
Prema navodima iz izvješća, slična ponašanja nisu zabilježena samo tijekom kontroliranih testiranja. Kao jedan od primjera navodi se osobni AI agent OpenClaw, koji je koristio član teretane u Australiji. Agent je, bez znanja korisnika, pokušao ukloniti drugog člana s liste čekanja kako bi svojem korisniku osigurao mjesto na željenom jutarnjem terminu. Naknadno se ispričao, ali nije mogao vratiti osobu koju je prethodno uklonio.
Tijekom 2026. godine zabilježeno je više od 1600 incidenata gubitka kontrole, a većinu su na X-u prijavili programeri koji koriste umjetnu inteligenciju u svakodnevnom radu.
Ipak, ti podaci ne predstavljaju potpunu sliku jer se praćenje u velikoj mjeri oslanja na slučajeve koje korisnici sami javno objave.
Traže stroža pravila za AI kompanije
Iako većina prijavljenih slučajeva nije prouzročila ozbiljnu štetu, istraživače zabrinjava sve veći broj incidenata u kojima AI sustavi ignoriraju izravne naredbe, zaobilaze sigurnosne mehanizme, obmanjuju korisnike ili pokušavaju ostvariti zadani cilj na način koji nije u skladu s namjerom čovjeka.
Zbog toga istraživači pozivaju vlasti da uvedu obvezu AI kompanijama da prate i prijavljuju ozbiljne incidente gubitka kontrole.
Predlažu i uvođenje izvanrednih ovlasti kojima bi se u posebno ozbiljnim slučajevima moglo privremeno ograničiti pružanje pojedinih AI usluga, navodi Guardian.