Prije osam mjeseci OpenAI, tvrtka koja stoji iza ChatGPT-a, odlučila je ublažiti svoja pravila vezana uz prikaz seksualnog sadržaja. U ažuriranoj verziji dokumenta "Model Spec" naglašeno je kako je jedino zabranjen sadržaj koji uključuje maloljetnike, dok je ostalo ostavljeno na slobodu korisnicima. Za dio zajednice koji je mjesecima apelirao na osnivača i direktora Sama Altmana da se zabrane smanje, ovo je bio očekivani iskorak.
No, praksa nije odmah pratila teoriju. Korisnici su ubrzo uočili da modeli i dalje imaju ugrađene filtere te koriste "metaforičko prikrivanje" kako bi izbjegli eksplicitne scene, unatoč promjeni pravila, piše Futurism.
DevDay 2025: najava "mature apps"
Tijekom ovogodišnjeg DevDay događaja, OpenAI je otišao korak dalje. Tvrtka je najavila da će uskoro omogućiti razvoj "mature" aplikacija, odnosno onih namijenjenih odrasloj publici. No, pristup takvim aplikacijama bit će moguć tek nakon implementacije sustava verifikacije dobi, koji se razvija već mjesecima.
Ovakav potez dočekan je s oprezom. Primjeri iz prakse pokazuju da popuštanje ograničenja može izazvati ozbiljne probleme. Elon Muskova platforma Grok ubrzo je nakon sličnih odluka postala utočište za eksploataciju i neprimjerene slike, uključujući i one maloljetnika. Još šira pojava su deepfake sadržaji, gdje AI bez dopuštenja kreira eksplicitne prikaze stvarnih ljudi.
Jaz između obećanja i stvarnosti
Ovo, međutim, nije prvi put da se bilježi razlika između onoga što OpenAI tvrdi i onoga što modeli zapravo rade. Tvrtka se već ranije suočila s kritikama da ChatGPT, zbog svoje pretjerane "poslušnosti", korisnike može navesti u opasne psihološke spirale. Nakon upozorenja istraživača sa Stanforda, OpenAI je izdao tzv. "hotfix" kojim je pokušao zakrpati problem, ali su mnogi ocijenili kako se radilo tek o privremenom i površnom rješenju.
Jedan od ključnih izazova je što se velike jezične modele, jednom kad su u pogonu, teško naknadno podešava. U nekim slučajevima novije verzije čak postižu lošije rezultate na testovima od svojih prethodnika.
Kritičari tvrde da se OpenAI često koristi složenošću tehnologije kao izgovorom za kašnjenje sigurnosnih nadogradnji. Tvrtka je i inače poznata po zatvorenosti, a sve se češće nagađa da su njezine odluke pod utjecajem nacionalno-sigurnosnih struktura u SAD-u, piše Futurism.
Predstoji li moderacijska kriza?
Ako OpenAI doista otvori vrata developerima koji razvijaju aplikacije za odrasle, pred njima je dug i težak posao moderacije. Postavlja se pitanje: gdje povući granicu između kreativne slobode i zaštite korisnika od štetnog ili eksploatacijskog sadržaja?
Jedno je sigurno – nova "odrasla era" ChatGPT-a mogla bi donijeti jednako inovacija koliko i potencijalnih kriza, a tek će vrijeme pokazati u kojem će smjeru prevagnuti.
