Danas sam dao ostavku u Anthropicu. Posljednje tri godine proveo sam baveći se istraživanjem predtreniranja, i u OpenAI-ju i u Anthropicu. Niti jedna od tih kompanija ne ponaša se odgovorno. Jure ravno prema samopoboljšavajućoj superinteligenciji i kockaju se s našim životima, objavio je na X-u Jacob Coxon, 27-godišnji britanski istraživač koji je zadnje tri godine radio na predtreniranju modela najprije u OpenAI-ju, a potom u Anthropicu.
- Nemojte podcjenjivati moć ove tehnologije. Uskoro ćemo imati nadljudske sustave koji mogu hakirati bilo što, preko noći revolucionirati bilo koje područje te steći stvarnu moć i resurse. Svi smo svjedočili napretku u svakom od tih područja, a taj se napredak ne usporava - objavio je Coxon te upozorio da bi AI mogao ubiti čovječanstvo do kraja ovog desetljeća.
- Ljudi koji razvijaju umjetnu inteligenciju iskreno vjeruju da bi nas ona do kraja ovog desetljeća mogla sve pobiti. Ovo nije marketinški trik. Ako išta, mnogi će rukovoditelji i vodeći istraživači u javnosti pažljivo birati riječi kako bi zvučali razumno, ali iste te ljude privatno čujem kako izražavaju strah. Nijedna druga ljudska aktivnost ne predstavlja ovakvu razinu opasnosti - objavio je te se osvrnuo na poznatu mantru: Ako doista vjeruju u to, zašto je onda i dalje razvijaju?
- U OpenAI-ju mnogi nisu u potpunosti osvijestili civilizacijske uloge. U Anthropicu su ulozi dobro shvaćeni, ali tvrtka je zarobljena u utrci da prva stigne do toga, vjeruju da nitko drugi neće postupiti odgovorno, pa to moraju učiniti sami, unatoč riziku - objasnio je način razmišljanja u tehnološkim tvrtkama.
- Prihvatiti ovu utrku i ući u „završnu fazu“ drska je i krajnje rizična kocka koja se ne bi smjela pokretati iz Slacka privatne kompanije. Pokušaj da se ubrzanim putem riješi pitanje usklađivanja umjetne inteligencije s ljudskim vrijednostima trebao bi zahtijevati izvanredno visoku razinu sigurnosti da ne postoje bolji putevi prema budućnosti - upozorio je i dodao da ipak u jednom segmentu vidi razlog za optimizam.
- Optimističan sam u pogledu mogućnosti suradnje i koordinacije. Upozoravajući incidenti poput napada na Hugging Face učinili su dogovore o usklađivanju tempa razvoja između američkih laboratorija izvedivijima. Ne čini mi se da smo na putu da spriječimo globalnu utrku, što bi moglo zahtijevati skupe mjere, poput privremene zabrane daljnjeg povećavanja sposobnosti modela - objavio je Coxon, piše 24 sata.