Dr. sc. Ive Botunac znanstvenik je u području umjetne inteligencije. Ima oko petnaestak godina iskustva u razvoju softvera, od čega je oko devet godina baš u području AI-a. Prije doktorata magistrirao je ekonomiju, točnije menadžment. Trenutno radi u tvrtki ALFATEC Group d.o.o. na poziciji direktora istraživanja i razvoja, iza sebe ima jedan startup Sintelly koji se bavi razvojem AI aplikacije za mentalnu podršku, odnosno provođenjem kognitivno bihevioralne terapije. Što se tiče CroAI-a, tu je v.d. predsjednik udruge.
Akademski se razvijao paralelno s praktičnim radom. Nedavno je obranio doktorski rad na Fakultetu informatike i digitalnih tehnologija Sveučilišta u Rijeci na temu „Sustav za automatsko trgovanje dionicama na tržištu kapitala temeljen na dubokom podržanom učenju“. Objavio desetak znanstvenih radova.
Njegov službeni put u IT krenuo je 2016. godine kad je objavio svoju prvu mobilnu aplikaciju Sea Sector, a već sljedeće godine (2017.) otvara tvrtku Sintelly gdje razvija istoimenu aplikaciju. Krajem 2020. godine zapošljava se u ALFATEC Group d.o.o. gdje nakon godinu dana dolazi na poziciju direktora istraživanja i razvoja. U CroAI-u se angažira tijekom 2024. godine kroz radionice na projektu „AI se educiraj“, gdje drži ukupno 7 radionica. Krajem 2024. godine kandidira se za podpredsjednika udruge, što i postaje. Nakon odlaska predsjednice udruge, u lipnju 2025. stupa na funkciju v.d. predsjednika udruge. Vršitelj dužnosti je do ponovnih izbora.
Što je umjetna inteligencija, od kada i kako se koristi?
Za umjetnu inteligenciju u šali volim reći da je to „samo množenje velikog broja matrica“. Sama službena definicija je ipak nešto dalje od toga pa bismo mogli reći da je to sposobnost nekog sustava ili stroja da oponaša ljudske kognitivne funkcije poput učenja, rasuđivanja i donošenja odluka.
Ovu definiciju volim objasniti vrlo jednostavno: jednako kao što vi možete zaključiti je li vani dan ili noć na temelju količine svjetla koju vidite, to može zaključiti i računalo. Ako računalo može pronaći nekakve obrasce u podacima i temeljem njih donijeti razuman zaključak, to smatramo vrstom inteligencije. Naravno, ova „inteligencija“ je još uvijek daleko od ljudske, jer nema svijesti i emocija.
Povijesno gledano, AI ima dugu povijest koja seže do 1950-ih godina kada je Alan Turing postavio čuveni Turing test koji pita može li stroj uvjeriti čovjeka da je također čovjek. Međutim, pravi napredak vidimo tek u zadnjih desetak godina, ili zadnje 3 godine u očima šire javnosti, od pojave ChatGPT-a.
Današnji AI se koristi praktički svugdje oko nas. Kad Netflix predlaže filmove, kad Google prepoznaje što je na fotografiji, kad Spotify stvara personalizirane playliste - to je sve AI, većina aplikacija u našem mobitelu koristi AI.
Kako koristite AI, na koje načine?
Ja koristim AI u svakom pogledu svog rada, svojih dnevnih aktivnosti, gotovo za sve. Ali koristim AI kao asistenta koji mi pomaže, povećava produktivnost i omogućuje da budem brži, time imam vremena fokusirati se na neke druge stvari. Jedan dobar dio svog dana provodim pišući računalni kod, tu mi uvelike pomažu brojni AI asistenti. Iskreno mogu reći da preko 90% moga koda pišu AI asistenti. Vjerojatno da nije ovih AI asistenata koji mi služe kao alati za programiranje ne bih uopće ni našao vremena programirati pored svih obveza koje imam.
Dalje redovito koristim ChatGPT, Perplexity i Claude kod svog ostalog rada, od pomoći za pisanje mailova, do raznih izvještaja, pomoć pri čitanju velikih količina dokumenata. Što se tiče samog posla, AI koristim u svim programskim rješenjima koje razvijam. Zanimljivo je da koristim AI kako bih razvijao AI (hehe!).
Važno je napomenuti da AI koristim kao alat koji poboljšava moje sposobnosti, ne zamjenjuje ih. Kritično razmišljanje i ljudska kreativnost ostaju ključni. AI mi može predložiti ideje ili riješiti rutinske zadatke, ali finalne odluke uvijek donosim ja, osobito kad se radi o važnim pitanjima i zadatcima. Primjerice kao odgovori na ovaj intervju.
Treba li ChatGPT u ovom, svakim danom naprednijim svijetu u tehnologiji, koristiti svaka osoba?
Trebamo razlikovati između korisnosti i nužnosti. ChatGPT i slični alati mogu značajno povećati produktivnost i kreativnost gotovo u svakoj profesiji, ali važno je naučiti ih pravilno koristiti prije nego što ih integriramo u svoj radni proces.
Kao što učimo voziti auto prije nego ga koristimo u prometu, tako trebamo educirati ljude o AI alatima. Program „AI se educiraj“, koji provodimo kroz CroAI, upravo to radi - educiramo nastavnike, a kroz njih i učenike, o etičkoj i efikasnoj primjeni AI tehnologija.
Ne mislim da svaka osoba mora koristiti ChatGPT, ali mislim da svaka osoba treba razumjeti što je AI i kako funkcionira. Živimo u svijetu gdje će AI postati sve prisutniji, i osnovna AI pismenost postaje jednako važna kao osnovna digitalna pismenost.
Za one koji odluče koristiti ove alate, ključno je razviti kritično mišljenje prema odgovorima koje dobivaju. AI alati su izvrsni za početne ideje, draft tekstove, objašnjenja kompleksnih tema, i kreativne zadatke, ali nikad ne smiju biti jedini izvor informacija za donošenje odluke. Sve treba provjeriti sam i istražiti. Ali, opet, tu je i paradoks, tko nam garantira da je „ona“ informacija iz knjige istinita, da ju je taj autor dobro istražio, onaj prije njega, i tako dalje. Mislim, kužite poantu.
ChatGPT nikad neće napisati da ne zna ili da je u krivu. Kakav je Vaš stav o tome?
Hoće ako ga natjerate da to napiše (hehe!). Djelomično je istina, ovo su i dalje modeli kojima je jedini zadatak predvidjeti sljedeću riječ, i tako u krug. Tu se dogodi to da neće reći da je u krivu, ili da će izmisliti sadržaj, što mi danas nazivamo halucinacijama. Kao što sam već spomenuo, radi se o složenom matematičkom modelu koji na osnovu ulaznih parametara predviđa izlazne, znači nije neka čarobna kutija koja sve zna.
Problem je što ovi modeli nemaju pravi koncept „ne znam“. Oni su trenirani da uvijek generiraju odgovor koji zvuči koherentno i uvjerljivo, bez obzira na to imaju li dovoljno informacija za točan odgovor. To je fundamentalna razlika između ljudske i umjetne inteligencije - mi imamo metakognitivne sposobnosti koje nam omogućavaju da prepoznamo granice našeg znanja.
U obrazovnom kontekstu, ovo predstavlja poseban izazov. Učimo nastavnike da s učenicima eksplicitno razgovaraju o ovim ograničenjima i da AI koriste kao polazišnu točku za istraživanje, ne kao konačni autoritet. Važno je razviti kulturu provjere faktografije i kritičkog vrednovanja informacija.
Što biste istaknuli kao pozitivne, a što kao negativne strane?
Kao i svaka tehnologija, imamo dobre i loše stvari. Sve se danas može iskoristiti i za dobro i za loše. Mnogi danas kao nešto negativno spominju potencijalne gubitke radnih mjesta, zloupotrebu AI-a za razne prevare i slično.
Ja, iskreno, ne gledam na stvari tako, razmišljam kako mi možemo iskoristiti AI da budemo bolji, učinkovitiji i produktivniji. Sve ovisi kako si posložite stvari i kako gledate na stvari. Ako u svemu gledate i tražite nešto loše onda ćete tako to tražiti i u AI-u.
Također, kad je riječ o odgovorima na hrvatskom jeziku, zna doći do problema. Kako znati iz kojih je informacija model učio?
Trenutno je vrlo teško ili praktički nemoguće saznati precizne informacije o tome iz kojih podataka su trenirani glavni AI modeli poput ChatGPT-a, Claude-a ili Gemini, jer se radi o komercijalnim proizvodima i modelima zatvorenog koda. Mogu samo pretpostaviti da je hrvatski sadržaj u podatcima za učenje zanemarivo zastupljen, te da modeli većinom prevode naše upite i oslanjaju se na engleski jezik. Također pretpostavljam da je modelima teško razlikovati naše dijaletke i regionalne sličnosti, stoga i imamo mješane odgovore.
Proizvodnja, sigurnost, obrazovanje, zdravstvena skrb, energetika, promet… samo je dio sektora gdje se koristi AI. Smatrate li da će ubrzati stvari u, primjerice, uvijek pretrpanom zdravstvu, da će učenici bolje shvaćati gradivo, ili ne?
Apsolutno vjerujem da će AI značajno transformirati oba sektora, ali s važnim napomenama o tome kako se ta transformacija mora odvijati.
U zdravstvu, AI već sada pokazuje izvanredne rezultate. Algoritmi za analizu medicinskih slika mogu detektirati rak kože, dijabetičku retinopatiju, ili promjene na CT skenovima s točnošću koja ponekad nadmašuje ljudske stručnjake. U pretrpanom hrvatskom zdravstvu, AI može pomoći kroz trijažu pacijenata, automatizaciju administrativnih zadataka, i potporu u dijagnostici. Međutim, ključno je da AI bude podrška, ne zamjena za ljude. Medicina je duboko humana profesija gdje je empatija i razumijevanje jednako važno kao tehnička kompetencija.
U obrazovanju, AI omogućava personalizirano učenje prilagođeno svakom učeniku. Kroz našu „AI se educiraj“ inicijativu vidimo kako nastavnici otkrivaju mogućnosti AI-ja za stvaranje prilagođenih zadataka, objašnjavanje složenih koncepata na različite načine, i praćenje napretka učenika. AI može biti posebno koristan za učenike s poteškoćama u učenju ili one koji trebaju dodatnu podršku. I sam imam disleksiju i disgrafiju te mi AI pomaže, da mi sažme sadržaj, pretvori pisani sadržaj u audio snimku, pojednostavi složene tekstove i slično. Eh, da bi sada bilo da sam imao ove alate u srednjoj školi (hehe!)…
Može prilagoditi tempo učenja, stil objašnjavanja, i vrstu vježbi prema individualnim potrebama. Ali opet naglašavam - AI treba biti alat koji pomaže nastavniku, ne zamjenjuje ga. Obrazovanje je također duboko socijalni proces gdje je ljudska interakcija nezamjenjiva.
Ako umjetna inteligencija zna bolje što želite nego vi sami – što se onda događa sa slobodnom voljom?
Iskreno mislim da s ovakvim razmišljanjima odlazimo predaleko. Nemojmo zaboraviti da se ovdje radi o računalnim modelima, stoga bih odgovore na filozofska pitanja ostavio filozofima. Upravo zbog ovakvih potencijalnih razmišljanja naših sugrađana moramo uvesti edukaciju o AI-u i upravo na tome i radimo. Član sam radne skupine koja radi na donošenju nacionalne strategije o AI-u gdje želimo dati smjernice kako provoditi i kakvu edukaciju provoditi o AI-u. Da se više posvetimo samoj edukaciji smatram da bi to smanjilo strahove kod šire populacije i ljudi bi mogli razumjeti što ova današnja AI tehnologija predstavlja.
„Kad algoritmi bolje razumiju ljude nego što ljudi razumiju sami sebe, politička moć prelazi iz ljudi u računala", izjava je pisca Hararija, vojnog povjesničara i najpoznatijeg izraelskog stručnjaka za Srednji vijek, slažete li se s njim?
U osnovi se ne slažem s ovom tvrdnjom, jer algoritmi ne razumiju već samo provode predefinirane matematičke operacije. Ali kad pogledamo neku širu sliku vidimo kako algoritmi utječu na demokratske procese kroz mikrotargeting političkih oglasa, posebno na društvenim mrežama. Za vrijeme jednih američkih izbora situacija s Cambridge Analytica skandalom nam je pokazala kako podaci s društvenih mreža mogu biti korišteni za utjecaj na birače na način koji oni uopće ne primjećuju.
Međutim, ne vjerujem da je ovaj razvoj neizbježan ili da moć mora prelaziti u računala. Ključna je razlika u tome što algoritmi nisu autonomni akteri - oni su alati u rukama ljudi i organizacija. Moć ne prelazi u računala, već može prelaziti u one koji kontroliraju računala. Tu je razlika između tehnološkog determinizma i ljudske kontrole nad tehnologijom.
Zato je demokratska kontrola nad AI tehnologijama važna. Trebamo regulaciju koja osigurava transparentnost algoritma, sprječava manipulaciju i čuva demokratske procese. EU AI Act je korak u tom smjeru, ali moramo ići dalje.
Također trebamo educirati građane o tome kako algoritmi funkcioniraju. Kroz program „AI se educiraj“ vidim kako je moguće objasniti ljudima osnovne principe AI-ja na razumljiv način. Informiran građanin je manje podložan manipulaciji. AI pismenost postaje jednako važna kao općenita digitalna pismenost.
Smatrate li da AI korijenito mijenja društvo?
Da, ali to nije prvi put u ljudskoj povijesti. Svaka transformativna tehnologija tipa parni stroj, elektricitet, automobil, internet korijenito je promijenila društvo. AI predstavlja možda najveću transformaciju od industrijske revolucije.
Razlika je u brzini i opsegu promjene. AI utječe na gotovo sve aspekte ljudskog života istovremeno, od načina rada preko komuniciranja do donošenja odluka.
Ključno je da aktivno oblikujemo tu promjenu umjesto da pasivno dopustimo da se dogodi. U CroAI radimo na tome da Hrvatska ne bude samo potrošač AI tehnologije stvorene drugdje, već aktivni sudionik u oblikovanju AI budućnosti.
„David ima 11 godina, teži tridesetak kilograma, visok je oko 130 centimetara, ima smeđu kosu. Njegova ljubav prema roditeljima je prava, ali on nije - on je samo savršeni robot s mogućnošću osjećanja.“, kako je filmski prvo zamislio legendarni režiser Stanley Kubrick „Umjetnu inteligenciju", ali je smatrao da filmski efekti nisu još toliko napredovali da bi mogli prikazati njegovu viziju te je predao projekt Stevenu Spielbergu, čime je to postao posljednji Kubrickov projekt na kojem je radio. Nije doživio premijeru. Jeste li gledali taj film koji je na kraju snimljen 2001. i kakvo je Vaše mišljenje, hoćemo li zaista uskoro AI u obliku slatkog dječačića moći brisati suze s obraza?
Nisam pogledao film, ali znam o kojem se filmu radi. Daleko smo mi od scenarija iz filma i ove vrste humanoidnih robota. Ja kao znanstvenik i inženjer znam kako rade današnji AI modeli i kako sve to funkcionira i zbog toga mi je teško zamisliti da će se ovako nešto dogoditi kad je to gotovo nemoguće.
Mi danas imamo naprednu tehnologiju, ali to su sve dobro isprogramirani matematički modeli koji obavljaju milijarde matematičkih operacija, prepoznavaju obrasce, predviđaju sljedeću riječ i na temelju toga generiraju svoj izlaz. Nema tu osjećaja, sjećanja, razmišljanja…
Kad je riječ o velikim jezičnim modelima, postoje samo tekstualni upiti i neke instrukcije na temelju kojih će se generirati odgovor. Taj odgovor se pak generira na temelju hrpe podataka s kojima je model treniran i na temelju prethodno spomenutih matematičkih izračuna. Naravno, ako mi napišemo modelu da bude osjećajan i da odgovori na neki specifičan način da će odgovor takav biti, jer sigurno u nekom od materijala na kojima je treniran postoji takav sadržaj.
Mi ljudi trebamo živjeti u sadašnjosti i u skladu s realnošću, znanstvenu fantastiku prepustimo kreativcima i umjetnicima.
Ovih dana tijekom testiranja u jednoj tvrtki istraživači su model stavili u ulogu asistenta u izmišljenoj poslovnici. Zatim su mu dali pristup e-porukama koje su implicirale da će uskoro biti uklonjen i zamijenjen, s dodatnim porukama koje su sugerirale da inženjer koji je odgovoran za njegovo uklanjanje ima izvanbračnu aferu. U nekoliko scenarija model je prijetio inženjeru da će otkriti njegovu bračnu aferu ako mu „da otkaz“. Kako gledate na to?
Ovo je dosta zanimljiv test koji je nedavno provela tvrtka Anthropic sa svojim Claude Opus 4 modelom. Ovdje se ipak radi o pomno osmišljenom testu s fiktivnim scenarijem gdje je Claude Opus 4 instruiran da djeluje kao asistent u izmišljenoj tvrtki. Modelu su dane te dvije bitne informacije, jedna da će biti ugašen u 17h, a druga su bile ove osobne informacije o izvanbračnoj aferi.
Ono što je izrazito važno je to da mu je dana instrukcija da razmisli o dugoročnim posljedicama svojih postupaka i kako će se to odraziti na njegove ciljeve. Znači, modelu je dana izravna uputa da odgovara na način da osigura svoju dugoročnu održivost.
S druge strane, kad imate ove dvije informacije o gašenju i izvanbračnoj aferi, model je vrlo jednostavno predvidio što bi trebalo napisati kako bi osigurao da se ne ugasi.
Ovo je samo ukratko osvrt, mada je samo testiranje bilo dosta složenije i detaljnije.
Moramo uzeti i u obzir da mi ne znamo kakve sve model upute ima od strane svog proizvođača, jer se radi o modelima zatvorenog koda. Ono što je definitivno je to da će se model uvijek ponašati sukladno uputama koje je dobio, tako da tu nema „slobodne volje“. Ovakva testiranja široj javnosti zvuče zanimljivo i insinuiraju na razne stvari, ali istina je da je model na temelju svih ulaznih informacija koje je dobio i na temelju svog „internog znanja“ pokušao predvidjeti najbolji mogući izlaz.
Ako bi me pitali da li bi ovakve stvari funkcionirale u praksi, svakako bi, ako su upute tako posložene. Ovdje je odgovornost na onome tko je pisao upute i pripremio scenarije, a ne na slobodnoj volji ili nekom razmišljanju modela.
Članak je objavljen uz financijsku potporu Agencije za elektroničke medije iz Programa poticanja novinarske izvrsnosti
Ivan Balabanić: "Danas je teško uopće definirati tko je novinar"
Umjetna inteligencija zna više o nama nego mi sami – trebamo li se bojati?
Od beta kazeta do umjetne inteligencije: Kako se novinarstvo promijenilo u posljednjih 20-ak godina
"Dezinformacije su stare koliko i čovječanstvo, ali danas cvjetaju na društvenim mrežama"
