PRVA SAVI PANEL-DISKUSIJA

Prva panel-diskusija SAVI-ja održana je u Matici srpskoj u Novom Sadu, 24.09.2026. godine, i bila je posvećena pitanju „Da li je pređen digitalni Rubikon – izazovi primene veštačke inteligencije u savremenom svetu“.

Skup je okupio članove SAVI-ja, univerzitetske profesore, istraživače i goste koji su temu sagledali iz različitih stručnih perspektiva: filozofije, informatike, matematike i mašinskog učenja, obrazovanja, bezbednosti i teologije.

Tokom razgovora predstavljena je i knjiga „Digitalni Rubikon“ prezvitera dr Olivera Subotića, a diskusija je otvorila pitanja kontrole tehnologije, naučne odgovornosti, obrazovanja, porodice i čovekove slobode u vremenu sve šire primene veštačke inteligencije.

Zapisnik sa panel-diskusije

U nastavku je tekst zapisnika, uređen po redosledu izlaganja učesnika.

Dr Nenad Badovinac:

Pomaže Bog, dragi prijatelji, članovi našeg udruženja i, pre svega, saradnici. Mi već neko vreme radimo zajedno, često se čujemo telefonom i razmenjujemo mejlove, pa bih rekao da smo najpre prijatelji, a zatim i saradnici. Dobro došli na našu prvu SAVI panel-diskusiju, pod naslovom „Da li je pređen digitalni Rubikon – izazovi primene veštačke inteligencije u savremenom svetu“. Posebno mi je drago i velika mi je čast što imamo priliku da se okupimo u Matici srpskoj. Zahvaljujem Matici srpskoj i njenom predsedniku prof. dr Draganu Staniću. Danas sam gledao sajt Matice srpske i video da se upravo ove godine obeležava 200 godina od njenog osnivanja, pa mi je još veća čast što se naša panel-diskusija održava upravo u godini tog jubileja.

Želeo bih da predstavim naše učesnike. Od suosnivača SAVI-ja sa nama su Maksim Tomić, informatičar i prof. dr Zdenko Tomić sa Medicinskog fakulteta. Naši današnji panelisti su dr Vanja Subotić, naučna saradnica na Filozofskom fakultetu Univerziteta u Beogradu; prof. dr Velimir Dedić, profesor na Univerzitetu Union – Nikola Tesla u Beogradu; prof. dr Milovan Krnjajić, naučnik iz oblasti informatike, statistike i mašinskog učenja; i prezviter dr Oliver Subotić, teolog i informatički stručnjak koji se bavi i pitanjima veštačke inteligencije. Sa nama danas nisu prof. dr Aleksandar Lipkovski koji je imao veliku želju da dođe, ali nije bio u mogućnosti, kao ni gospodin Branislav Bubalo, koji je takođe jedan od suosnivača. On je na poslovnom putovanju u Americi, ali nas sve pozdravlja i veoma mu je stalo da uspemo u onome što smo zamislili.

Da kažem ukratko i nešto o sebi, za one koji me ne poznaju. Ja sam Nenad Badovinac, radim na Univerzitetu Union – Nikola Tesla i bavim se informatikom. Veštačkom inteligencijom bavim se i kroz naučni rad i kroz njenu praktičnu primenu. Kada sam preuzeo ulogu predsednika SAVI-ja, jedan od ciljeva bio mi je da gradimo udruženje u kojem će naši razgovori i susreti – naročito ovakvi, uživo, kroz panel-diskusije i konferencije – donositi konkretne rezultate. Znam da je pre nego što sam preuzeo ovu ulogu održana i jedna onlajn diskusija koja je takođe donela određene rezultate. Ipak, trudiću se da se što češće okupljamo neposredno i da za istim stolom zajednički dolazimo do ideja, odluka i konkretnih koraka.

1. U proteklih mesec-dva već smo napravili nekoliko takvih koraka. Prvi je knjiga „Digitalni Rubikon“, koju imate na stolu kao poklon. To je prva knjiga u izdanju SAVI-ja koja se direktno bavi veštačkom inteligencijom, a autor je prezviter dr Oliver Subotić. Time smo, na neki način, i započeli rad udruženja.
2. Knjiga je ušla i u distribuciju kroz knjižare Delfi, tako da je dostupna kroz širi kanal prodaje, uključujući i porudžbine iz inostranstva.
3. Pokrenuli smo i projekat „SAVI glas struke“. Mnogi od vas su se već uključili. Želja nam je da se članovi udruženja predstave široj javnosti – da javnost zna ko su ljudi okupljeni u SAVI-ju, kako razmišljaju i koje stručnosti donose iz svojih oblasti. SAVI okuplja stručnjake iz različitih disciplina i želimo da se ta interdisciplinarnost jasno vidi. Za sada projekat podrazumeva kraće odgovore članova na odabrana pitanja i njihovo predstavljanje na LinkedIn-u. Ali razmišljamo dugoročnije: ti odgovori jednog dana mogu prerasti u knjigu, monografiju ili godišnje izdanje u kojem bismo pratili kako se menjaju izazovi veštačke inteligencije. Dakle, cilj nije samo da se pojedinačno predstavimo, već da gradimo sadržaj koji će ostati i imati širi domet. Naš najveći kapital su upravo članovi SAVI-ja. Trenutno nas je oko trideset. Nećemo se tu zaustaviti; želimo da broj članova raste i da interdisciplinarnost bude sve snažnija. Nismo ovde samo zbog stručne i naučne javnosti. Želimo da budemo korisni i široj javnosti, ljudima koji danas imaju mnogo nedoumica u vezi sa veštačkom inteligencijom i teško dolaze do pouzdanih odgovora.
4. Aktivirali smo i sajt SAVI-ja, pa vas ovom prilikom molim da ga, koliko možete, preporučite ljudima za koje mislite da bi ih naše teme mogle zanimati.
5. Ostvarili smo i razgovore sa Matematičkim institutom SANU u Beogradu. To je za nas prvi ozbiljniji korak ka međuinstitucionalnoj saradnji. Razgovarali smo o mogućnosti zajedničkog organizovanja konferencija i naučnih skupova, kao i o uključivanju članova SAVI-ja u seminare i stručne programe koje Institut organizuje u oblastima povezanim sa veštačkom inteligencijom.

Još jedan važan razlog zbog kojeg smatram da je SAVI potreban jeste potreba da stručno znanje približimo javnosti. Studenti, učenici, profesori, roditelji i privrednici svakodnevno traže odgovore o veštačkoj inteligenciji i često dobijaju potpuno različite poruke. SAVI treba da ponudi prostor u kojem će ljudi moći da čuju stručnjake iz različitih oblasti, razumeju mogućnosti i rizike i na osnovu toga donesu sopstveni sud. Upravo u tom interdisciplinarnom pogledu vidim jednu od najvećih vrednosti našeg udruženja.

Za početak bih dao reč Maksimu da predstavi knjigu oca Olivera, a zatim bih zamolio svakog od panelista da u približno deset minuta iznese svoje viđenje teme i odgovori na pitanje: da li smo prešli digitalni Rubikon? Maksime, izvoli.

Maksim Tomić:

Pomaže Bog i sa moje strane. Zadovoljstvo mi je što mogu da kažem nekoliko reči o ovoj knjizi. Knjiga je na srpskom jeziku objavljena 2023. godine u izdanju Katene mundi. U vreme njenog nastanka svetska javnost je upravo počela masovno da se susreće sa velikim jezičkim modelima poput ChatGPT-a. Za svega nekoliko godina veštačka inteligencija je iz eksperimentalnog i stručnog okruženja ušla u svakodnevni život velikog broja ljudi. Šta se u međuvremenu dogodilo? Navešću samo nekoliko vesti i primera koji su uzburkali javnost. Govorilo se o eksperimentima u kojima su napredni modeli pokazivali neočekivane sposobnosti u zatvorenim ili kontrolisanim okruženjima, kao i o ogromnoj potrebi kompanija za novim materijalom za obuku modela. Jedan od primera o kojem se pisalo jeste masovna digitalizacija knjiga radi dobijanja materijala za obučavanje sistema, pri čemu se u nekim procesima fizički primerci knjiga i uništavaju tokom skeniranja. Takve pojave pokazuju koliko je veštačka inteligencija duboko ušla u našu svakodnevicu. Ova knjiga se bavi problematikom kojom se danas bave mnogi, ali iz ugla koji je još uvek relativno redak. Ona pokušava da pruži sveobuhvatniji pogled na potencijale veštačke inteligencije, ali i na izazove koje ona stavlja pred čoveka i društvo. Mnogi zagovornici transhumanizma danas govore da je došlo vreme da se redefiniše sam pojam čoveka. Ova knjiga, pisana iz perspektive pravoslavne tradicije, nudi drugačiji pogled. Izazovi su brojni: od obrazovanja, prava, nauke i istraživanja, pa sve do vojno-bezbednosnog sektora. I najmanje se, po mom mišljenju, radi samo o tehničkim problemima. Tehnologija je veoma moćna upravo u rešavanju tehničkih zadataka. Dublja pitanja tiču se čoveka, slobode, odgovornosti, identiteta i odnosa prema drugima. Jedna od ključnih opasnosti koju ja prepoznajem u knjizi jeste ono što bih nazvao unutrašnjom okupacijom: prodorom tehnologije ne samo u naše spoljašnje aktivnosti nego i u naše unutrašnje biće. To se, između ostalog, vidi i kroz pojavu emotivnih odnosa ljudi sa sistemima veštačke inteligencije, o čemu je otac Oliver detaljnije pisao u knjizi i svojim tekstovima. Na kraju, samo štampanje knjige u vremenu potpune digitalizacije ima i određenu simboliku. Fizička knjiga ostaje predmet koji čovek poseduje, čuva, pozajmljuje i prenosi nezavisno od digitalnih platformi. U tom smislu ona predstavlja i podsećanje da celokupno kulturno i istorijsko znanje ne treba svesti isključivo na sadržaj koji je pod kontrolom tehnoloških sistema i korporacija.

Dr Nenad Badovinac:

Hvala ti, Maksime. Sada bih zamolio dr Vanju Subotić da iznese svoje viđenje naše teme.

Dr Vanja Subotić:

Maksimovo izlaganje me je jednim delom inspirisalo i mislim da se ovo o čemu ću govoriti lepo nadovezuje na ono što smo već čuli. Ovde, rekla bih, predstavljam i filozofiju i šire humanističke nauke, koje su na neki način na prvoj liniji odbrane svega onoga što je autentično ljudsko u dobu veštačke inteligencije. Fenomen koji mi je posebno zanimljiv i koji nas, čini mi se, postavlja pravo na sredinu tog Rubikona jeste sve češća priča u medijima da velike tehnološke kompanije počinju da zapošljavaju filozofe. To je zanimljivo već zato što filozofe kroz istoriju ne povezujemo nužno sa praktičnim zanimanjima. Diogen je živeo u buretu, Niče je opstajao zahvaljujući porodici i prijateljima, Spinoza je brusio sočiva kako bi mogao da se izdržava i istovremeno bavi filozofijom. A onda su, pre godinu ili dve, kompanije poput Google DeepMind-a počele da objavljuju oglase za filozofe. To je pokrenulo i niz šala: da li se filozofi sada zapošljavaju kako bi veštačku inteligenciju naučili kako izgleda biti nezaposlen sa diplomom, a posebno sa doktoratom? Iza šale se, međutim, nalazi ozbiljno pitanje: šta je zapravo ono što mi u filozofiji radimo i šta je to što filozofiju danas može da učini korisnom?

Ovo nije prvi put da je humanistika velikim kompanijama postala zanimljiva. Sličan proces događao se sedamdesetih godina, kada je počela komercijalizacija računara, odnosno personalnih računara. Tada su kompanije u većem broju zapošljavale antropologe da proučavaju ono što danas zovemo korisničkim iskustvom: kako ljudi koriste računare, kako se ponašaju na radnom mestu i kakvi se odnosi stvaraju između ljudi i tehnologije. Takve pozicije tada su se reklamirale kao primenjena antropologija. Danas sve češće čujemo o „primenjenoj filozofiji“ usmerenoj gotovo isključivo na veštačku inteligenciju. Jedan od pokazatelja koliko je ta oblast postala popularna, barem u mojoj struci, jeste rast broja oglasa za filozofske poslove povezane sa tehnologijom. Pre desetak godina to je bio sasvim mali procenat; danas je višestruko veći.

Na prvi pogled to može da izgleda veoma obećavajuće i tako se često predstavlja u medijima. Dario Amodei i Danijela Amodei iz Anthropic-a, na primer, govorili su o značaju humanistike u novom tehnološkom okruženju. Poruka koja se ponekad izvlači iz takvih nastupa jeste gotovo paradoksalna: ako želite posao u vodećoj tehnološkoj kompaniji, možda će vam humanističko obrazovanje biti korisnije nego što ste očekivali. Iako to zvuči zavodljivo, mislim da u tome postoji i snažan marketinški element. Bliža analiza takvih oglasa često pokazuje složeniju sliku. Mene, međutim, više zanimaju posledice takvog narativa po tržište rada u humanistici, naročito u filozofiji, ali i po naš integritet kao naučnika koji se prvenstveno bave čovekom i egzistencijalnim pitanjima. Prva posledica je da, usled insistiranja da filozofija mora neposredno da bude „primenjena“ kako bi bila korisna, neke tradicionalne oblasti počinju da gube talentovane ljude. Čak i oni kojima veštačka inteligencija nije bila osnovno interesovanje mogu da se odluče baš za tu poddisciplinu zato što očekuju lakše zaposlenje, veći prestiž ili bolje finansijske uslove. Time fundamentalne discipline – filozofija duha, etika, politička filozofija, metafizika i druge – mogu ostati bez ljudi koji bi se bavili njihovim još uvek otvorenim pitanjima. A mnoga od tih pitanja daleko su od rešenih.

Drugi problem je svojevrsna kriza ekspertize. Nekada bi bilo gotovo nezamislivo da se neko ozbiljno bavi filozofijom nauke i tehnologije, a da pritom ne poznaje metodologiju nauke ili tehnologije o kojoj govori. Danas, pod pritiskom trenda, to sve češće viđamo. Dobijamo masovnu produkciju radova i projekata od strane ljudi koji ponekad nemaju dovoljno duboko razumevanje oblasti u koju ulaze. To otežava i pravu interdisciplinarnu saradnju. Sa druge strane, mogu da razumem zbog čega se to događa: u vremenu kada se ChatGPT i slični sistemi masovno koriste u nauci, lako je steći utisak da sada „svi možemo sve“. Ali to nije tako. Kao da smo izgubili ono što bih nazvala intelektualnom skromnošću, a koju visoko obrazovanje zapravo treba da razvija. Meni je, paradoksalno, završavanje doktorata više pokazalo koliko toga ne znam nego koliko znam.

Pored tržišta rada, tu je i pitanje integriteta naučnika. Ako velikim kompanijama prepustimo da one definišu pod kojim uslovima je naš rad koristan i kada se naš doprinos računa, gubimo deo autonomije sopstvene discipline. Ljudi koji rade u takvim kompanijama, uključujući filozofe angažovane u vodećim AI kompanijama, često se bave upravo temama koje su tim kompanijama neposredno potrebne. Tada ostaje manje prostora za nezavisno, robustno i kritičko filozofsko promišljanje odnosa tehnologije i društva, kao i uticaja tehnologije na čoveka – upravo onih pitanja o kojima je govorio Maksim i kojima se bavi knjiga oca Olivera. Istorija filozofije nas, uostalom, podseća da se ključna pitanja razvijaju sporo. Mnogi veliki filozofi nisu radili ni na univerzitetima, a kamoli u velikim kompanijama. Filozofija ne napreduje nužno u ritmu tržišta i korporativnih potreba.

Poseban problem vidim u samom izboru tema koje postaju popularne u filozofiji veštačke inteligencije. Jedna od njih su hipotetički scenariji o superinteligenciji ili opštoj veštačkoj inteligenciji. Takva pitanja mogu biti legitimna, ali često postaju izrazito spekulativna. Ne spekulativna u smislu misaonih eksperimenata – koji jesu standardan filozofski metod – već zato što još nemamo stručni konsenzus ni o osnovnim definicijama: šta bi bila svest kod veštačkog sistema, šta tačno podrazumevamo pod opštom veštačkom inteligencijom i koje sposobnosti uopšte treba uzeti kao kriterijum inteligentnog ponašanja.

Kada filozofija samo preuzme dominantni medijski narativ i ide niz dlaku njegovim pretpostavkama, ona se udaljava od sopstvenog kritičkog zadatka. Posebno zato što su neki od tih narativa povezani sa idejama transhumanizma, a ponekad i sa vrlo problematičnim pretpostavkama o čoveku i društvu. Upravo bi filozofi trebalo da se bave tim dubljim motivacijama i pretpostavkama. Završiću jednom kratkom opaskom. Možda je naša snažna potreba da društvu dokažemo da smo „korisni“ dovela do toga da nedovoljno preispitujemo sam sistem koji od nas traži da budemo korisni po tuđim merilima. Toliko želimo da budemo deo nečega prestižnog i finansijski privlačnog da ponekad ne primećujemo da prihvatamo pravila sistema koji već pokazuje ozbiljne pukotine.

Dr Nenad Badovinac:

Hvala, Vanja. Pitanja i širu diskusiju ostavićemo za kasnije. Sada bih zamolio profesora dr Velimira Dedića za njegovo izlaganje. Izvolite, profesore.

Prof. dr Velimir Dedić:

Hvala. Velika je čast biti u ovom visokom domu duha. Kada ste u društvu ovako pametnih ljudi, ono što ste unapred pripremili često više nije toliko važno, jer vas prethodna izlaganja podstaknu da govorite drugačije. Koleginica Vanja je govorila o odnosu primenjenog i suštinskog, pa ću početi jednom istinitom pričom koja to lepo ilustruje. Moj kum je završio ETF, njegova supruga je doktor hemijskih nauka, i zajedno su otišli u Kanadu, u Toronto, da grade novi život. Tamo je sve bilo „primenjeno“: primenjene nauke, primenjeni jezici, primenjena geometrija, sport, sve praktično i usmereno ka konkretnom rezultatu. Deca su išla u dobre škole i na razne korisne kurseve. A onda je njihov sin odlučio da upiše filozofiju. Moj kum je bio očajan. Sve je bilo primenjeno, a sin je izabrao jedinu stvar koja mu se činila potpuno „neprimenjenom“. Sarkastično mu je rekao: „Baš si pametno odlučio. Evo, upravo se u Torontu otvara velika fabrika filozofije.“ Nije ni slutio koliko bi takva rečenica danas mogla da zvuči drugačije. Ali da se vratim temi. Maksim mi je već „pokvario“ pola izlaganja time što je govorio o modelima koji se ponašaju neočekivano. Ja sam hteo najpre malo da pohvalim veštačku inteligenciju i da navedem nekoliko primera onoga što je, po mom mišljenju, dobro donela.

Jedan primer je razvoj mehanicističkih, višećelijskih modela tkiva i ćelija. Ideja je da se prirodnim jezikom, bez klasičnog programiranja, opiše konkretan tumor konkretnog pacijenta, a zatim napravi njegov digitalni model na kojem se mogu simulirati različite terapije – zračenje, hemoterapija, pa čak i hirurške intervencije. Ako takav pristup zaista omogućava brzo dobijanje korisnog digitalnog modela, teško je osporiti njegov potencijal. Drugi primer dolazi iz matematike. U poslednje vreme pojavljuju se rezultati u kojima veliki jezički modeli učestvuju u rešavanju veoma teških matematičkih problema i proveravanju dokaza. Pominjani su i problemi povezani sa radom Paula Erdosa. Ako sistemi koji nisu posebno pravljeni kao klasični matematički softver počnu da daju originalne i proverljive doprinose te vrste, posledice po nauku mogu biti veoma velike.

Tu ću završiti sa pohvalama, a sada prelazim na ono što me više brine. Predsednik Matice srpske i ja smo kratko razgovarali o kulturi dijaloga kod nas. Često se događa da se onaj ko ima drugačije mišljenje odmah doživi kao protivnik ili neprijatelj, zbog čega je pravi dijalog veoma težak. U duhu takve kulture dijaloga, pomenuću i izjavu ukrajinskog predsednika Volodimira Zelenskog sa Generalne skupštine UN, onako kako sam je razumeo: govorio je o mogućnosti da se u budućnosti na bojnom polju pojave jedinice kojima će komandovati sistemi veštačke inteligencije, ne samo kao pomoć u izvođenju operacija već kao autonomni komandni sistemi. Ako do toga dođe, posledice su ogromne. Meni se čini da smo danas u situaciji koja na neki način podseća na period oko 1940. godine i razvoj nuklearnog oružja. Fizički principi su bili poznati, velike sile su radile na istom problemu, a glavni izazovi bili su tehnološki. Prvi su do upotrebljivog oružja došli Amerikanci i ono je u ratu upotrebljeno dva puta. Kasnije su nuklearno oružje dobile i druge države, a tokom Hladnog rata uspostavljena je ravnoteža straha i čitav sistem međunarodnih sporazuma, kontrole i odvraćanja.

Zašto to pominjem? Zato što smatram da ćemo nešto slično morati da razvijemo i za najopasnije primene veštačke inteligencije. Bez međunarodnih pravila, mehanizama kontrole i nekog oblika uzajamnog nadzora, rizik može postati neprihvatljivo veliki.

U kontekstu rata u Ukrajini videli smo i primere napada dronovima na strateške vojne ciljeve duboko u teritoriji Rusije. Takvi događaji pokazuju koliko se brzo menjaju granice onoga što je tehnički moguće i koliko postojeći sistemi odvraćanja mogu biti izloženi novim vrstama tehnologije. Ne ulazim ovde u političku ocenu tih događaja; za ovu diskusiju mi je važna tehnološka i bezbednosna implikacija. Upravo zato mislim da pitanje nije samo da li je veštačka inteligencija „zaista inteligentna“ u filozofskom smislu. Ja lično ne mislim da je ona inteligentna na isti način kao čovek i ne mislim da „misli“ kao čovek. Ali to ne umanjuje rizik. Možemo napraviti analogiju sa opasnim biološkim agensima koji se čuvaju u strogo kontrolisanim laboratorijama. Ako bi takav agens izašao iz kontrolisanog okruženja, nije važno da li on ima svest, nameru ili želju da nekoga povredi. Posledice bi mogle biti veoma ozbiljne zbog same prirode sistema. Slično tome, kod veštačke inteligencije ključno pitanje može postati: ne da li ona ima svest ili nameru, već da li će sistem koji može da proizvede veliku štetu ostati pod pouzdanom kontrolom. Zbog toga smatram da ćemo morati da dođemo do međunarodnih sporazuma i sistema kontrole za napredne sisteme veštačke inteligencije, na način koji će po ozbiljnosti barem podsećati na režime kontrole najopasnijih tehnologija iz prethodnog veka. Hvala.

Dr Nenad Badovinac:

Hvala, profesore. Sada bih zamolio prof. dr Milovana Krnjajića da nam se obrati.

Prof. dr Milovan Krnjajić:

U deset minuta zaista nije moguće mnogo toga obuhvatiti u ovako važnoj i složenoj temi. S tim u vezi setio sam se jednog citata iz Dostojevskog. Dmitrij Karamazov kaže: „Čovek je suviše širok, trebalo bi ga suziti.“ Dostojevski je, naravno, govorio o prirodi čoveka, njegovoj slobodi i složenosti. Uzeću tu rečenicu samo kao metaforu za svoj problem danas: tema veštačke inteligencije je ogromna – kako je suziti? Jedan način je da odvojimo čisto tehničke aspekte od njenog delovanja na društvo, pojedinca, politiku, privredu, ratovanje i, uopšte, život ljudi. Gotovo da nema oblasti u koju veštačka inteligencija danas ne ulazi. Zato ću taksativno pomenuti samo nekoliko tema.

Moja prvobitna tema trebalo je da budu rizici primene veštačke inteligencije u nauci i matematici. O tome sam napisao i kratak tekst koji je profesor Badovinac objavio na sajtu. Mislim da su nauka i matematika u ponečemu drugačije od drugih oblasti primene. Matematika je, uslovno rečeno, „bezazlenija“: ako matematičar koristi sistem veštačke inteligencije kao pomoć pri dokazivanju, sama po sebi ta upotreba ne mora da proizvede neposrednu društvenu štetu. Ali stvari postaju zanimljive kada takvi sistemi počnu da doprinose rezultatima koji izgledaju kao novo znanje. U poslednje vreme pominjani su rezultati velikih AI sistema na veoma teškim matematičkim problemima, uključujući probleme povezane sa Navier–Stokesovim jednačinama i drugim otvorenim pitanjima. Ono što je meni važno nije pojedinačni primer, već promena nivoa: do pre nekoliko godina fasciniralo nas je kada sistem rešava probleme sa matematičkih olimpijada. To su veoma teški zadaci, ali rešenja su već poznata i mogu se proveriti prema postojećem znanju. Ako sistem počne da proizvodi rezultate koji ranije nisu bili poznati, onda smo, barem u malom, prešli jedan digitalni Rubikon. To je pozitivna strana priče: mogućnost da računar ne samo reprodukuje postojeće znanje već pomogne u stvaranju novog. Ali upravo tu počinju i rizici. Veliki jezički modeli daju odgovore koji mogu biti veoma ubedljivo i lepo formulisani, ali to uopšte ne znači da su tačni. Potreba za verifikacijom i validacijom njihovih rezultata postaje ogromna. U nauci i matematici čovek – matematičar ili drugi stručnjak – mora da proveri hipoteze i rezultate koje sistem generiše. Problem je u tome što sistem može da generiše hiljade ili stotine hiljada hipoteza, mnogo više nego što bi jedan istraživač mogao da proveri za nekoliko života. Tada više nije problem samo proizvodnja ideja, već pitanje: šta je od svega toga zaista tačno i vredno? Tu se nadovezujemo i na ono što je koleginica Vanja pomenula – hiperprodukciju naučnih radova. Sve je više tekstova koje razume vrlo mali broj ljudi, ponekad jedva i sami autori. I sam sam bio recenzent u više časopisa i dešavalo mi se da teško pratim radove čak i iz relativno uske oblasti kojom se bavim. Napravio bih ovde malu digresiju o samom izrazu „veštačka inteligencija“. I ja smatram da taj termin nije sasvim srećan. Star je gotovo sedamdeset godina i pokazao se izuzetno uspešnim marketinški.

Jedan od ranih sistema koji se nazivao veštačkom inteligencijom bio je perceptron. U najjednostavnijem obliku to je linearni klasifikacioni model: u dvodimenzionalnom prostoru može, na primer, da razdvoji dve grupe tačaka jednom pravom ako su linearno razdvojive. Ako nisu, osnovni model ima ozbiljna ograničenja. Ipak, neki osnovni principi iz tih ranih modela žive i danas u savremenim neuronskim mrežama. U tehničkom smislu, srž velikog dela savremenog mašinskog učenja možemo posmatrati kao statističko i matematičko modelovanje podataka. Neuronske mreže koriste veliki broj parametara – težinskih koeficijenata – a kod sistema dubokog učenja njihov broj može biti ogroman. Tokom obuke traži se skup vrednosti tih parametara koji optimizuje određenu funkciju greške, najčešće postupcima zasnovanim na gradijentnom spustu.

Klasična teorija mašinskog učenja dugo nas je učila jednom intuitivnom obrascu. Jednostavan model pravi relativno veliku grešku. Kako povećavamo složenost modela, greška opada. Posle određene tačke model postaje previše prilagođen podacima na kojima je treniran – dolazi do takozvanog overfitting-a – pa mu performanse na novim, ranije neviđenim podacima mogu da se pogoršaju. Sa pojavom veoma velikih modela primećen je i fenomen koji se naziva double descent: nakon početnog pogoršanja, pri daljem velikom povećanju složenosti greška ponovo može da opada. Taj fenomen je empirijski opisan, ali njegova potpuna teorijska slika i dalje otvara mnogo pitanja. Zašto to pominjem? Zato što pokazuje da smo ušli na teritoriju na kojoj praksa u nekim segmentima ide ispred potpunog teorijskog razumevanja. Čak i vodeći istraživači neuronskih mreža otvoreno govore o tome da još nemamo jednu potpunu, zadovoljavajuću teoriju koja bi objasnila sve što veliki modeli rade pri ogromnim količinama podataka i ogromnoj složenosti. To je rizik sam po sebi. Koristimo nešto što veoma dobro radi, ali ne razumemo uvek do kraja zašto radi upravo tako.

Pomenuo bih i Džona Lenoksa (John Lennox), matematičara i hrišćanskog mislioca koji se intenzivno bavio pitanjima veštačke inteligencije i transhumanizma. Jedna od njegovih poznatih knjiga na ovu temu nosi naslov „2084“ i bavi se budućnošću čoveka u dobu veštačke inteligencije. Kod Lenoksa mi je zanimljiva i njegova kultura polemike. Polemika, od grčke reči polemos – rat – može biti vrlo oštra, ali i dalje civilizovana i zasnovana na argumentima. To je posebno važno kada govorimo o temama koje dele javnost. Jedna od velikih opasnosti o kojoj on govori jeste transhumanizam. U javnom prostoru postoje uticajni autori i organizacije koji zastupaju ideju sve dubljeg spajanja čoveka i tehnologije, uz obećanja radikalnog produženja života i prevazilaženja bioloških ograničenja. Ja prema takvim idejama imam izrazito kritičan stav. Iz moje perspektive, pokušaj da se čovek svede na nešto što se može tehnološki rekonstruisati ili „nadograditi“ nosi duboke antropološke i duhovne protivrečnosti.

Druga velika opasnost je prevara – fraud – odnosno mogućnost da sistemi proizvode informacije koje deluju uverljivo i približno istinito, ali zahtevaju strogu proveru. Tu spada i deepfake. Već smo videli mnoge, ponekad smešne primere, ali kada se takva tehnologija podigne na institucionalni nivo, posledice mogu biti ozbiljne. Moguće je dovesti veliki broj ljudi u zabludu, a pojedinac prikazan na lažnom snimku može biti primoran da dokazuje da nešto nije rekao ili uradio. Tu dolazimo i do sledećeg problema: ako ustanovimo neki centralizovani sistem koji će odlučivati šta je autentično, a šta lažno, ko će kontrolisati tog arbitra istine? I sama verifikacija može postati izvor moći.

Na kraju bih rekao da, kako kaže Sveto pismo, „nema ništa novo pod suncem“. Ni veštačka inteligencija nije potpuno nova po tome što tehnologija menja naš život. Industrijska revolucija je već krajem 18. i tokom 19. veka radikalno preoblikovala spoljašnjost ljudskog života. Ali tehnologija ne menja samo spoljašnje uslove. Ona menja i naš način odnosa prema svetu. Postavlja okvir komunikacije sa prirodom, ljudima i društvom. Taj okvir može postati toliko dominantan da počne da oblikuje i način na koji razumemo sami sebe. Moj najveći strah je da veštačka inteligencija može dodatno produbiti tu vrstu unutrašnjeg porobljavanja. Čovek je ličnost – slobodno i neponovljivo biće – a tehnološki sistemi imaju prirodnu tendenciju da ga svode na ono što može da se meri, kvantifikuje i obradi: broj, profil, podatak, jedinicu radne snage ili skup predvidivih obrazaca. Tu vidim jednu od najvećih opasnosti: ne samo da mašina nešto radi umesto nas, već da mi počnemo da razumemo sebe prema merama mašine. Eto, ipak nisam uspeo mnogo da „suzim“ temu, ali nadam se da sam barem naznačio nekoliko pravaca za dalju diskusiju.

Dr Oliver Subotić:

Kada sam dolazio ovde razmišljao sam da li je naslov panela trebalo da glasi „Da li je pređen digitalni Rubikon?“ ili možda „Kada je pređen digitalni Rubikon?“ Po mom mišljenju, Rubikon je definitivno pređen. Oko toga gotovo da nema spora. Možemo da razgovaramo samo o tome kada se to dogodilo. Da li je to bilo 1996. godine, kada je algoritamski uređen sistem takozvane veštačke inteligencije pobedio tada vodećeg šahistu Garija Kasparova? Da li je to bilo 2016. godine, kada je DeepMind laboratorija napravila sistem zasnovan na bitno drugačijim principima od Deep Blue superračunara, sistem koji je učio iz sopstvenog iskustva i pobedio svetskog šampiona Lija Sedola u igri Go, koja je znatno složenija od šaha? Ili su presudni događaji koje gledamo upravo danas? O tome možemo da polemišemo. Ali da je digitalni Rubikon pređen – po meni, nesumnjivo jeste.

Sledeće pitanje je: jesmo li mi spremni za to? Lično mislim da ni čovečanstvo u celini, ni većina ljudi pojedinačno, nisu dovoljno spremni za taj izazov. Neizvesnost je možda ključna reč u ovom domenu. Šta onda treba da radimo i koliko uopšte možemo da uradimo? To je, po meni, jedno od glavnih pitanja za intelektualce, javno angažovane ljude, ali i za svakog savesnog čoveka. Kada govorimo o teoriji i filozofiji tehnologije, diskusija se često polarizuje oko dva velika pitanja: da li je tehnologija vrednosno neutralna i koliko je njen razvoj autonoman. Hajdeger je to pitanje postavio veoma radikalno, iz izrazito tehnološko-pesimističke perspektive. Tehnologiju nije posmatrao kao nešto neutralno, već kao način odnosa čoveka prema svetu koji sam po sebi nosi određeno usmerenje. Nasuprot tome postoje liberalne škole koje svaku tehnologiju posmatraju neutralno. Ja sam svojevremeno, u svojoj doktorskoj tezi, zastupao stav koji pokušava da izbegne obe krajnosti. Tehnologiju ne posmatram kao autonomnu u razvoju, a što se tiče vrednosne neutralnosti, ona zavisi od toga koliko je neko rešenje slabo ili čvrsto konceptualno vezano. Najjednostavniji primer je nož. To je slabo konceptualno vezano tehnološko rešenje koje je rudimentarnog tipa. Njime možete da oljuštite jabuku ili krompir, možete da ga upotrebite kao alat, a možete i da ga zloupotrebite. Spektar mogućih upotreba je veoma širok. Zbog toga se ne može reći da je nož sam po sebi vrednosno jednoznačno usmeren. Sa druge strane imamo, recimo, nuklearnu bombu. To je tehnološko rešenje veoma čvrsto konceptualno i snažno vrednosno usmereno. Mene još niko nije ubedio da postoji neka „dobra“ upotreba nuklearnog oružja, osim njegove neupotrebe i eventualno hipotetičkih scenarija odbrane planete od asteroida, recimo. Tu je, dakle, opseg jako sužen.

Sličnu polemiku vodio sam pre dvadesetak godina oko biometrijskih sistema identifikacije. Neko je tada pokušavao da ih uporedi sa nožem, viljuškom ili kašikom, u smislu da svako sredstvo može da se koristi dobro ili loše, ali se zaboravilo da biometrijski sistemi, ukoliko su primenjeni za masovni nadzor populacije, nisu potpuno neutralni na isti način kao što je to neki rudimentarni alat. Sama njihova arhitektura već otvara vrlo određene mogućnosti i stvara jasne odnose moći. Kod veštačke inteligencije situacija je još složenija. Velike jezičke modele trenirate na određenim skupovima podataka i u određenom vrednosnom i kulturnom okviru. Ako sistem treniraju ljudi sa jednim ideološkim pogledom, dobićete određene obrasce u izlazima; ako ga treniraju ljudi sa drugim pogledom, dobićete drugačije rezultate. Dakle, već tu vidimo da nije reč o potpuno vrednosno neutralnom tehnološkom rešenju. Ali sada se prvi put tako radikalno otvara i pitanje autonomnog razvoja. Tu dolazimo do problema koji ranije nije postojao u ovom obliku. Pominjani Juval Noa Harari, iako je u mnogim stvarima na potpuno drugačijim pozicijama od mene, izneo je jednu zanimljivu opservaciju, a to je da je AI sistem opasniji od nuklearne bombe, jer ona ne može sama da proizvodi nove nuklearne bombe, dok AI sistem može autonomno da razvija druge AI sisteme. U tome je velika razlika. Tako dolazimo do mogućnosti da delimično izgubimo kontrolu nad pravcem razvoja. Šta onda raditi? Koliko ovu oblast možemo staviti pod kontrolu? Ne verujem da je potpuna kontrola sada moguća zato što je teško zamisliti da će jedna velika sila prestati da razvija napredne modele samo zato što je druga sila to zatražila. Geopolitička konkurencija i vojna kompetitivnost čine zaustavljanje razvoja veoma malo verovatnim. Mene zato brine mogućnost da se tehnološka trka završi velikim sukobom, a zatim da, kao reakcija, nastane neki nadnacionalni sistem kontrole koji bi, pod izgovorom sprečavanja budućih katastrofa, mogao da preraste u novu formu totalitarizma. Nadam se da do toga neće doći.

Ipak, ja sam oprezni optimista. Kažem „oprezni“ zato što razvoj tehnologije zavisi i od kritične mase ljudi koji su spremni da se kreativno i odgovorno uključe u to polje i pokušaju da ga usmeravaju. Kao pravoslavni hrišćanin imam i drugu, za mene temeljnu perspektivu: uticaj nestvorenih energija Božjih i Božjeg promisla u istoriji. Ali i tu se odgovornost vraća na čoveka jer Bog će pomoći, ali pitanje je da li postoji neko ko je spreman da tu pomoć primi i da deluje. U Drugom svetskom ratu, kada je Nemačka krenula na Sovjetski Savez, činilo se da je sve završeno, ali se onda uključio General Mraz i sve je dobilo drugi tok. Isto tako ni danas ne možemo unapred znati kako će se istorija razvijati, jer je Bog njen aktivan činilac. Već decenijama živimo u svetu sa ogromnim brojem nuklearnih bojevih glava, a svet i dalje postoji – zar to ne govori o Božijem staranju, onda kada je čoveku stalo do toga? Zato je veoma važno da postoji svest da svi moramo biti uključeni. Ovakva inicijativa je važna upravo na makrosocijalnom, institucionalnom i stručnom nivou. Moramo da povežemo znanja i iskustva i da sinergijski pristupimo problemu.

No ako ostanemo samo na institucionalnom nivou, to neće biti dovoljno. Možemo napraviti savršene strategije, a da problem jednostavno prođe pored nas. Zato moramo posebno da obratimo pažnju i na problem okupacije unutrašnjeg prostora čoveka, koja je uveliko u toku. Zbog toga je potreban i odgovor na mikrosocijalnom nivou, a tu je ključna porodica. Mislim da će se jedna od najvažnijih bitaka voditi upravo u porodici. Ako uspemo da svoju decu formiramo tako da razvijaju kritičko mišljenje i jedan podvižnički odnos prema tehnologiji – ni nekritičko-liberalni, ni pesimističko-negacijski, već afirmativno-podvižnički – onda postoji velika šansa da se pravac razvoja makar u jednoj meri preusmeri. Ne možemo od pustinje napraviti prašumu preko noći, ali možemo praviti oaze. Možemo stvarati prostore u kojima će tehnologija služiti čoveku, a neće ga oblikovati bez otpora. Zato bih pozvao da ovu inicijativu nastavimo i širimo. Ne treba da nas obeshrabri to što nas je danas samo dvanaest na ovom skupu. Pre dve hiljade godina dvanaest ljudi pokrenulo je najveću duhovnu revoluciju u istoriji sveta. Koliko god da nas danas ima, važno je da radimo ozbiljno, povezujemo se i širimo ideje. Hvala vam.

Dr Nenad Badovinac:

Samo jedna kratka digresija, više iz organizacionog i menadžerskog ugla. Zamislite da nas sada sluša mnogo više ljudi ili da smo povezani onlajn. Publiku mogu činiti ljudi vrlo različitih interesovanja i stručnih profila. Upravo u tome vidim snagu ove inicijative. I ja sam, slušajući današnja izlaganja, mnogo naučio o oblastima koje nisu moja primarna struka. Nekoga će možda najviše privući Vanjino filozofsko izlaganje, pa će kroz isti skup čuti i informatički ili teološki aspekt. Drugoga će privući tehnička tema, a onda će neočekivano čuti i humanistički pogled. Ta interdisciplinarnost je velika vrednost SAVI-ja. Do sada su otac Oliver i profesor Krnjajić jasno rekli da smatraju da je digitalni Rubikon pređen. Vanja, kako vi to vidite?

Dr Vanja Subotić:

Ako govorimo društveno i uzmemo u obzir različite savremene primere, uključujući i vojne primene tehnologije, rekla bih da je u nekim oblastima Rubikon u velikoj meri već pređen. Ono što mene ipak čini optimistom jeste utisak da u humanistici još uvek stojimo jednom nogom preko, a jednom sa ove strane. Zato još postoji prostor da vidimo šta će prevagnuti: profit i prestiž ili motivacije koje su iznad njih – odgovornost, integritet i briga za čoveka.

Dr Nenad Badovinac:

Hvala. Velimire, kako vi odgovarate na pitanje – jesmo li prešli digitalni Rubikon i, ako jesmo, kada?

Prof. dr Velimir Dedić:

Za mene više nije ključno pitanje da li smo ga prešli, već kada se to dogodilo i šta iz toga sledi. Pao mi je na pamet Galileo. U jednom pismu crkvenom velikodostojniku on, suštinski, pravi razliku između dve „knjige“: Svetog pisma i knjige prirode. Knjiga prirode, kaže, napisana je jezikom matematike. Ako prihvatimo da i priroda ima svoje zakonitosti koje treba pažljivo čitati, onda dolazimo i do problema ko je ovlašćen da ih tumači i na osnovu čega. Tu se pojavljuje opasnost scijentizma – ideje da naučni ili tehnički autoritet automatski daje pravo na konačnu reč o svim pitanjima. Setimo se, recimo, prethodnih velikih rasprava o tome da li društvene mreže izazivaju zavisnost. Godinama su se vodile statističke polemike, a onda su se pojavili ljudi koji su radili u velikim tehnološkim kompanijama i otvoreno govorili da je deo njihovog zadatka bio upravo da dizajniraju mehanizme koji će korisnika što duže zadržati na platformi. I posle toga smo nastavili da se ponašamo kao da je pitanje potpuno otvoreno i kao da ništa nismo čuli.

Zato smatram da scijentizam može biti veoma opasan: nauka je neophodna, ali se ne sme pretvoriti u novu vrstu nepogrešivog autoriteta. A kada je Rubikon pređen? Po mom mišljenju, mnogo ranije nego što danas obično mislimo. Jedan primer iz vojne medicine je sistem koji je omogućavao da se iz malog uzorka krvi veoma brzo dobije mikrobiološka analiza, kako bi ranjeni vojnik što pre dobio odgovarajući antibiotik. Sistem je koristio neuronsku mrežu, iako tada javnost to možda ne bi prepoznala kao „veštačku inteligenciju“ u današnjem smislu. Još raniji primer su sistemi poput ABS-a u automobilima. To nisu veliki jezički modeli, naravno, ali pokazuju da smo automatizovano odlučivanje i adaptivne sisteme u svakodnevni život uvodili mnogo pre sadašnjeg talasa generativne AI. Zato bih rekao: da, digitalni Rubikon smo prešli – i to odavno. Današnji trenutak je samo učinio tu činjenicu mnogo vidljivijom.

Dr Nenad Badovinac:

Hvala. Da li neko od gostiju želi da se uključi pitanjem ili komentarom?

Prof. dr Dragan Stanić:

Hvala vam što ste mi dali priliku da se obratim. Ja ovu oblast posmatram više kao zainteresovani posmatrač, iz ugla društveno-humanističkih nauka i pitanja prirode saznanja. Pre svega želim da zahvalim ocu Oliveru i dr Branislavu Kisačaninu koji su svojevremeno organizovali jedan veoma zanimljiv ciklus predavanja. Objavljen je i zbornik radova u kojem su, po srećnoj ideji organizatora, sučeljeni naučnici koji se bave konkretnim otkrićima i ljudi koji razmatraju duhovne implikacije tih otkrića. Meni je tada bilo fascinantno koliko su se odgovori ponavljali. Ljudi koji se veoma ozbiljno bave tehničkim ili kibernetičkim pitanjima često su, kada bi ih neko pitao šta određeno otkriće znači u duhovnom ili širem antropološkom smislu, odgovarali da o tome do tada gotovo nisu razmišljali. Čini mi se da tu dolazimo do važnog trenutka u životu svakog naučnika: do pitanja lične moralne odgovornosti. Nije dovoljno samo pitati šta možemo da napravimo, već i šta znači ono što pravimo i kakve posledice može imati. Tu se, po mom mišljenju, vidi i granica čistog racionalnog uma. Um u punom smislu mora da uključi i duhovnu dimenziju. Zato mene zanima filozofija koja se ne svodi samo na formalne operacije i logičke procedure, već se pita kako određeni model života menja ne samo naše mišljenje nego i celokupan način postojanja. Ako bih morao da kažem šta je za mene pravi znak prelaska Rubikona, onda to ne bi bio samo pojedinačni tehnički prodor. To bi bio trenutak kada čovek više ne može pouzdano da razlikuje da li je biće sa kojim ulazi u intiman odnos živa osoba ili savršeno dizajnirana mašina.

Dr Nenad Badovinac:

Hvala. Sledeći put možemo uključiti i kameru i organizovati onlajn prenos. Možda će u početku biti pedeset ili sto ljudi koji prate na daljinu i postavljaju pitanja. Važno je da dalje širimo SAVI, da ostanemo na neposrednim susretima, i da otvorimo komunikaciju prema javnosti.

Dr Oliver Subotić:

SAVI je kao ideja nastao u intelektualnom trouglu koji je sačinjavao Maksim Tomić, Branislavo Bubala i moja malenkost. Zaključili smo da bi za početak bilo korisno formirati jedno nezavisno stručno telo koje okuplja članove akademske zajednice, javno angažovane intelektualce i stručnjake koji kritički razmišljaju i imaju dovoljno znanja da zajednički prate izazove veštačke inteligencije. Jedan od ciljeva jeste da iz takvog rada proisteknu konkretne preporuke. Recimo, zamislite da SAVI objavi dokument sa deset preporuka za upotrebu veštačke inteligencije u obrazovanju. Ako iza tog dokumenta stoji veći broj relevantnih ljudi iz različitih disciplina, onda on može da dobije težinu koju nema pojedinačni komentar na društvenoj mreži. U tom smislu ideja je slična nekim inicijativama u svetu koje okupljaju naučnike, filozofe, stručnjake i javne intelektualce oko pitanja budućnosti tehnologije, bez obzira na to što su konkretni modeli i institucije različiti. Ova problematika je toliko široka da jedan čovek ne može da napiše jednu knjigu i kaže: „Evo, ovde imate sve odgovore.“ To je nemoguće. Osim toga, oblast napreduje toliko brzo da su potrebne stalne opservacije i periodično ažuriranje stavova. Koliko će neki naš dokument ili stav biti efektivan? To je drugo pitanje i ne zavisi potpuno od nas. Ali moramo da pokušamo. Pre samo nekoliko godina, kada sam držao predavanja o ovoj temi, pitao bih publiku od sto ili dvesta ljudi: „Koliko vas koristi neki sistem veštačke inteligencije?“ Podiglo bi ruku svega nekoliko ljudi. Onda bih im rekao: „Odgovor je netačan, ne zato što ste slagali nego zato što ne prepoznajete gde sve već koristite AI.“ Ako imate pametni telefon, navigaciju, automatsku obradu fotografije, prepoznavanje sadržaja i mnoge druge funkcije, već ste okruženi tim sistemima. Danas to pitanje više ni ne postavljam, jer ljudi uveliko koriste generativne modele i svesni su toga. Zbog toga nam je potrebna institucija koja bi bila što nezavisnija od političkog i korporativnog uticaja. Posebno filozofi i ljudi iz humanistike trebalo bi da čuvaju sposobnost da daju stav na osnovu argumenata i kritičke opservacije, a ne prema interesu neke kompanije ili političke strukture. I treba pisati. Jedan moj profesor i prijatelj svojevremeno mi je rekao: „Nikad ne znaš na kojoj tački sveta te neko čita. Samo piši i radi.“ Kasnije sam shvatio koliko je bio u pravu. Pre mnogo godina pisao sam tekstove o biometrijskim sistemima identifikacije i opasnostima centralizacije ličnih podataka. Mnogo kasnije razgovarao sam sa jednim veoma poznatim srpskim političarem, koji tada više nije bio aktivan, a koji je u vreme tih rasprava bio na visokoj poziciji. Ispričao mi je da je te tekstove čitao i da su uticali na njegovo razmišljanje i na stav koji je zastupao pri donošenju odluka. Ja tada nisam znao da ih on čita. Nisam ni mogao da znam da će tekst napisan mnogo ranije imati takav put. Slično je i sa jednom pričom koju sam čuo o poznatom džez muzičaru. Došao je da svira koncert, a u publici svega desetak ili petnaest ljudi. Mogao je da kaže: „Za koga ja ovde sviram?“ Umesto toga odsvirao je kao da nastupa pred punim stadionom. Godinama kasnije sreo je izuzetnog mladog muzičara. Kada ga je pohvalio i pitao kako se razvio u takvog umetnika, mladić mu je rekao da je bio među onih desetak ljudi na tom davnom koncertu i da je upravo tada odlučio da se posveti džezu. To je odgovor i na pitanje o našem uticaju. Ne znamo da li će ono što danas radimo delovati sutra, za godinu, pet ili dvadeset pet godina. Ne znamo da li će nešto što kažemo čuti student, roditelj, profesor, političar, rukovodilac kompanije ili neko ko će tek kasnije doći u poziciju da donosi važne odluke. Na nama je da radimo ozbiljno, argumentovano i dosledno. Dokle će taj uticaj stići, videćemo.

Dr Olivera Đokić:

Pokušaću da budem kratka. Najpre da se predstavim: ja sam Olivera Đokić, profesor na Fakultetu za obrazovanje učitelja i vaspitača Univerziteta u Beogradu, nekadašnjem Učiteljskom fakultetu. Moja uža oblast je matematičko obrazovanje, ali su me otac Oliver, a zatim i kolega Maksim, podstakli da intenzivnije razmišljam o veštačkoj inteligenciji. Kada govorimo o pitanju da li je Rubikon pređen, meni je važno da ga posmatram iz ugla onih koji su među najranjivijima u našoj populaciji – dece – i iz ugla ljudi koji obrazuju buduće učitelje i vaspitače. Jedan događaj koji mi je ranije privukao pažnju bio je slučaj kada je robot tokom šahovske partije povredio dečaka. Ali za mene je, kao nastavnika, mnogo važniji Rubikon bio nešto što sam videla kod sopstvenih studenata. Naši studenti treće, četvrte ili pete godine odlaze na metodičku praksu, hospituju u školama i predškolskim ustanovama, posmatraju časove i rad vaspitača, a zatim pišu refleksije i samorefleksije. Veoma brzo smo počeli da primećujemo formulacije koje očigledno nisu bile njihove. Postalo je jasno da pojedini studenti nisu zapisivali sopstveno iskustvo i promišljanje onoga što su videli, već su postavljali upite ChatGPT-u i dobijene odgovore predavali kao refleksiju.

To me je ozbiljno zabrinulo. Mi buduće učitelje i vaspitače obrazujemo da budu refleksivni praktičari – ljudi koji stalno promišljaju odnos teorije i prakse. Učitelj ili vaspitač treba da razvije pažnju kojom primećuje šta dete radi, kako drugi nastavnik postupa, kako on sam reaguje i šta bi sledeći put mogao da uradi bolje. Ako mlada osoba od dvadeset, dvadeset jedne ili dvadeset dve godine tu refleksiju odmah prepusti sistemu, onda ne gubimo samo jedan domaći zadatak. Rizikujemo da ne razvijemo samu sposobnost pažljivog posmatranja, samopropitivanja i učenja iz iskustva. Zbog toga mi se sve više nameće izraz „kognitivno porobljavanje“, ili ono što sam u nekim radovima nalazila kao „iluziju kognitivne nezavisnosti“. Čovek ima osećaj da je misaono samostalan, a zapravo je sve veći deo procesa razmišljanja prepustio spoljašnjem sistemu. Zašto sam počela da se bavim ovim pitanjima ako veštačka inteligencija nije moja primarna istraživačka oblast? Upravo zbog dece, studenata i obrazovanja. To je moja osnovna motivacija. U ovom trenutku za sebe vidim nekoliko pravaca istraživanja.

Prvi je pitanje šta uopšte podrazumevamo pod inteligencijom i koje ljudske sposobnosti želimo da razvijamo kroz obrazovanje. U jednoj knjizi koja mi je veoma draga navodi se opis velikog indijskog matematičara Srinivase Ramanujana. G. H. Hardy kod njega ističe ne samo memoriju, strpljenje i sposobnost računanja nego i sposobnost uopštavanja, osećanje forme i sposobnost brze modifikacije hipoteza. Posebno ističe duboku originalnost. Meni je to veoma važan obrazovni ideal. Ako kao nastavnik razmišljam o inteligenciji, ne želim da je svedem samo na brzo dobijanje tačnog odgovora. Želim da razvijamo sposobnost uopštavanja, osećaj za strukturu i formu, originalnost, fleksibilnost u promeni hipoteza i istrajnost. To su osobine koje bi svaki nastavnik trebalo da ima na umu kada razmišlja šta želi da razvije kod učenika ili studenta. Drugi pravac je pitanje kako se samo učenje menja u prisustvu veštačke inteligencije. U poslednjih nekoliko meseci čitala sam više radova i čini mi se da se samom fenomenu učenja još uvek ne pridaje dovoljno pažnje. Posebno me interesuje uloga metafora, odnosno tropa, u učenju i mišljenju. Metafora nije samo ukras u jeziku. Ona može biti način konceptualizacije stvarnosti – način da prenesemo značenje iz jednog domena u drugi i da kroz poznato razumemo nešto apstraktno. Ako govorimo o razvoju deteta, kretanje od konkretnog ka apstraktnom duboko je povezano sa načinima na koje stvaramo takve veze. Zato mislim da je važno da se, dok uvodimo AI u obrazovanje, vratimo i osnovnom pitanju: šta je učenje kao ljudska aktivnost? U literaturi o učenju postoje različite velike metafore: učenje kao sticanje, učenje kao učešće, a zatim i učenje kao postajanje – becoming. Svaka od tih metafora osvetljava drugi aspekt procesa. Ne učimo samo tako što „uzimamo“ informacije; učimo i kroz pripadanje zajednici, kroz praksu i kroz to da vremenom postajemo drugačija osoba. Za mene je važno da istražimo da li su nam potrebne nove metafore učenja za vreme veštačke inteligencije i šta one mogu da otkriju što stariji modeli ne pokazuju. Treći pravac je budućnost učenja iz perspektive usmerene na čoveka. U jednom radu koji sam nedavno čitala je misao koja mi je ostala važna: u životu svakog studenta postoje ljudi kojima je iskreno stalo do toga da li će taj student napredovati, ostvariti se ili doživeti neuspeh. Nijedan sistem, koliko god sofisticiran bio, ne zauzima automatski taj ljudski položaj. To mi se veoma dopalo. U obrazovanju nije važna samo informacija, nego i odnos. Nije dovoljno da neko dobije odgovor; važno je da postoji drugi čovek kome je stalo do toga šta će učenik ili student postati. Zato ću, kao istraživač i nastavnik, pokušati da dalje pratim upravo te pravce: šta je ljudska inteligencija koju želimo da razvijamo, kako se menja sam proces učenja i šta u obrazovanju mora ostati nezamenljivo ljudsko. Hvala.

Dr Nenad Badovinac:

Hvala, profesorka Đokić, i hvala svima. Došlo je vreme da polako zaključimo ovu prvu panel-diskusiju. Iz današnje diskusije vidimo da se, uz različita obrazloženja, oko jedne stvari uglavnom slažemo: digitalni Rubikon je pređen. Ali današnji razgovor je istovremeno otvorio mnogo novih pitanja, možda i više nego što smo ih imali na početku. Zbog toga je važno da nastavimo. Možemo se ponovo sastati uživo, možemo organizovati drugačiji format, a možemo i uključiti onlajn prenos i širu javnost, kako bi više ljudi moglo da prati razgovor i postavlja pitanja. Zahvaljujem svim panelistima, članovima i gostima, kao i Matici srpskoj na prostoru i gostoprimstvu u godini njenog velikog jubileja.

Hvala vam što ste bili sa nama.

Komentar gosta iz publike:

Ja se ovom temom nisam ranije posebno bavio i mnoge stvari koje sam večeras čuo bile su mi nove. Bavim se pčelama i upravo mi je, dok sam vas slušao, pala na pamet jedna analogija. Pčela tokom leta obrađuje izuzetno mnogo informacija. Orijentiše se prema udaljenosti do izvora nektara, pravcu, vetru i brojnim drugim uslovima. U tom smislu ima zapanjujuću sposobnost obrade informacija, ali istovremeno njeno ponašanje nije samo nešto što nama izgleda kao hladna računica – tu postoji i jedan oblik instinktivne, neposredne usklađenosti sa celinom. Slušajući vas, pomislio sam da možda naš osnovni problem nije samo veštačka inteligencija. Možda imamo problem i sa načinom na koji smo razum – inteligenciju u užem smislu – postavili kao vrhovnog sudiju, tužioca i porotu svega. Možda je Rubikon počeo da se prelazi onog trenutka kada je razum prestao da bude alat i postao apsolutni gospodar. Ako ne znamo šta ćemo sa sopstvenim razumom, onda nije čudno što ne znamo šta ćemo ni sa veštačkom inteligencijom. Ako bismo uspeli da napravimo ravnotežu između razuma, intuicije i duha – tako da razum bude izuzetno koristan alat, ali da ne preuzme mesto celine čoveka – možda bismo i veštačku inteligenciju lakše stavili na pravo mesto: kao alat. Tada je se ne bismo morali toliko plašiti, ali joj ne bismo ni prepustili ulogu koja joj ne pripada. To mi je, eto, došlo na pamet dok sam vas večeras slušao. Hvala.

Izvor: Srpska akademska inicijativa za bezbednu primenu veštačke inteligencije