ПРВА САВИ ПАНЕЛ-ДИСКУСИЈА

Прва панел-дискусија САВИ-ја одржана је у Матици српској у Новом Саду, 24.09.2026. године, и била је посвећена питању „Да ли је пређен дигитални Рубикон – изазови примене вештачке интелигенције у савременом свету“.

Скуп је окупио чланове САВИ-ја, универзитетске професоре, истраживаче и госте који су тему сагледали из различитих стручних перспектива: филозофије, информатике, математике и машинског учења, образовања, безбедности и теологије.

Током разговора представљена је и књига „Дигитални Рубикон“ презвитера др Оливера Суботића, а дискусија је отворила питања контроле технологије, научне одговорности, образовања, породице и човекове слободе у времену све шире примене вештачке интелигенције.

Записник са панел-дискусије

У наставку је текст записника, уређен по редоследу излагања учесника.

Др Ненад Бадовинац:

Помаже Бог, драги пријатељи, чланови нашег удружења и, пре свега, сарадници. Ми већ неко време радимо заједно, често се чујемо телефоном и размењујемо мејлове, па бих рекао да смо најпре пријатељи, а затим и сарадници. Добро дошли на нашу прву САВИ панел-дискусију, под насловом „Да ли је пређен дигитални Рубикон – изазови примене вештачке интелигенције у савременом свету“. Посебно ми је драго и велика ми је част што имамо прилику да се окупимо у Матици српској. Захваљујем Матици српској и њеном председнику проф. др Драгану Станићу. Данас сам гледао сајт Матице српске и видео да се управо ове године обележава 200 година од њеног оснивања, па ми је још већа част што се наша панел-дискусија одржава управо у години тог јубилеја.

Желео бих да представим наше учеснике. Од суоснивача САВИ-ја са нама су Максим Томић, информатичар и проф. др Зденко Томић са Медицинског факултета. Наши данашњи панелисти су др Вања Суботић, научна сарадница на Филозофском факултету Универзитета у Београду; проф. др Велимир Дедић, професор на Универзитету Унион – Никола Тесла у Београду; проф. др Милован Крњајић, научник из области информатике, статистике и машинског учења; и презвитер др Оливер Суботић, теолог и информатички стручњак који се бави и питањима вештачке интелигенције. Са нама данас нису проф. др Александар Липковски који је имао велику жељу да дође, али није био у могућности, као ни господин Бранислав Бубало, који је такође један од суоснивача. Он је на пословном путовању у Америци, али нас све поздравља и веома му је стало да успемо у ономе што смо замислили.

Да кажем укратко и нешто о себи, за оне који ме не познају. Ја сам Ненад Бадовинац, радим на Универзитету Унион – Никола Тесла и бавим се информатиком. Вештачком интелигенцијом бавим се и кроз научни рад и кроз њену практичну примену. Када сам преузео улогу председника САВИ-ја, један од циљева био ми је да градимо удружење у којем ће наши разговори и сусрети – нарочито овакви, уживо, кроз панел-дискусије и конференције – доносити конкретне резултате. Знам да је пре него што сам преузео ову улогу одржана и једна онлајн дискусија која је такође донела одређене резултате. Ипак, трудићу се да се што чешће окупљамо непосредно и да за истим столом заједнички долазимо до идеја, одлука и конкретних корака.

1. У протеклих месец-два већ смо направили неколико таквих корака. Први је књига „Дигитални Рубикон“, коју имате на столу као поклон. То је прва књига у издању САВИ-ја која се директно бави вештачком интелигенцијом, а аутор је презвитер др Оливер Суботић. Тиме смо, на неки начин, и започели рад удружења.
2. Књига је ушла и у дистрибуцију кроз књижаре Делфи, тако да је доступна кроз шири канал продаје, укључујући и поруџбине из иностранства.
3. Покренули смо и пројекат „САВИ глас струке“. Многи од вас су се већ укључили. Жеља нам је да се чланови удружења представе широј јавности – да јавност зна ко су људи окупљени у САВИ-ју, како размишљају и које стручности доносе из својих области. САВИ окупља стручњаке из различитих дисциплина и желимо да се та интердисциплинарност јасно види. За сада пројекат подразумева краће одговоре чланова на одабрана питања и њихово представљање на ЛинкедИн-у. Али размишљамо дугорочније: ти одговори једног дана могу прерасти у књигу, монографију или годишње издање у којем бисмо пратили како се мењају изазови вештачке интелигенције. Дакле, циљ није само да се појединачно представимо, већ да градимо садржај који ће остати и имати шири домет. Наш највећи капитал су управо чланови САВИ-ја. Тренутно нас је око тридесет. Нећемо се ту зауставити; желимо да број чланова расте и да интердисциплинарност буде све снажнија. Нисмо овде само због стручне и научне јавности. Желимо да будемо корисни и широј јавности, људима који данас имају много недоумица у вези са вештачком интелигенцијом и тешко долазе до поузданих одговора.
4. Активирали смо и сајт САВИ-ја, па вас овом приликом молим да га, колико можете, препоручите људима за које мислите да би их наше теме могле занимати.
5. Остварили смо и разговоре са Математичким институтом САНУ у Београду. То је за нас први озбиљнији корак ка међуинституционалној сарадњи. Разговарали смо о могућности заједничког организовања конференција и научних скупова, као и о укључивању чланова САВИ-ја у семинаре и стручне програме које Институт организује у областима повезаним са вештачком интелигенцијом.

Још један важан разлог због којег сматрам да је САВИ потребан јесте потреба да стручно знање приближимо јавности. Студенти, ученици, професори, родитељи и привредници свакодневно траже одговоре о вештачкој интелигенцији и често добијају потпуно различите поруке. САВИ треба да понуди простор у којем ће људи моћи да чују стручњаке из различитих области, разумеју могућности и ризике и на основу тога донесу сопствени суд. Управо у том интердисциплинарном погледу видим једну од највећих вредности нашег удружења.

За почетак бих дао реч Максиму да представи књигу оца Оливера, а затим бих замолио сваког од панелиста да у приближно десет минута изнесе своје виђење теме и одговори на питање: да ли смо прешли дигитални Рубикон? Максиме, изволи.

Максим Томић:

Помаже Бог и са моје стране. Задовољство ми је што могу да кажем неколико речи о овој књизи. Књига је на српском језику објављена 2023. године у издању Катене мунди. У време њеног настанка светска јавност је управо почела масовно да се сусреће са великим језичким моделима попут ЦхатГПТ-а. За свега неколико година вештачка интелигенција је из експерименталног и стручног окружења ушла у свакодневни живот великог броја људи. Шта се у међувремену догодило? Навешћу само неколико вести и примера који су узбуркали јавност. Говорило се о експериментима у којима су напредни модели показивали неочекиване способности у затвореним или контролисаним окружењима, као и о огромној потреби компанија за новим материјалом за обуку модела. Један од примера о којем се писало јесте масовна дигитализација књига ради добијања материјала за обучавање система, при чему се у неким процесима физички примерци књига и уништавају током скенирања. Такве појаве показују колико је вештачка интелигенција дубоко ушла у нашу свакодневицу. Ова књига се бави проблематиком којом се данас баве многи, али из угла који је још увек релативно редак. Она покушава да пружи свеобухватнији поглед на потенцијале вештачке интелигенције, али и на изазове које она ставља пред човека и друштво. Многи заговорници трансхуманизма данас говоре да је дошло време да се редефинише сам појам човека. Ова књига, писана из перспективе православне традиције, нуди другачији поглед. Изазови су бројни: од образовања, права, науке и истраживања, па све до војно-безбедносног сектора. И најмање се, по мом мишљењу, ради само о техничким проблемима. Технологија је веома моћна управо у решавању техничких задатака. Дубља питања тичу се човека, слободе, одговорности, идентитета и односа према другима. Једна од кључних опасности коју ја препознајем у књизи јесте оно што бих назвао унутрашњом окупацијом: продором технологије не само у наше спољашње активности него и у наше унутрашње биће. То се, између осталог, види и кроз појаву емотивних односа људи са системима вештачке интелигенције, о чему је отац Оливер детаљније писао у књизи и својим текстовима. На крају, само штампање књиге у времену потпуне дигитализације има и одређену симболику. Физичка књига остаје предмет који човек поседује, чува, позајмљује и преноси независно од дигиталних платформи. У том смислу она представља и подсећање да целокупно културно и историјско знање не треба свести искључиво на садржај који је под контролом технолошких система и корпорација.

Др Ненад Бадовинац:

Хвала ти, Максиме. Сада бих замолио др Вању Суботић да изнесе своје виђење наше теме.

Др Вања Суботић:

Максимово излагање ме је једним делом инспирисало и мислим да се ово о чему ћу говорити лепо надовезује на оно што смо већ чули. Овде, рекла бих, представљам и филозофију и шире хуманистичке науке, које су на неки начин на првој линији одбране свега онога што је аутентично људско у добу вештачке интелигенције. Феномен који ми је посебно занимљив и који нас, чини ми се, поставља право на средину тог Рубикона јесте све чешћа прича у медијима да велике технолошке компаније почињу да запошљавају филозофе. То је занимљиво већ зато што филозофе кроз историју не повезујемо нужно са практичним занимањима. Диоген је живео у бурету, Ниче је опстајао захваљујући породици и пријатељима, Спиноза је брусио сочива како би могао да се издржава и истовремено бави филозофијом. А онда су, пре годину или две, компаније попут Гоогле ДеепМинд-а почеле да објављују огласе за филозофе. То је покренуло и низ шала: да ли се филозофи сада запошљавају како би вештачку интелигенцију научили како изгледа бити незапослен са дипломом, а посебно са докторатом? Иза шале се, међутим, налази озбиљно питање: шта је заправо оно што ми у филозофији радимо и шта је то што филозофију данас може да учини корисном?

Ово није први пут да је хуманистика великим компанијама постала занимљива. Сличан процес догађао се седамдесетих година, када је почела комерцијализација рачунара, односно персоналних рачунара. Тада су компаније у већем броју запошљавале антропологе да проучавају оно што данас зовемо корисничким искуством: како људи користе рачунаре, како се понашају на радном месту и какви се односи стварају између људи и технологије. Такве позиције тада су се рекламирале као примењена антропологија. Данас све чешће чујемо о „примењеној филозофији“ усмереној готово искључиво на вештачку интелигенцију. Један од показатеља колико је та област постала популарна, барем у мојој струци, јесте раст броја огласа за филозофске послове повезане са технологијом. Пре десетак година то је био сасвим мали проценат; данас је вишеструко већи.

На први поглед то може да изгледа веома обећавајуће и тако се често представља у медијима. Дарио Амодеи и Данијела Амодеи из Антхропиц-а, на пример, говорили су о значају хуманистике у новом технолошком окружењу. Порука која се понекад извлачи из таквих наступа јесте готово парадоксална: ако желите посао у водећој технолошкој компанији, можда ће вам хуманистичко образовање бити корисније него што сте очекивали. Иако то звучи заводљиво, мислим да у томе постоји и снажан маркетиншки елемент. Ближа анализа таквих огласа често показује сложенију слику. Мене, међутим, више занимају последице таквог наратива по тржиште рада у хуманистици, нарочито у филозофији, али и по наш интегритет као научника који се првенствено баве човеком и егзистенцијалним питањима. Прва последица је да, услед инсистирања да филозофија мора непосредно да буде „примењена“ како би била корисна, неке традиционалне области почињу да губе талентоване људе. Чак и они којима вештачка интелигенција није била основно интересовање могу да се одлуче баш за ту поддисциплину зато што очекују лакше запослење, већи престиж или боље финансијске услове. Тиме фундаменталне дисциплине – филозофија духа, етика, политичка филозофија, метафизика и друге – могу остати без људи који би се бавили њиховим још увек отвореним питањима. А многа од тих питања далеко су од решених.

Други проблем је својеврсна криза експертизе. Некада би било готово незамисливо да се неко озбиљно бави филозофијом науке и технологије, а да притом не познаје методологију науке или технологије о којој говори. Данас, под притиском тренда, то све чешће виђамо. Добијамо масовну продукцију радова и пројеката од стране људи који понекад немају довољно дубоко разумевање области у коју улазе. То отежава и праву интердисциплинарну сарадњу. Са друге стране, могу да разумем због чега се то догађа: у времену када се ЦхатГПТ и слични системи масовно користе у науци, лако је стећи утисак да сада „сви можемо све“. Али то није тако. Као да смо изгубили оно што бих назвала интелектуалном скромношћу, а коју високо образовање заправо треба да развија. Мени је, парадоксално, завршавање доктората више показало колико тога не знам него колико знам.

Поред тржишта рада, ту је и питање интегритета научника. Ако великим компанијама препустимо да оне дефинишу под којим условима је наш рад користан и када се наш допринос рачуна, губимо део аутономије сопствене дисциплине. Људи који раде у таквим компанијама, укључујући филозофе ангажоване у водећим АИ компанијама, често се баве управо темама које су тим компанијама непосредно потребне. Тада остаје мање простора за независно, робустно и критичко филозофско промишљање односа технологије и друштва, као и утицаја технологије на човека – управо оних питања о којима је говорио Максим и којима се бави књига оца Оливера. Историја филозофије нас, уосталом, подсећа да се кључна питања развијају споро. Многи велики филозофи нису радили ни на универзитетима, а камоли у великим компанијама. Филозофија не напредује нужно у ритму тржишта и корпоративних потреба.

Посебан проблем видим у самом избору тема које постају популарне у филозофији вештачке интелигенције. Једна од њих су хипотетички сценарији о суперинтелигенцији или општој вештачкој интелигенцији. Таква питања могу бити легитимна, али често постају изразито спекулативна. Не спекулативна у смислу мисаоних експеримената – који јесу стандардан филозофски метод – већ зато што још немамо стручни консензус ни о основним дефиницијама: шта би била свест код вештачког система, шта тачно подразумевамо под општом вештачком интелигенцијом и које способности уопште треба узети као критеријум интелигентног понашања.

Када филозофија само преузме доминантни медијски наратив и иде низ длаку његовим претпоставкама, она се удаљава од сопственог критичког задатка. Посебно зато што су неки од тих наратива повезани са идејама трансхуманизма, а понекад и са врло проблематичним претпоставкама о човеку и друштву. Управо би филозофи требало да се баве тим дубљим мотивацијама и претпоставкама. Завршићу једном кратком опаском. Можда је наша снажна потреба да друштву докажемо да смо „корисни“ довела до тога да недовољно преиспитујемо сам систем који од нас тражи да будемо корисни по туђим мерилима. Толико желимо да будемо део нечега престижног и финансијски привлачног да понекад не примећујемо да прихватамо правила система који већ показује озбиљне пукотине.

Др Ненад Бадовинац:

Хвала, Вања. Питања и ширу дискусију оставићемо за касније. Сада бих замолио професора др Велимира Дедића за његово излагање. Изволите, професоре.

Проф. др Велимир Дедић:

Хвала. Велика је част бити у овом високом дому духа. Када сте у друштву овако паметних људи, оно што сте унапред припремили често више није толико важно, јер вас претходна излагања подстакну да говорите другачије. Колегиница Вања је говорила о односу примењеног и суштинског, па ћу почети једном истинитом причом која то лепо илуструје. Мој кум је завршио ЕТФ, његова супруга је доктор хемијских наука, и заједно су отишли у Канаду, у Торонто, да граде нови живот. Тамо је све било „примењено“: примењене науке, примењени језици, примењена геометрија, спорт, све практично и усмерено ка конкретном резултату. Деца су ишла у добре школе и на разне корисне курсеве. А онда је њихов син одлучио да упише филозофију. Мој кум је био очајан. Све је било примењено, а син је изабрао једину ствар која му се чинила потпуно „непримењеном“. Саркастично му је рекао: „Баш си паметно одлучио. Ево, управо се у Торонту отвара велика фабрика филозофије.“ Није ни слутио колико би таква реченица данас могла да звучи другачије. Али да се вратим теми. Максим ми је већ „покварио“ пола излагања тиме што је говорио о моделима који се понашају неочекивано. Ја сам хтео најпре мало да похвалим вештачку интелигенцију и да наведем неколико примера онога што је, по мом мишљењу, добро донела.

Један пример је развој механицистичких, вишећелијских модела ткива и ћелија. Идеја је да се природним језиком, без класичног програмирања, опише конкретан тумор конкретног пацијента, а затим направи његов дигитални модел на којем се могу симулирати различите терапије – зрачење, хемотерапија, па чак и хируршке интервенције. Ако такав приступ заиста омогућава брзо добијање корисног дигиталног модела, тешко је оспорити његов потенцијал. Други пример долази из математике. У последње време појављују се резултати у којима велики језички модели учествују у решавању веома тешких математичких проблема и проверавању доказа. Помињани су и проблеми повезани са радом Паула Ердоса. Ако системи који нису посебно прављени као класични математички софтвер почну да дају оригиналне и проверљиве доприносе те врсте, последице по науку могу бити веома велике.

Ту ћу завршити са похвалама, а сада прелазим на оно што ме више брине. Председник Матице српске и ја смо кратко разговарали о култури дијалога код нас. Често се догађа да се онај ко има другачије мишљење одмах доживи као противник или непријатељ, због чега је прави дијалог веома тежак. У духу такве културе дијалога, поменућу и изјаву украјинског председника Володимира Зеленског са Генералне скупштине УН, онако како сам је разумео: говорио је о могућности да се у будућности на бојном пољу појаве јединице којима ће командовати системи вештачке интелигенције, не само као помоћ у извођењу операција већ као аутономни командни системи. Ако до тога дође, последице су огромне. Мени се чини да смо данас у ситуацији која на неки начин подсећа на период око 1940. године и развој нуклеарног оружја. Физички принципи су били познати, велике силе су радиле на истом проблему, а главни изазови били су технолошки. Први су до употребљивог оружја дошли Американци и оно је у рату употребљено два пута. Касније су нуклеарно оружје добиле и друге државе, а током Хладног рата успостављена је равнотежа страха и читав систем међународних споразума, контроле и одвраћања.

Зашто то помињем? Зато што сматрам да ћемо нешто слично морати да развијемо и за најопасније примене вештачке интелигенције. Без међународних правила, механизама контроле и неког облика узајамног надзора, ризик може постати неприхватљиво велики.

У контексту рата у Украјини видели смо и примере напада дроновима на стратешке војне циљеве дубоко у територији Русије. Такви догађаји показују колико се брзо мењају границе онога што је технички могуће и колико постојећи системи одвраћања могу бити изложени новим врстама технологије. Не улазим овде у политичку оцену тих догађаја; за ову дискусију ми је важна технолошка и безбедносна импликација. Управо зато мислим да питање није само да ли је вештачка интелигенција „заиста интелигентна“ у филозофском смислу. Ја лично не мислим да је она интелигентна на исти начин као човек и не мислим да „мисли“ као човек. Али то не умањује ризик. Можемо направити аналогију са опасним биолошким агенсима који се чувају у строго контролисаним лабораторијама. Ако би такав агенс изашао из контролисаног окружења, није важно да ли он има свест, намеру или жељу да некога повреди. Последице би могле бити веома озбиљне због саме природе система. Слично томе, код вештачке интелигенције кључно питање може постати: не да ли она има свест или намеру, већ да ли ће систем који може да произведе велику штету остати под поузданом контролом. Због тога сматрам да ћемо морати да дођемо до међународних споразума и система контроле за напредне системе вештачке интелигенције, на начин који ће по озбиљности барем подсећати на режиме контроле најопаснијих технологија из претходног века. Хвала.

Др Ненад Бадовинац:

Хвала, професоре. Сада бих замолио проф. др Милована Крњајића да нам се обрати.

Проф. др Милован Крњајић:

У десет минута заиста није могуће много тога обухватити у овако важној и сложеној теми. С тим у вези сетио сам се једног цитата из Достојевског. Дмитриј Карамазов каже: „Човек је сувише широк, требало би га сузити.“ Достојевски је, наравно, говорио о природи човека, његовој слободи и сложености. Узећу ту реченицу само као метафору за свој проблем данас: тема вештачке интелигенције је огромна – како је сузити? Један начин је да одвојимо чисто техничке аспекте од њеног деловања на друштво, појединца, политику, привреду, ратовање и, уопште, живот људи. Готово да нема области у коју вештачка интелигенција данас не улази. Зато ћу таксативно поменути само неколико тема.

Моја првобитна тема требало је да буду ризици примене вештачке интелигенције у науци и математици. О томе сам написао и кратак текст који је професор Бадовинац објавио на сајту. Мислим да су наука и математика у понечему другачије од других области примене. Математика је, условно речено, „безазленија“: ако математичар користи систем вештачке интелигенције као помоћ при доказивању, сама по себи та употреба не мора да произведе непосредну друштвену штету. Али ствари постају занимљиве када такви системи почну да доприносе резултатима који изгледају као ново знање. У последње време помињани су резултати великих АИ система на веома тешким математичким проблемима, укључујући проблеме повезане са Навиер–Стокесовим једначинама и другим отвореним питањима. Оно што је мени важно није појединачни пример, већ промена нивоа: до пре неколико година фасцинирало нас је када систем решава проблеме са математичких олимпијада. То су веома тешки задаци, али решења су већ позната и могу се проверити према постојећем знању. Ако систем почне да производи резултате који раније нису били познати, онда смо, барем у малом, прешли један дигитални Рубикон. То је позитивна страна приче: могућност да рачунар не само репродукује постојеће знање већ помогне у стварању новог. Али управо ту почињу и ризици. Велики језички модели дају одговоре који могу бити веома убедљиво и лепо формулисани, али то уопште не значи да су тачни. Потреба за верификацијом и валидацијом њихових резултата постаје огромна. У науци и математици човек – математичар или други стручњак – мора да провери хипотезе и резултате које систем генерише. Проблем је у томе што систем може да генерише хиљаде или стотине хиљада хипотеза, много више него што би један истраживач могао да провери за неколико живота. Тада више није проблем само производња идеја, већ питање: шта је од свега тога заиста тачно и вредно? Ту се надовезујемо и на оно што је колегиница Вања поменула – хиперпродукцију научних радова. Све је више текстова које разуме врло мали број људи, понекад једва и сами аутори. И сам сам био рецензент у више часописа и дешавало ми се да тешко пратим радове чак и из релативно уске области којом се бавим. Направио бих овде малу дигресију о самом изразу „вештачка интелигенција“. И ја сматрам да тај термин није сасвим срећан. Стар је готово седамдесет година и показао се изузетно успешним маркетиншки.

Један од раних система који се називао вештачком интелигенцијом био је перцептрон. У најједноставнијем облику то је линеарни класификациони модел: у дводимензионалном простору може, на пример, да раздвоји две групе тачака једном правом ако су линеарно раздвојиве. Ако нису, основни модел има озбиљна ограничења. Ипак, неки основни принципи из тих раних модела живе и данас у савременим неуронским мрежама. У техничком смислу, срж великог дела савременог машинског учења можемо посматрати као статистичко и математичко моделовање података. Неуронске мреже користе велики број параметара – тежинских коефицијената – а код система дубоког учења њихов број може бити огроман. Током обуке тражи се скуп вредности тих параметара који оптимизује одређену функцију грешке, најчешће поступцима заснованим на градијентном спусту.

Класична теорија машинског учења дуго нас је учила једном интуитивном обрасцу. Једноставан модел прави релативно велику грешку. Како повећавамо сложеност модела, грешка опада. После одређене тачке модел постаје превише прилагођен подацима на којима је трениран – долази до такозваног оверфиттинг-а – па му перформансе на новим, раније невиђеним подацима могу да се погоршају. Са појавом веома великих модела примећен је и феномен који се назива доубле десцент: након почетног погоршања, при даљем великом повећању сложености грешка поново може да опада. Тај феномен је емпиријски описан, али његова потпуна теоријска слика и даље отвара много питања. Зашто то помињем? Зато што показује да смо ушли на територију на којој пракса у неким сегментима иде испред потпуног теоријског разумевања. Чак и водећи истраживачи неуронских мрежа отворено говоре о томе да још немамо једну потпуну, задовољавајућу теорију која би објаснила све што велики модели раде при огромним количинама података и огромној сложености. То је ризик сам по себи. Користимо нешто што веома добро ради, али не разумемо увек до краја зашто ради управо тако.

Поменуо бих и Џона Ленокса (Јохн Ленноx), математичара и хришћанског мислиоца који се интензивно бавио питањима вештачке интелигенције и трансхуманизма. Једна од његових познатих књига на ову тему носи наслов „2084“ и бави се будућношћу човека у добу вештачке интелигенције. Код Ленокса ми је занимљива и његова култура полемике. Полемика, од грчке речи полемос – рат – може бити врло оштра, али и даље цивилизована и заснована на аргументима. То је посебно важно када говоримо о темама које деле јавност. Једна од великих опасности о којој он говори јесте трансхуманизам. У јавном простору постоје утицајни аутори и организације који заступају идеју све дубљег спајања човека и технологије, уз обећања радикалног продужења живота и превазилажења биолошких ограничења. Ја према таквим идејама имам изразито критичан став. Из моје перспективе, покушај да се човек сведе на нешто што се може технолошки реконструисати или „надоградити“ носи дубоке антрополошке и духовне противречности.

Друга велика опасност је превара – фрауд – односно могућност да системи производе информације које делују уверљиво и приближно истинито, али захтевају строгу проверу. Ту спада и деепфаке. Већ смо видели многе, понекад смешне примере, али када се таква технологија подигне на институционални ниво, последице могу бити озбиљне. Могуће је довести велики број људи у заблуду, а појединац приказан на лажном снимку може бити приморан да доказује да нешто није рекао или урадио. Ту долазимо и до следећег проблема: ако установимо неки централизовани систем који ће одлучивати шта је аутентично, а шта лажно, ко ће контролисати тог арбитра истине? И сама верификација може постати извор моћи.

На крају бих рекао да, како каже Свето писмо, „нема ништа ново под сунцем“. Ни вештачка интелигенција није потпуно нова по томе што технологија мења наш живот. Индустријска револуција је већ крајем 18. и током 19. века радикално преобликовала спољашњост људског живота. Али технологија не мења само спољашње услове. Она мења и наш начин односа према свету. Поставља оквир комуникације са природом, људима и друштвом. Тај оквир може постати толико доминантан да почне да обликује и начин на који разумемо сами себе. Мој највећи страх је да вештачка интелигенција може додатно продубити ту врсту унутрашњег поробљавања. Човек је личност – слободно и непоновљиво биће – а технолошки системи имају природну тенденцију да га своде на оно што може да се мери, квантификује и обради: број, профил, податак, јединицу радне снаге или скуп предвидивих образаца. Ту видим једну од највећих опасности: не само да машина нешто ради уместо нас, већ да ми почнемо да разумемо себе према мерама машине. Ето, ипак нисам успео много да „сузим“ тему, али надам се да сам барем назначио неколико праваца за даљу дискусију.

Др Оливер Суботић:

Када сам долазио овде размишљао сам да ли је наслов панела требало да гласи „Да ли је пређен дигитални Рубикон?“ или можда „Када је пређен дигитални Рубикон?“ По мом мишљењу, Рубикон је дефинитивно пређен. Око тога готово да нема спора. Можемо да разговарамо само о томе када се то догодило. Да ли је то било 1996. године, када је алгоритамски уређен систем такозване вештачке интелигенције победио тада водећег шахисту Гарија Каспарова? Да ли је то било 2016. године, када је ДеепМинд лабораторија направила систем заснован на битно другачијим принципима од Дееп Блуе суперрачунара, систем који је учио из сопственог искуства и победио светског шампиона Лија Седола у игри Го, која је знатно сложенија од шаха? Или су пресудни догађаји које гледамо управо данас? О томе можемо да полемишемо. Али да је дигитални Рубикон пређен – по мени, несумњиво јесте.

Следеће питање је: јесмо ли ми спремни за то? Лично мислим да ни човечанство у целини, ни већина људи појединачно, нису довољно спремни за тај изазов. Неизвесност је можда кључна реч у овом домену. Шта онда треба да радимо и колико уопште можемо да урадимо? То је, по мени, једно од главних питања за интелектуалце, јавно ангажоване људе, али и за сваког савесног човека. Када говоримо о теорији и филозофији технологије, дискусија се често поларизује око два велика питања: да ли је технологија вредносно неутрална и колико је њен развој аутономан. Хајдегер је то питање поставио веома радикално, из изразито технолошко-песимистичке перспективе. Технологију није посматрао као нешто неутрално, већ као начин односа човека према свету који сам по себи носи одређено усмерење. Насупрот томе постоје либералне школе које сваку технологију посматрају неутрално. Ја сам својевремено, у својој докторској тези, заступао став који покушава да избегне обе крајности. Технологију не посматрам као аутономну у развоју, а што се тиче вредносне неутралности, она зависи од тога колико је неко решење слабо или чврсто концептуално везано. Најједноставнији пример је нож. То је слабо концептуално везано технолошко решење које је рудиментарног типа. Њиме можете да ољуштите јабуку или кромпир, можете да га употребите као алат, а можете и да га злоупотребите. Спектар могућих употреба је веома широк. Због тога се не може рећи да је нож сам по себи вредносно једнозначно усмерен. Са друге стране имамо, рецимо, нуклеарну бомбу. То је технолошко решење веома чврсто концептуално и снажно вредносно усмерено. Мене још нико није убедио да постоји нека „добра“ употреба нуклеарног оружја, осим његове неупотребе и евентуално хипотетичких сценарија одбране планете од астероида, рецимо. Ту је, дакле, опсег јако сужен.

Сличну полемику водио сам пре двадесетак година око биометријских система идентификације. Неко је тада покушавао да их упореди са ножем, виљушком или кашиком, у смислу да свако средство може да се користи добро или лоше, али се заборавило да биометријски системи, уколико су примењени за масовни надзор популације, нису потпуно неутрални на исти начин као што је то неки рудиментарни алат. Сама њихова архитектура већ отвара врло одређене могућности и ствара јасне односе моћи. Код вештачке интелигенције ситуација је још сложенија. Велике језичке моделе тренирате на одређеним скуповима података и у одређеном вредносном и културном оквиру. Ако систем тренирају људи са једним идеолошким погледом, добићете одређене обрасце у излазима; ако га тренирају људи са другим погледом, добићете другачије резултате. Дакле, већ ту видимо да није реч о потпуно вредносно неутралном технолошком решењу. Али сада се први пут тако радикално отвара и питање аутономног развоја. Ту долазимо до проблема који раније није постојао у овом облику. Помињани Јувал Ноа Харари, иако је у многим стварима на потпуно другачијим позицијама од мене, изнео је једну занимљиву опсервацију, а то је да је АИ систем опаснији од нуклеарне бомбе, јер она не може сама да производи нове нуклеарне бомбе, док АИ систем може аутономно да развија друге АИ системе. У томе је велика разлика. Тако долазимо до могућности да делимично изгубимо контролу над правцем развоја. Шта онда радити? Колико ову област можемо ставити под контролу? Не верујем да је потпуна контрола сада могућа зато што је тешко замислити да ће једна велика сила престати да развија напредне моделе само зато што је друга сила то затражила. Геополитичка конкуренција и војна компетитивност чине заустављање развоја веома мало вероватним. Мене зато брине могућност да се технолошка трка заврши великим сукобом, а затим да, као реакција, настане неки наднационални систем контроле који би, под изговором спречавања будућих катастрофа, могао да прерасте у нову форму тоталитаризма. Надам се да до тога неће доћи.

Ипак, ја сам опрезни оптимиста. Кажем „опрезни“ зато што развој технологије зависи и од критичне масе људи који су спремни да се креативно и одговорно укључе у то поље и покушају да га усмеравају. Као православни хришћанин имам и другу, за мене темељну перспективу: утицај нестворених енергија Божјих и Божјег промисла у историји. Али и ту се одговорност враћа на човека јер Бог ће помоћи, али питање је да ли постоји неко ко је спреман да ту помоћ прими и да делује. У Другом светском рату, када је Немачка кренула на Совјетски Савез, чинило се да је све завршено, али се онда укључио Генерал Мраз и све је добило други ток. Исто тако ни данас не можемо унапред знати како ће се историја развијати, јер је Бог њен активан чинилац. Већ деценијама живимо у свету са огромним бројем нуклеарних бојевих глава, а свет и даље постоји – зар то не говори о Божијем старању, онда када је човеку стало до тога? Зато је веома важно да постоји свест да сви морамо бити укључени. Оваква иницијатива је важна управо на макросоцијалном, институционалном и стручном нивоу. Морамо да повежемо знања и искуства и да синергијски приступимо проблему.

Но ако останемо само на институционалном нивоу, то неће бити довољно. Можемо направити савршене стратегије, а да проблем једноставно прође поред нас. Зато морамо посебно да обратимо пажњу и на проблем окупације унутрашњег простора човека, која је увелико у току. Због тога је потребан и одговор на микросоцијалном нивоу, а ту је кључна породица. Мислим да ће се једна од најважнијих битака водити управо у породици. Ако успемо да своју децу формирамо тако да развијају критичко мишљење и један подвижнички однос према технологији – ни некритичко-либерални, ни песимистичко-негацијски, већ афирмативно-подвижнички – онда постоји велика шанса да се правац развоја макар у једној мери преусмери. Не можемо од пустиње направити прашуму преко ноћи, али можемо правити оазе. Можемо стварати просторе у којима ће технологија служити човеку, а неће га обликовати без отпора. Зато бих позвао да ову иницијативу наставимо и ширимо. Не треба да нас обесхрабри то што нас је данас само дванаест на овом скупу. Пре две хиљаде година дванаест људи покренуло је највећу духовну револуцију у историји света. Колико год да нас данас има, важно је да радимо озбиљно, повезујемо се и ширимо идеје. Хвала вам.

Др Ненад Бадовинац:

Само једна кратка дигресија, више из организационог и менаџерског угла. Замислите да нас сада слуша много више људи или да смо повезани онлајн. Публику могу чинити људи врло различитих интересовања и стручних профила. Управо у томе видим снагу ове иницијативе. И ја сам, слушајући данашња излагања, много научио о областима које нису моја примарна струка. Некога ће можда највише привући Вањино филозофско излагање, па ће кроз исти скуп чути и информатички или теолошки аспект. Другога ће привући техничка тема, а онда ће неочекивано чути и хуманистички поглед. Та интердисциплинарност је велика вредност САВИ-ја. До сада су отац Оливер и професор Крњајић јасно рекли да сматрају да је дигитални Рубикон пређен. Вања, како ви то видите?

Др Вања Суботић:

Ако говоримо друштвено и узмемо у обзир различите савремене примере, укључујући и војне примене технологије, рекла бих да је у неким областима Рубикон у великој мери већ пређен. Оно што мене ипак чини оптимистом јесте утисак да у хуманистици још увек стојимо једном ногом преко, а једном са ове стране. Зато још постоји простор да видимо шта ће превагнути: профит и престиж или мотивације које су изнад њих – одговорност, интегритет и брига за човека.

Др Ненад Бадовинац:

Хвала. Велимире, како ви одговарате на питање – јесмо ли прешли дигитални Рубикон и, ако јесмо, када?

Проф. др Велимир Дедић:

За мене више није кључно питање да ли смо га прешли, већ када се то догодило и шта из тога следи. Пао ми је на памет Галилео. У једном писму црквеном великодостојнику он, суштински, прави разлику између две „књиге“: Светог писма и књиге природе. Књига природе, каже, написана је језиком математике. Ако прихватимо да и природа има своје законитости које треба пажљиво читати, онда долазимо и до проблема ко је овлашћен да их тумачи и на основу чега. Ту се појављује опасност сцијентизма – идеје да научни или технички ауторитет аутоматски даје право на коначну реч о свим питањима. Сетимо се, рецимо, претходних великих расправа о томе да ли друштвене мреже изазивају зависност. Годинама су се водиле статистичке полемике, а онда су се појавили људи који су радили у великим технолошким компанијама и отворено говорили да је део њиховог задатка био управо да дизајнирају механизме који ће корисника што дуже задржати на платформи. И после тога смо наставили да се понашамо као да је питање потпуно отворено и као да ништа нисмо чули.

Зато сматрам да сцијентизам може бити веома опасан: наука је неопходна, али се не сме претворити у нову врсту непогрешивог ауторитета. А када је Рубикон пређен? По мом мишљењу, много раније него што данас обично мислимо. Један пример из војне медицине је систем који је омогућавао да се из малог узорка крви веома брзо добије микробиолошка анализа, како би рањени војник што пре добио одговарајући антибиотик. Систем је користио неуронску мрежу, иако тада јавност то можда не би препознала као „вештачку интелигенцију“ у данашњем смислу. Још ранији пример су системи попут АБС-а у аутомобилима. То нису велики језички модели, наравно, али показују да смо аутоматизовано одлучивање и адаптивне системе у свакодневни живот уводили много пре садашњег таласа генеративне АИ. Зато бих рекао: да, дигитални Рубикон смо прешли – и то одавно. Данашњи тренутак је само учинио ту чињеницу много видљивијом.

Др Ненад Бадовинац:

Хвала. Да ли неко од гостију жели да се укључи питањем или коментаром?

Проф. др Драган Станић:

Хвала вам што сте ми дали прилику да се обратим. Ја ову област посматрам више као заинтересовани посматрач, из угла друштвено-хуманистичких наука и питања природе сазнања. Пре свега желим да захвалим оцу Оливеру и др Браниславу Кисачанину који су својевремено организовали један веома занимљив циклус предавања. Објављен је и зборник радова у којем су, по срећној идеји организатора, сучељени научници који се баве конкретним открићима и људи који разматрају духовне импликације тих открића. Мени је тада било фасцинантно колико су се одговори понављали. Људи који се веома озбиљно баве техничким или кибернетичким питањима често су, када би их неко питао шта одређено откриће значи у духовном или ширем антрополошком смислу, одговарали да о томе до тада готово нису размишљали. Чини ми се да ту долазимо до важног тренутка у животу сваког научника: до питања личне моралне одговорности. Није довољно само питати шта можемо да направимо, већ и шта значи оно што правимо и какве последице може имати. Ту се, по мом мишљењу, види и граница чистог рационалног ума. Ум у пуном смислу мора да укључи и духовну димензију. Зато мене занима филозофија која се не своди само на формалне операције и логичке процедуре, већ се пита како одређени модел живота мења не само наше мишљење него и целокупан начин постојања. Ако бих морао да кажем шта је за мене прави знак преласка Рубикона, онда то не би био само појединачни технички продор. То би био тренутак када човек више не може поуздано да разликује да ли је биће са којим улази у интиман однос жива особа или савршено дизајнирана машина.

Др Ненад Бадовинац:

Хвала. Следећи пут можемо укључити и камеру и организовати онлајн пренос. Можда ће у почетку бити педесет или сто људи који прате на даљину и постављају питања. Важно је да даље ширимо САВИ, да останемо на непосредним сусретима, и да отворимо комуникацију према јавности.

Др Оливер Суботић:

САВИ је као идеја настао у интелектуалном троуглу који је сачињавао Максим Томић, Браниславо Бубала и моја маленкост. Закључили смо да би за почетак било корисно формирати једно независно стручно тело које окупља чланове академске заједнице, јавно ангажоване интелектуалце и стручњаке који критички размишљају и имају довољно знања да заједнички прате изазове вештачке интелигенције. Један од циљева јесте да из таквог рада проистекну конкретне препоруке. Рецимо, замислите да САВИ објави документ са десет препорука за употребу вештачке интелигенције у образовању. Ако иза тог документа стоји већи број релевантних људи из различитих дисциплина, онда он може да добије тежину коју нема појединачни коментар на друштвеној мрежи. У том смислу идеја је слична неким иницијативама у свету које окупљају научнике, филозофе, стручњаке и јавне интелектуалце око питања будућности технологије, без обзира на то што су конкретни модели и институције различити. Ова проблематика је толико широка да један човек не може да напише једну књигу и каже: „Ево, овде имате све одговоре.“ То је немогуће. Осим тога, област напредује толико брзо да су потребне сталне опсервације и периодично ажурирање ставова. Колико ће неки наш документ или став бити ефективан? То је друго питање и не зависи потпуно од нас. Али морамо да покушамо. Пре само неколико година, када сам држао предавања о овој теми, питао бих публику од сто или двеста људи: „Колико вас користи неки систем вештачке интелигенције?“ Подигло би руку свега неколико људи. Онда бих им рекао: „Одговор је нетачан, не зато што сте слагали него зато што не препознајете где све већ користите АИ.“ Ако имате паметни телефон, навигацију, аутоматску обраду фотографије, препознавање садржаја и многе друге функције, већ сте окружени тим системима. Данас то питање више ни не постављам, јер људи увелико користе генеративне моделе и свесни су тога. Због тога нам је потребна институција која би била што независнија од политичког и корпоративног утицаја. Посебно филозофи и људи из хуманистике требало би да чувају способност да дају став на основу аргумената и критичке опсервације, а не према интересу неке компаније или политичке структуре. И треба писати. Један мој професор и пријатељ својевремено ми је рекао: „Никад не знаш на којој тачки света те неко чита. Само пиши и ради.“ Касније сам схватио колико је био у праву. Пре много година писао сам текстове о биометријским системима идентификације и опасностима централизације личних података. Много касније разговарао сам са једним веома познатим српским политичарем, који тада више није био активан, а који је у време тих расправа био на високој позицији. Испричао ми је да је те текстове читао и да су утицали на његово размишљање и на став који је заступао при доношењу одлука. Ја тада нисам знао да их он чита. Нисам ни могао да знам да ће текст написан много раније имати такав пут. Слично је и са једном причом коју сам чуо о познатом џез музичару. Дошао је да свира концерт, а у публици свега десетак или петнаест људи. Могао је да каже: „За кога ја овде свирам?“ Уместо тога одсвирао је као да наступа пред пуним стадионом. Годинама касније срео је изузетног младог музичара. Када га је похвалио и питао како се развио у таквог уметника, младић му је рекао да је био међу оних десетак људи на том давном концерту и да је управо тада одлучио да се посвети џезу. То је одговор и на питање о нашем утицају. Не знамо да ли ће оно што данас радимо деловати сутра, за годину, пет или двадесет пет година. Не знамо да ли ће нешто што кажемо чути студент, родитељ, професор, политичар, руководилац компаније или неко ко ће тек касније доћи у позицију да доноси важне одлуке. На нама је да радимо озбиљно, аргументовано и доследно. Докле ће тај утицај стићи, видећемо.

Др Оливера Ђокић:

Покушаћу да будем кратка. Најпре да се представим: ја сам Оливера Ђокић, професор на Факултету за образовање учитеља и васпитача Универзитета у Београду, некадашњем Учитељском факултету. Моја ужа област је математичко образовање, али су ме отац Оливер, а затим и колега Максим, подстакли да интензивније размишљам о вештачкој интелигенцији. Када говоримо о питању да ли је Рубикон пређен, мени је важно да га посматрам из угла оних који су међу најрањивијима у нашој популацији – деце – и из угла људи који образују будуће учитеље и васпитаче. Један догађај који ми је раније привукао пажњу био је случај када је робот током шаховске партије повредио дечака. Али за мене је, као наставника, много важнији Рубикон био нешто што сам видела код сопствених студената. Наши студенти треће, четврте или пете године одлазе на методичку праксу, хоспитују у школама и предшколским установама, посматрају часове и рад васпитача, а затим пишу рефлексије и саморефлексије. Веома брзо смо почели да примећујемо формулације које очигледно нису биле њихове. Постало је јасно да поједини студенти нису записивали сопствено искуство и промишљање онога што су видели, већ су постављали упите ЦхатГПТ-у и добијене одговоре предавали као рефлексију.

То ме је озбиљно забринуло. Ми будуће учитеље и васпитаче образујемо да буду рефлексивни практичари – људи који стално промишљају однос теорије и праксе. Учитељ или васпитач треба да развије пажњу којом примећује шта дете ради, како други наставник поступа, како он сам реагује и шта би следећи пут могао да уради боље. Ако млада особа од двадесет, двадесет једне или двадесет две године ту рефлексију одмах препусти систему, онда не губимо само један домаћи задатак. Ризикујемо да не развијемо саму способност пажљивог посматрања, самопропитивања и учења из искуства. Због тога ми се све више намеће израз „когнитивно поробљавање“, или оно што сам у неким радовима налазила као „илузију когнитивне независности“. Човек има осећај да је мисаоно самосталан, а заправо је све већи део процеса размишљања препустио спољашњем систему. Зашто сам почела да се бавим овим питањима ако вештачка интелигенција није моја примарна истраживачка област? Управо због деце, студената и образовања. То је моја основна мотивација. У овом тренутку за себе видим неколико праваца истраживања.

Први је питање шта уопште подразумевамо под интелигенцијом и које људске способности желимо да развијамо кроз образовање. У једној књизи која ми је веома драга наводи се опис великог индијског математичара Сринивасе Раманујана. Г. Х. Хардy код њега истиче не само меморију, стрпљење и способност рачунања него и способност уопштавања, осећање форме и способност брзе модификације хипотеза. Посебно истиче дубоку оригиналност. Мени је то веома важан образовни идеал. Ако као наставник размишљам о интелигенцији, не желим да је сведем само на брзо добијање тачног одговора. Желим да развијамо способност уопштавања, осећај за структуру и форму, оригиналност, флексибилност у промени хипотеза и истрајност. То су особине које би сваки наставник требало да има на уму када размишља шта жели да развије код ученика или студента. Други правац је питање како се само учење мења у присуству вештачке интелигенције. У последњих неколико месеци читала сам више радова и чини ми се да се самом феномену учења још увек не придаје довољно пажње. Посебно ме интересује улога метафора, односно тропа, у учењу и мишљењу. Метафора није само украс у језику. Она може бити начин концептуализације стварности – начин да пренесемо значење из једног домена у други и да кроз познато разумемо нешто апстрактно. Ако говоримо о развоју детета, кретање од конкретног ка апстрактном дубоко је повезано са начинима на које стварамо такве везе. Зато мислим да је важно да се, док уводимо АИ у образовање, вратимо и основном питању: шта је учење као људска активност? У литератури о учењу постоје различите велике метафоре: учење као стицање, учење као учешће, а затим и учење као постајање – бецоминг. Свака од тих метафора осветљава други аспект процеса. Не учимо само тако што „узимамо“ информације; учимо и кроз припадање заједници, кроз праксу и кроз то да временом постајемо другачија особа. За мене је важно да истражимо да ли су нам потребне нове метафоре учења за време вештачке интелигенције и шта оне могу да открију што старији модели не показују. Трећи правац је будућност учења из перспективе усмерене на човека. У једном раду који сам недавно читала је мисао која ми је остала важна: у животу сваког студента постоје људи којима је искрено стало до тога да ли ће тај студент напредовати, остварити се или доживети неуспех. Ниједан систем, колико год софистициран био, не заузима аутоматски тај људски положај. То ми се веома допало. У образовању није важна само информација, него и однос. Није довољно да неко добије одговор; важно је да постоји други човек коме је стало до тога шта ће ученик или студент постати. Зато ћу, као истраживач и наставник, покушати да даље пратим управо те правце: шта је људска интелигенција коју желимо да развијамо, како се мења сам процес учења и шта у образовању мора остати незаменљиво људско. Хвала.

Др Ненад Бадовинац:

Хвала, професорка Ђокић, и хвала свима. Дошло је време да полако закључимо ову прву панел-дискусију. Из данашње дискусије видимо да се, уз различита образложења, око једне ствари углавном слажемо: дигитални Рубикон је пређен. Али данашњи разговор је истовремено отворио много нових питања, можда и више него што смо их имали на почетку. Због тога је важно да наставимо. Можемо се поново састати уживо, можемо организовати другачији формат, а можемо и укључити онлајн пренос и ширу јавност, како би више људи могло да прати разговор и поставља питања. Захваљујем свим панелистима, члановима и гостима, као и Матици српској на простору и гостопримству у години њеног великог јубилеја.

Хвала вам што сте били са нама.

Коментар госта из публике:

Ја се овом темом нисам раније посебно бавио и многе ствари које сам вечерас чуо биле су ми нове. Бавим се пчелама и управо ми је, док сам вас слушао, пала на памет једна аналогија. Пчела током лета обрађује изузетно много информација. Оријентише се према удаљености до извора нектара, правцу, ветру и бројним другим условима. У том смислу има запањујућу способност обраде информација, али истовремено њено понашање није само нешто што нама изгледа као хладна рачуница – ту постоји и један облик инстинктивне, непосредне усклађености са целином. Слушајући вас, помислио сам да можда наш основни проблем није само вештачка интелигенција. Можда имамо проблем и са начином на који смо разум – интелигенцију у ужем смислу – поставили као врховног судију, тужиоца и пороту свега. Можда је Рубикон почео да се прелази оног тренутка када је разум престао да буде алат и постао апсолутни господар. Ако не знамо шта ћемо са сопственим разумом, онда није чудно што не знамо шта ћемо ни са вештачком интелигенцијом. Ако бисмо успели да направимо равнотежу између разума, интуиције и духа – тако да разум буде изузетно користан алат, али да не преузме место целине човека – можда бисмо и вештачку интелигенцију лакше ставили на право место: као алат. Тада је се не бисмо морали толико плашити, али јој не бисмо ни препустили улогу која јој не припада. То ми је, ето, дошло на памет док сам вас вечерас слушао. Хвала.

Извор: Српска академска иницијатива за безбедну примену вештачке интелигенције