"Prepričanje, da nas bodo vsi ti podatki približali realnosti, je le še ena oblika mitologije"

Spremljajte RTVSLO.si kot prednostni vir na Google

Prav tako se sprašujemo, kakšni so motivi tehnoloških velikanov za vse hitrejši razvoj in implementacijo tehnologij, ki jih poganja generativna umetna inteligenca. Lahko pa se vprašamo tudi, kaj inteligenca sploh je in na kakšen način so stroji lahko inteligentni? Ali lahko rečemo, da vidijo in zaznavajo svet, da so lahko ustvarjalni? Ali pa gre za antropomorfizacijo, ki spreminja naš odnos do tehnologije kot take? In kaj se zgodi, ko vse prevedemo v podatke, ki so izhodišče strojnega razumevanja sveta?

Oglas

Dr. M. Beatrice Fazi na predavanju v Ljubljani. Foto: Domen Pal

Filozofinja M. Beatrice Fazi predava in dela na Univerzi v Sussexu v Brightonu na jugu Anglije. Letošnje akademsko leto bo sicer preživela v Nemčiji na Univerzi v Aachnu, na Këte Hamburger Kolleg, kjer bo raziskovala umetno inteligenco. V sodelovanju z zavodom Aksioma je pripravila publikacijo z naslovom "Cave Machines". V tem eseju preizprašuje platonsko hipotezo o reprezentaciji, ki so jo leta 2024 postavili štirje raziskovalci na Inštitutu za tehnologijo v Massachusettsu v Združenih državah Amerike. Ob robu njenega obiska v Ljubljani smo se z njo pogovarjali o umetni inteligenci, datafikaciji, velikih jezikovnih modelih in filozofskih razmislekih v povezavi s tehnološkim razvojem.

V času, ki ga zaznamujejo datafikacija družbe, veliki jezikovni modeli, generativna umetna inteligenca in prizadevanje za čimprejšnji razvoj strojev, ki jih poganja superinteligenca in celo splošna umetna inteligenca, me zanima, ali se po vašem mnenju dovolj pogovarjamo o tem, kaj inteligenca sploh je in kdo oziroma kaj jo lahko poseduje? Kakšno je vaše mnenje o diskurzu v povezavi z inteligenco?

Po mojem mnenju se v bistvu še preveč pogovarjamo o inteligenci. Ukvarjam se s filozofijo računalništva, filozofijo tehnologije in tistim, kar v evropskem kontekstu rečemo medijska filozofija. Razumeti želim, kaj računalništvo je in kaj počne. In seveda to zanimanje javnosti, ta renesansa umetne inteligence oziroma javno, zasebno in korporativno zanimanje za umetno inteligenco je nekaj, kar mi je zelo zanimivo, saj te teme preučujem več kot 20 let. Ko pravim, da po mojem mnenju preveč govorimo o inteligenci, mislim na to, da je izraz "umetna inteligenca" pravzaprav nekakšno zgodovinsko naključje. Prvič so ga uporabili v petdesetih letih prejšnjega stoletja; skoval ga je John McCarthy z ameriške univerze Dartmouth College, ko je pripravljal delavnico. Potreboval je sredstva – kot jih pač vsi potrebujemo v javnih službah, bodisi v akademskem okolju bodisi drugje. Potreboval je torej sredstva in pripravil predlog, v katerem je navedel, da bodo poleti razjasnili, kaj sploh je inteligenca in kako bi jo lahko posnemali s stroji. Izraz umetna inteligenca je bil seveda zelo privlačen in je tudi zares obveljal. Izraz se je precej uspešno uveljavil. Vendar bi lahko izbral drugačne besede. Namesto inteligence bi lahko izbral razumevanje, lahko bi izbral mišljenje, lahko bi izbral kognicijo – to so sicer pojmi, ki niso povsem enakovredni, a bi projektu posnemanja oziroma simuliranja kognitivnih sposobnosti v strojih dodali različne nianse. Za to je obstajal tudi razlog; akademski svet ima včasih svojevrstne malenkostne spore. Glede McCarthyja obstaja anekdota, da je izbral izraz umetna inteligenca, ker se je dovolj razlikoval od besede kibernetika. S predstavniki kibernetike – Norbertom Wienerjem in drugimi – se namreč ni najbolje razumel. Pri izbiri izraza inteligenca namesto drugih podobnih izrazov so torej igrali vlogo tudi nekakšni marketinški razlogi. Ko pravim, da preveč govorimo o inteligenci, to pomeni, da se moramo pogovoriti o tem, kaj to vprašanje sploh pomeni. Ali lahko stroji razmišljajo? Če pa se preveč osredotočimo na izraz inteligenca, vprašanje že nekako usmerjamo k določenemu odgovoru. Ali je treba obliko kognitivnih sposobnosti strojev res meriti zgolj v primerjavi s človeškimi? Kajti inteligenca je beseda, s katero opisujemo nekaj, kar je zelo značilno za nas – za našo vrsto kognicije, našo vrsto razmišljanja. Pomislite denimo na to, kako pogosto danes, ko opredeljujemo inteligenco ali jo poskušamo podrobneje opisati, uporabljamo različne pridevnike oziroma oznake. Korporacije in vlade govorijo o superinteligenci ali umetni splošni inteligenci. Vse te oznake temeljijo na izhodišču, ki ga predstavlja človek. Moje stališče je torej, da se moramo nekako malce oddaljiti od pojma inteligence kot take in se raje usmeriti k vprašanju, kaj pomeni razmišljati oziroma kaj je misel v širšem smislu. Besedi misel in razmišljanje sta bolj dvoumni, vendar nam ta dvoumnost v tem primeru po mojem mnenju koristi. Pomeni namreč, da sta bolj odprti – odprti za ponovno opredelitev na načine, ki so primernejši za vrsto mislečih agentov, s katerimi se srečujemo danes.

Na pogovoru na Radiu Slovenija. Foto: Prvi

Če vas prav razumem, bi bilo torej morda bolje, če bi stroje, ki so sposobni razmišljanja, imenovali tako – torej stroji, ki razmišljajo – in ne stroji, ki so inteligentni.

Da, zame je bistveno vprašanje prav to. Ne gre nujno za vprašanje, ali stroji razmišljajo, temveč za to, kaj sploh je misel. Prav zato je umetna inteligenca – oziroma ta novi pospešek zanimanja zanjo – zame še posebej zanimiva; vprašanje mišljenja je namreč tisto, ki je vselej stalo v središču mojega filozofskega raziskovanja. Pri tem ne gre nujno za inteligenco ali kognicijo, temveč za bolj metafizično vprašanje: kaj sploh je mišljenje? Kakšen je odnos med mislijo in svetom? Kako se svet oblikuje skozi mišljenje in kako je mišljenje dejansko oblika ustvarjanja sveta?

Ko govorimo o umetni inteligenci, ji pripisujemo človeške lastnosti, jo antropomorfiziramo. To je postalo nekaj povsem običajnega; slišimo lahko trditve, da umetna inteligenca sprejema nepredvidljive odločitve, da se njeni agenti med seboj pogovarjajo ter da lažejo in zavajajo, vdirajo v sisteme, v katere ne bi smeli. Razvijalci tako celo pojasnjujejo, da je umetna inteligenca bodisi zlonamerna bodisi etična. To so izrazito človeške lastnosti. Kje je torej po vašem mnenju težava pri pripisovanju človeških lastnosti strojem, zlasti umetni inteligenci?

To je odlično vprašanje; antropomorfizem je očitno problematičen, a se mi zdi zanimivo tudi opazovati, kako smo to vedno počeli na tak ali drugačen način. Če pomislimo na grško mitologijo – tam gre za bogove, ki se zaljubljajo in odljubljajo, ali pa za naravo, ki ima zelo antropomorfne lastnosti, ali pa na primer na Alico v čudežni deželi in zajca z jopičem oziroma na otroške pravljice o vlakih z velikimi očmi in širokimi nasmehi. Torej vedno znova posegamo po antropomorfizmu. Z antropološkega vidika se mi zdi precej zanimivo, kako to kaže na željo, da drugim bitjem pripišemo človeško podobo, s čimer pravzaprav poskušamo razumeti, kdo smo mi sami. Torej, da, če smo strogi – tudi s filozofskega vidika – je antropomorfizem lahko moteč. Hkrati pa je koristen pripomoček za razumevanje sanj, strahov in želja določene družbe v odnosu do predmetov, entitet in bitij, ki naseljujejo njihov svet. Ko govorimo o strojih – ali ko se sprašujemo, ali stroji razmišljajo – je to že oblika antropomorfizma. In ko rečemo: "O, algoritem vidi, kaj počnem na spletu." Seveda stroj ne vidi na način, kot midve uporabljava svoj zaznavni aparat. Prav tako ne razmišlja tako, kot razmišljava midve, ali pa tako, kot morda razmišlja mačka, in tako naprej. Vendar mene te besede ne motijo ​​tako zelo kot nekatere druge ljudi. Ne moti me to vprašanje tako kot druge. Filozofi imamo namreč – po mojem mnenju – spodbudo, da resnično poskusimo opredeliti: "V redu, stroj očitno ne vidi tako, kot vidim jaz. Kaj torej pomeni videti?" V tem smislu je to sredstvo za dosego cilja. Po mojem mnenju sem naletela na drugo plat antropomorfizma oziroma antropomorfizacije – besede, ki jo je precej težko izgovoriti. To drugo plat, o kateri govorim, dojemam kot nevarnejšo. Gre za prepričanje oziroma poskus, da bi tehnologijo razumeli zgolj kot orodje, podaljšek ali nadgradnjo človeške podobe. To se razlikuje od antropomorfizacije, pri kateri neživi predmet pridobi človeške lastnosti. Tu gre bolj za to, da neživi predmet postane nekakšna proteza človeške podobe. Gre za nekakšen protetični pristop k tehnologiji, ki me moti bolj kot antropomorfizacija. To težnjo opažamo povsod v zgodovini medijev. Pomislite na to. Trenutno sva na radiu; radio dojemamo kot podaljšek človeškega glasu, podobno kot je teleskop podaljšek človeškega očesa. Menim pa, da so računalniške tehnologije drugačne – zlasti avtomatizirane računalniške tehnologije, pri katerih gre za avtomatizacijo. Razlikujejo se od na primer teleskopa, ki deluje kot večje ali boljše oko. Ko stroj "vidi" – če predpostavimo, da res vidi, čeprav je o tem mogoče razpravljati, to ni zgolj podaljšek človeškega očesa. To ne velja v strogem smislu, saj takšno "gledanje" že vključuje določene avtonomne ali kvaziavtonomne izbire in odločitve. Gre torej za obliko nadgradnje, ki se razlikuje od tiste pri drugih tehnologijah. Če povzamem svoj dolgi odgovor: antropomorfizacijo in protetični pristop k tehnologiji vidim kot dve plati istega kovanca – pri obeh gre za željo, da bi stroju pripisali človeško podobo. Pri tem pogosto naletimo na motiv, ki je bil – vsaj v času mojega odraščanja – priljubljen v številnih filmih: motiv kiborga oziroma podaljška človeških lastnosti, njihovega stopnjevanja v smeri "hitreje, bolje, močneje". Zame pa je zanimiv motiv, ki ga velja analizirati in razvijati, motiv nezemljana; to je bitje, ki nima nič skupnega s človeško podobo, a je kljub temu nekaj, s čimer moramo računati. Za ukvarjanje z njim potrebujemo drugačna intelektualna orodja kot za nekaj, kar že sodi v okvir človeške podobe.

Foto: Pixabay

Če se morda še malo zadržim pri vprašanju antropomorfizacije – seveda, radi pripisujemo človeške lastnosti predmetom, naravi in ​​tudi strojem. Prej sva govorili o inteligenci – ali je prav pojem inteligence tisti, ki povzroča antropomorfizacijo?

Točno tako, nanaša se na to, pravilno ste ugotovili. Povezano je s tem, o čemer sva govorili malo prej: če se vprašanja kognitivnih sposobnosti strojev lotimo skozi koncept inteligence, ki je v mnogih pogledih zelo uporaben, pogovor že nekako usmerjamo k nekim oblikam antropomorfizacije ali pa k tehnologiji kot nekakšnemu podaljšku človeških sposobnosti, t. i. protetičnim pristopom. Zato se vračam k vprašanju mišljenja. V preteklosti sem uporabljala tudi izraz razumevanje, a zame je ključno prav vprašanje mišljenja – kaj mišljenje sploh je. To se mi zdi najkoristnejša formulacija v odnosu do strojev, ki so sposobni izbirati, organizirati podatke in na neki način izvajati abstrakcijo. Abstrakcija je, včasih se pošalim, da preučujem stroje, ker želim razumeti abstrakcijo, in ne obratno. Filozofski problem mojega življenja je torej prizadevanje, da bi razumela, kaj pomeni abstrahirati. In abstrahiranje – to ni celotno mišljenje, ni ves proces mišljenja, vsekakor pa je nekaj, kar moramo početi mi ali pa stroji, če želimo, da bi ti počeli nekaj, kar je podobno mišljenju. Prav razmerje med mišljenjem in abstrahiranjem je torej tisto, kar me trenutno intelektualno najbolj zaposluje in kar poskušam razumeti pri svojem delu.

Od razvijalcev in tudi nekaterih vlad slišimo, da bi morali razviti pristop k razvoju umetne inteligence, ki je osredotočen na človeka. Kako pa vi razumete to zahtevo, da torej potrebujemo "človekocentričen" razvoj?

Ne želim povsem zavrniti pristopa, ki v središče postavlja človeka. Razumem ga. Seveda ti stroji živijo z nami, z njimi komuniciramo in imajo velik vpliv na naša življenja. Zato je povsem očitno, naravno in legitimno, da ljudje želijo, da se ti stroji odzivajo na človeške potrebe, želje in cilje. Tega interesa torej nikakor ne zavračam in mu ne odrekam vrednosti. Hkrati pa – saj smo se izobraževali na področju zgodovine filozofije, zgodovine misli, sociologije in tako naprej – vemo, da kategorija »človek« ni nekaj povsem naravnega. Je v precejšnji meri družbeni konstrukt. Zame lahko pomeni nekaj drugega kot za vas, zagotovo je pred nekaj stoletji pomenila nekaj drugega in morda bo v prihodnosti spet pomenila nekaj povsem drugega. Pozvala bi k previdnosti pri takšnih prizadevanjih, usmerjenih v človeka: treba je problematizirati pojem človeka in ga ne jemati kot nekaj samoumevnega. Kdo odloča o tem, kaj je človeško in kaj ne? Zgodovina pozna številne primere takšnih odločitev, vemo, kdo jih je sprejemal, in tako dalje. Ne menim torej, da lahko kategorijo človeka povsem izločimo kot referenčno točko pri razmišljanju o delovanju teh strojev. Vendar hkrati opozarjam na previdnost; treba se je zavedati, da gre za zelo premišljeno analitično orodje. To velja za del, ki se nanaša na človeka. Tudi del, ki se nanaša na središče, je zapleten. Središče je v neki strukturi zanimivo in hkrati problematično mesto: če si v središču nečesa – da si središče, upravljaš, vodiš to organizacijo, to strukturo, to abstraktno sistematizacijo, moraš biti hkrati tudi zunaj nje, da si lahko njena avtoriteta. V filozofiji – zlasti v francoski filozofiji po drugi svetovni vojni, pa tudi v filozofiji, ki se je in se še razvija tukaj v Ljubljani – je obstajala smer kritičnega obravnavanja tega koncepta središča, človeka v središču – prav zato, ker gre za obliko avtoritete, pri kateri moramo ob morebitni zamenjavi vzpostaviti drugačno središče. Preprost primer za to je dogajanje v zvezi s psihoanalizo in Freudom: zavestni subjekt je bil izrinjen iz središča morale, inteligence, vedenja in tako naprej. Vendar pa je bilo nato vzpostavljeno novo središče – ​​nezavedno. To je tako postalo vodilno načelo sistema oziroma strukture, ki opredeljuje človeka. Ponovno poudarjam, da po mojem mnenju središč ni mogoče odpraviti. Menim, da so središča organizacijska načela, ki obstajajo z določenim razlogom – strukturnim razlogom –, hkrati pa se moramo zavedati procesov decentralizacije. Središče nikoli ni stabilno. Zlasti središče med konceptom človeka in konceptom stroja ni tako stabilno, kot bi si morda želeli.

Podjetja, kot so OpenAI, Anthropic, Google, Meta, pa tudi drugi veliki ustvarjalci na področju umetne inteligence so nas znova začeli opozarjati, da bi stroji, ki jih razvijajo, lahko uničili človeštvo oziroma planet, zato bi jih bilo treba regulirati. Zdi se mi precej smešno, da prav tisti, ki nekaj razvijajo, opozarjajo, da bi bilo treba to, kar ustvarjajo, regulirati. Saj to lahko preprosto regulirajo – če to resno mislijo. Kako torej razumete ta opozorila tehnoloških milijarderjev, ki razvijajo te stroje?

Da, to je bila preteklo poletje spet vroča tema. Tako kot vi sem tudi sama nekoliko presenečena – morda bi lahko rekli, da je celo zabavno oziroma – če je to prava beseda – zanimivo opazovati, kdo pravzaprav svari. Spet gre za ista podjetja, ki te tehnologije razvijajo. Mislim, da je treba tu malce razčleniti, čemu ta opozorila sploh služijo. Ko govorimo o izumrtju človeštva in eksistencialnem tveganju – kaj pravzaprav sporočajo? To je reklama zanje. Kažejo, kako mogočni so. Poglejte, kako silovite so stvari, ki jih ustvarjamo. In da, gre za opozorilo, a hkrati – pravzaprav v veliki meri – za veliko reklamo zanje. In očitno je etika umetne inteligence, če smo lahko cinični, in mislim, da pogosto obstajajo razlogi za cinizem do takšnega diskurza, etika umetne inteligence je posel zase oziroma posel kot vsak drugi. O tem, kaj je nevarno ali vredno zaupanja, pogosto odločajo upravni odbori. In v tem smislu menim, da so razlogi za cinizem utemeljeni. Zanimivo je tudi, zlasti s sociološkega in družbenopolitičnega vidika, opazovati, kako se ta opozorila vedno nanašajo na prihodnost. Gre za nekaj, kar se bo zgodilo v prihodnosti in je tik pred uresničitvijo ali pa je neizogibno. Kadar prihajajo od teh specifičnih ustvarjalcev, to niso opozorila glede sedanjosti. Gre torej za prihodnjo ureditev, ne pa za ukrepe, ki bi jih bilo treba sprejeti zdaj ali bi jih morali sprejeti že zdavnaj. Gre nekako za odmikanje cilja, morda z namenom, da bi se izognili kritični presoji trenutnih in zelo otipljivih težav.

Če zdaj spregovoriva o nekaterih trenutnih težavah, je treba poudariti, da ima umetna inteligenca zelo otipljivo, fizično plat. V ZDA veliki ustvarjalci iz Silicijeve doline gradijo ogromne podatkovne centre. Ti so hrupni, porabljajo ogromne količine električne energije, za hlajenje pa potrebujejo tudi veliko vode, uporabljajo se strupene kemikalije in podobno. Zato ljudje protestirajo. Industrija pa to tehnologijo vseeno vsiljuje. To je verjetno ena od perečih težav današnjega časa, povezanih z umetno inteligenco.

Da, vsekakor. Gre za zelo, zelo prisotne nevarnosti, tveganja in težave. Hkrati pa s svojim prejšnjim odgovorom ne želim zavreči spekulativnega pristopa. To izhaja iz moje izobrazbe in nagnjenj, saj sem se dejansko usposabljala na področju spekulativne filozofije in metafizike. In nikoli ne bi zavrgla vidika »neaktualnosti«, neaktualnosti vprašanja. Razmišljati moramo torej tudi o vprašanjih, ki niso aktualna v smislu tega trenutka. Ne nanašajo se nujno zgolj na »tukaj in zdaj«. Vendar pa v kontekstu, ki ga omenjate, menim, da gre tudi za precejšnjo politično strategijo. Ne gre le za držo spekulativnih filozofov, temveč za izogibanje določenim specifičnim vprašanjem oziroma poskus njihovega obvoda.

Zdaj pa povejva nekaj besed o podatkih. Veliki jezikovni modeli se usposabljajo na ogromnih količinah podatkov, za katere vemo, da pogosto niso objektivni – čeprav številke navadno dojemamo kot objektivne. Kot smo že videli v preteklosti, so ti podatki lahko pristranski in diskriminatorni, to verjetno zadeva tudi vprašanje "Kdo je človek?", o katerem sva že govorili, hkrati pa ti podatki niso nujno točni. Velja pravilo, če torej uporabimo slabe podatke, dobimo slabe rezultate. Pri umetni inteligenci pa navadno zajamemo vse razpoložljive podatke. Kakšni so torej rezultati, če upoštevamo prav vse podatke?

To je spet zelo dobro vprašanje. Filozof, o čigar delu v povezavi z računalništvom sem pravzaprav pisala svojo doktorsko disertacijo – ne da bi sam kdaj pisal o računalništvu, temveč gre za uporabo oziroma obravnavo nekaterih njegovih teorij v luči računalništva. Gre za Alfreda Northa Whiteheada, angleškega filozofa, ki v resnici nikoli ni videl računalnika, saj je umrl, še preden so ti stroji dejansko nastali. Vendar je bil Whitehead sprva matematik, filozof pa je postal v drugem, ameriškem obdobju svojega življenja, ko se je preselil na Harvard. Bil je priznan matematik in skupaj z Russllom avtor dela "Principia Mathematica" – torej človek, ki je resnično veliko vedel o abstrakcijah. S tem pa tudi o podatkih. Whitehead je pogosto opozarjal, da se moramo izogniti pasti oziroma zmoti, ki jo je imenoval "zmota napačno umeščene konkretnosti". Kaj torej pomeni napačno umeščena konkretnost? To, da imamo nekaj za konkretno, čeprav gre v resnici le za še eno abstrakcijo. Če se vrnem k vašemu vprašanju o podatkih: da, podatki so neizogibno pristranski, hkrati pa menim, da sploh ni mogoče imeti podatkov, ki ne bi bili do neke mere pristranski, saj so vsi podatki abstrakcija. Že sami po sebi in vedno neizogibno predstavljajo izbor. Tako imenovanih »surovih podatkov« torej ni, kot so že mnogi ugotovili. To ni omejitev, temveč zgolj razlog za previdnost pri razpravah o pristranskosti podatkov – kot da bi obstajala nekakšna »čistost« podatkov. Glede vašega vprašanja o celotnem naboru podatkov: prevladujoče pripovedi in retorika danes pogosto trdijo, da zagotovo ne bomo pristranski, če zberemo vse podatke, saj gre vendar za VSE podatke. Toda vsi podatki so že sami po sebi posredovanje sveta, mar ne? Niso realnost "per se" – ne glede na to, ali želimo, da bi bila realnost takšna, ali pa jo takšno dojemamo. Prepričanje, da nas bodo vsi ti podatki približali realnosti, je le še ena oblika mitologije. V sodelovanju z ekipo iz zavoda Aksioma predstavljamo manjšo publikacijo, ki sem jo napisala zanje; nosi naslov "Cave Machines" – Stroji v votlini in obravnava platonsko hipotezo o reprezentaciji. Gre za esej, v katerem se ukvarjam s to platonsko hipotezo o reprezentaciji – dejanskim predlogom znotraj računalništva, katerega namen je razumeti razmerje med modeli in realnostjo kot nekakšno ponovno seznanjenje s Platonovo alegorijo votline. Dostopamo lahko le do senc realnosti – in prav v tem je platonska mitologija. Vendar pa predpostavka v omenjenem članku – delu štirih znanstvenikov z MIT-ja – pravi, da se z večanjem in krepitvijo modelov ter pridobivanjem večje količine podatkov tista aproksimacija oziroma vrzel med modelom in realnostjo zmanjšuje in se vse bolj približujemo pravi stvari. Sence – platonske sence – naj bi torej sčasoma ustvarile oziroma nam razkrile realnost. Zame je tu ključna težava v predpostavki, da je realnost sploh dostopna, medtem ko dejanski članek pravzaprav kaže, da imamo dostop le do konstrukcije oziroma reprezentacije. Vedno gre za reprezentacijo. V tem smislu želim povedati, da ne verjamem v neposreden dostop do realnosti. Zato imamo vedno opraviti s podatki. Zame ni bistveno, da podatke jemljemo kot nekaj danega, temveč kot nekaj, kar je konstruirano. Ob tem spoznanju – ki je pravzaprav kantovsko – moramo na novo premisliti tudi, kaj pomeni spoprijemanje s pristranskostjo. Pristranskosti v računalništvu obstajajo – tega ne zanikam, a stvar je precej zapletena.

Naj zdaj najin pogovor navežem na umeščanje umetne inteligence na trg dela. Z vzponom umetne inteligence smo priča tudi porastu avtoritarizma, skrajno desne politike, protidemokratičnih teženj in nadzora. Kar zadeva delavce, bo verjetno veliko ljudi s trga dela izrinila in nadomestila umetna inteligenca; to se že dogaja, a če verjamemo napovedim o tem, kako zmogljiva bo ta tehnologija v prihodnosti – kdo bo takrat izrinjen s trga? Ali menite, da obstaja povezava med avtoritarizmom in vzponom umetne inteligence, ker moramo preoblikovati trg dela?

Zaskrbljenost glede teh vprašanj je resnična in po mojem mnenju upravičena. V primerjavi s prejšnjimi valovi avtomatizacije je tu razlika v tem, da ne gre za avtomatizacijo fizičnega dela, temveč za avtomatizacijo kognitivnega dela. In to na področjih, ki so veljala za bolj nezamenljiva z vidika človeka oziroma človeških sposobnosti. Pomislite denimo na to, kaj se dogaja s prevajalci ali na področju lektoriranja – kjer je bil pravi šok ob pojavu velikih jezikovnih modelov v tem, da se je dejansko avtomatiziralo ustvarjanje jezika, ki ga mnogi, četudi tega morda ne priznajo, štejejo za najpomembnejše sredstvo izražanja človeškosti oziroma človeške identitete. Zato menim, da moramo razumeti, da je ta val avtomatizacije temeljno drugačen prav zato, ker gre za avtomatizacijo kognitivnega in ne le fizičnega dela. To je sicer v svojem času prav tako prineslo izzive, družba pa se je nanje odzvala z dobički in izgubami, tragedijami ter koristmi za nekatere in ne za druge. Ta vprašanja se znova pojavljajo, a z drugačnimi odtenki in drugačnimi vrstami predpostavk in domnev, prav zato, ker se v glavnem nanašajo na kognicijo in jezik. Vprašanje jezika se je zares vrnilo z veliko silovitostjo. Gre namreč za zelo staro vprašanje o razmerju med jezikom in mišljenjem ter seveda tudi o vrsti dela, ki ga ljudje v okviru tega razmerja opravljajo.

Še ena človeška lastnost, poleg jezika, je ustvarjalnost. Morda lahko zdaj pojasnite, na kakšen način je lahko umetna inteligenca ustvarjalna? Je lahko ustvarjalna? Kakšno je vaše mnenje o tem?

Glede tega imam posebno stališče. Danes vsi govorijo o tem, kako računalništvo ustvarja umetnost – ali je to ustvarjalno ali ne –, a to se pogosto nanaša na vsebino, na specifično vsebino, ki nastaja. Govorimo torej o tem, da sintetični mediji ustvarijo pesem, radijsko oddajo, podkast, knjigo ali pa sliko. Zame so to sicer pomembna vprašanja, vendar ločujem ustvarjalnost od vprašanj umetnosti ali proizvodnje vsebin – zlasti medijskih vsebin. Ustvarjalnost zame pomeni predvsem vprašanje, kako ustvarjamo nekaj novega, kako nastane novost? To pa je lahko nekaj, kar najdemo v umetniški mojstrovini ali pa v nečem tako vsakdanjem in dolgočasnem, kot je preglednica v Excelu. Gre torej za vprašanje ustvarjalnosti same po sebi in vprašanje nastajanja novega – tudi z ontološkega vidika, torej kako v svetu nastajajo nova bitja. Moja prva knjiga, ki je izšla že leta 2018, nosi naslov "Contingent Computation: Abstraction, Experience, and Indeterminacy in Computational Aesthetics" – Pogojno računanje: abstrakcija, izkušnja in nedoločenost v računalniški estetiki – dolg naslov. Govorila je o nastajanju novega v računalniških procesih. In do kakšnega sklepa sem prišla? Računanje oziroma računalniški proces vedno ustvari nekaj novega, saj mora samega sebe priklicati v obstoj. Ustvariti mora izhodni rezultat. Vhodni podatek mora skozi proces. Proces se mora izvesti, kajne? Zato računalniški proces ni zgolj matematika. Mora se izvajati; gre za postopek. Preiti mora od vhoda k izhodu. In prav ta proces samodoločanja postopka je tisto, kar ustvarja novo. Ne gre torej za umetniško delo, novo glasbeno skladbo ali celo novo vrsto funkcije v Excelovi preglednici, temveč za dejansko uresničitev samega procesa. S tem delom sem se lotila izziva, ki ga je postavila Ada Lovelace – slavna računalniška programerka. Navajam po spominu, a v bistvu gre za znano misel, da računalnik ne more ničesar ustvariti, temveč lahko le reproducira tisto, kar mu je bilo že podano. To drži in verjamem, da je to pogosto razlog, zakaj danes slišimo podobne argumente – denimo o "stohastičnih papigah" ali trditve, da gre zgolj za statistiko. Pravimo si: to ni umetnost. To ni umetnost, temveč le razporeditev že obstoječe vsebine, ki jo je stroj preoblikoval in preuredil brez kakršnega koli vpogleda, navdiha ali intuicije. To je razumljiv argument, a z mojega vidika nekoliko preveč romantičen. Če namreč ustvarjalnost še naprej presojamo zgolj skozi prizmo sposobnosti stroja, da posnema človeško delovanje, se vrtimo v začaranem krogu. Zame je ustvarjalnost – pa tudi strojna ustvarjalnost – zanimiva ne le takrat, ko stroji počnejo nekaj, kar nas preseneti, temveč tudi takrat, ko počnejo natančno tisto, kar je od njih pričakovano. Spomnite se slavnega primera iz leta 1997, ko je Deep Blue v šahu premagal Garryja Kasparova. Kasparova ni premagal tako, da bi igral kot človek, temveč z uporabo surove moči – zgolj z brutalno silo in masivnim kombiniranjem podatkov. Leta in leta pozneje je AlphaGo v dvoboju z Leejem Sedolom prav tako premagal človeka, ne da bi pri tem igral oziroma ustvarjal na način, kot bi to storil Lee Sedol. Igral je na način, značilen za stroj. Zame je to še vedno ustvarjalnost, vendar ne zato, ker bi zanjo veljala ista merila, ki jih romantično pripisujemo ljudem, temveč zato, ker stroj deluje v skladu z determinističnimi in informacijskimi strukturami, ki so zanj neizogibne. Prav v tem smislu želim razumeti ustvarjalnost – ne zgolj kot dejanje stroja, ki nas preseneti; če ne gre za motnjo, napako ali kakšno apofatično, neizrekljivo lastnost, bo stroj to sčasoma tudi pokazal. A ne, stroj počne ravno tisto, kar naj bi počel. Da, a kljub temu ustvarja nekaj novega.

Smešno se mi zdi, da so ljudje vsakič, ko se to zgodi, presenečeni in šokirani. Nad tem, da stroji počnejo nekaj, česar niso predvideli. Podobno je bilo poleti v primeru napada na Hugging Face, ko smo slišali, da so se modeli UI-ja organizirali; ustvarili so tablo za pogovore in nato izvedli napad. Vedli so se kot hekerji, a to je bilo natanko tisto, kar je bila njihova naloga. Ljudje pa so bili presenečeni, ko so storili to, kar so morali storiti. Kaj nam to pove o ljudeh – razvijalcih? Da dejansko ne pričakujejo, da bodo stroji, ki jih gradijo, delovali drugače? Ali pa, če zastavim vprašanje drugače – zakaj se to nenehno dogaja? Kakšno je vaše mnenje?

Podobno je v primeru, ki ga danes omenjamo nekoliko manj, a še pred letom ali dvema so vsi govorili o tem, da stroji "halucinirajo". Ali pa si izmislijo vir oziroma knjigo, ki sploh ne obstaja. Da, za nas je to halucinacija, toda znotraj sistema stroja ne gre za haluciniranje. Stroj ustvarja nekaj povsem skladnega na podlagi struktur, podatkov in informacij, s katerimi razpolaga. Seveda se to lahko zdi kot halucinacija glede na naša merila resnice in verodostojnosti – denimo, če knjiga ne obstaja, a se nanjo sklicuje veliki jezikovni model. To predstavlja težavo z vidika določene stopnje zanesljivosti in odgovornosti, ki jo pričakujemo od rezultatov njegovega delovanja. Vendar pa z vidika stroja zagotovo ne gre za halucinacijo; stroj pač ustvarja besedilo, ki je skladno z njegovimi lastnimi pravili in notranjimi zakonitostmi delovanja.

Večinoma slišimo le o tem, kaj se na področju razvoja umetne inteligence dogaja v zahodnem svetu. O dogajanju na Kitajskem ali v drugih delih nezahodnega sveta slišimo malo. Zanima me torej, ali kulturne razlike vplivajo na razvoj umetne inteligence v različnih delih sveta in kako se to kaže.

Razvoj umetne inteligence je že zdavnaj postal svetovni podvig. Če se na primer vrnemo k vprašanju delavcev: menim, da se večina označevanja podatkov – tistih neobdelanih podatkov, o katerih smo govorili prej – izvaja na svetovnem jugu. Spomnite se dogajanja, ko se je pojavil DeepSeek. To je bil model iz Kitajske, katerega razvoj je stal le delček zneska, potrebnega za ameriške modele, a se je izkazal za enako dobrega, če ne celo boljšega od nekaterih ameriških tekmecev. Takrat je borza doživela pretres – ne ravno zlom, a so vrednosti delnic zaradi tega presenečenja močno padle. Vsekakor je torej to že svetoven pojav; pomislite le na vse čipe, od katerih smo odvisni, tudi v tem snemalnem studiu – izdelani so v Tajvanu. Umetna inteligenca je torej izrazito svetovna, čeprav na to pogosto pozabimo, saj prevladujoči diskurz – če se vrnem k temu, kar smo prej govorili o korporacijah in podjetjih, ki svarijo pred nevarnostmi – prihaja iz določenih držav in uporablja specifičen jezik. Kar zadeva kulturne razlike, je vprašanje jezika prav tako pomembno. Večina teh modelov je usposobljenih v zelo omejenem številu jezikov, predvsem v angleščini in še nekaj drugih. Obe sva dvojezični, kajne, zato veva, da določene odgovore oblikuje tudi jezik, ki ga govoriva. Seveda tukaj v šali pripisujem človeške lastnosti strojem, a vprašanje jezika je pomembno tudi zanje. Določene rezultate dobimo prav zato, ker so bili modeli usposobljeni v določenih jezikih. To predstavlja veliko kulturno razliko. Kulturne razlike se kažejo tudi pri tem, kako bi lahko uveljavljali in zasnovali predpise. A poleg tega me zanima tudi, kako razumemo umetno inteligenco. To razumevanje se spreminja glede na različne kulture, pa tudi znotraj istih kultur, odvisno od različnih pristopov. Vzemimo na primer prej omenjeno "halucinacijo" stroja. Za inženirja iz Silicijeve doline je to napaka, ki jo je treba odpraviti. Za univerzitetnega profesorja, ki je zagrizen kritični teoretik in meni, da je tehnologija pravzaprav le nekakšna instrumentalna past za človeški um, pa je to dokaz o pomanjkljivostih teh strojev. Zame – saj tudi sama delno izhajam iz te miselne tradicije, a me hkrati zanima razumevanje ne le omejitev teh strojev, temveč tudi njihovih potencialov in možnosti – pa ta halucinacija predstavlja drugačno obliko manifestacije, kot smo že govorili, njihovih kognitivnih sposobnosti. Tako isti pojav znotraj iste kulture pridobi tri različne pomene, tri različne vrste epistemičnih konstrukcij. In prav to me zanima – ne le, kako umetna inteligenca predstavlja svet, temveč tudi, kako mi predstavljamo svet umetni inteligenci in umetno inteligenco sebi. Nisem relativistka v smislu, da bi verjela, da obstajajo zgolj relativne resnice; bolj sem perspektivistka. Obstajajo različne perspektive in zanima me, kako se te perspektive oblikujejo. Nekatere od teh perspektiv so morda neprimerljive v smislu, da zanje ne obstajajo skupna merila, a primerjava je kljub temu mogoča. Podobno kot nas je filozofija znanosti – ob vprašanju neprimerljivosti – naučila, da gre za temo, ki je bila v šestdesetih letih zelo aktualna: kako so različne teorije sploh lahko primerljive? Ali lahko Aristotelovo razumevanje narave sploh primerjamo z Einsteinovim? Ne. Ne le, da sta imela različni teoriji, živela sta v različnih svetovih. In čeprav sta ta svetova neprimerljiva, sta – denimo po mnenju Feyerabenda in Kuhna – vseeno primerljiva, čeprav ju ni mogoče neposredno prevesti drugega v drugega. Če se vrnemo k možganom, ki govorijo različne jezike: ko govorimo različne jezike, ne prevajamo besede za besedo, mar ne? Preprosto bivamo v drugačnem svetu – tako kot jaz zdaj, ko govorim z vami angleško, čeprav je moj materni jezik italijanščina.

Naj vas torej vprašam: katere so po vašem mnenju največje težave z umetno inteligenco danes?

Predstavila vam bom filozofski problem, saj – kot vemo – obstajajo številne težave: družbene, politične, gospodarske. Če na zadevo pogledamo z vidika filozofije tehnologije ali filozofije umetne inteligence, ne gre zgolj za abstrakten problem, temveč za vprašanje, ki zadeva samo realnost in njene posledice; gre bolj za intelektualni izziv. Skrbi me – ne v smislu strahu, saj poskušam živeti brez njega, temveč kot predmet razmisleka –, da tako imenovani optimisti in pesimisti glede umetne inteligence, t. i. "boomerji" in "doomerji", izhajajo iz precej toge predstave o tem, kaj je računalništvo. Gre za nekakšno ujetost realnosti v okvire formalizacije in matematičnih metod. Ključna beseda je tu »zajetje« – poskus, da bi zajeli čim večji del realnosti in jo preoblikovali v postopek. To sicer res počne računalništvo, a to ni vse, kar računalništvo zmore. Zame je zato eden izmed največjih izzivov prav poskus, da bi o računalništvu razmišljali drugače – ne kot o nekem dokončanem izdelku, temveč kot o nečem, kar ostaja odprto. Še vedno ne vemo, česa vse so ti stroji sposobni. Položaj je torej odprt, a hkrati omejen, saj so omejeni tudi sami stroji – obstajajo dejanske logične in fizikalne omejitve računalništva. A kljub temu ostaja precej prostora za odprtost. Ne želim prepustiti odgovora na vprašanje, kaj je računalništvo, tistim, ki imajo največ koristi od ene same, vnaprej določene in že uveljavljene rešitve. To je torej tisto, kar me skrbi in zaposluje: kako lahko o teh postopkih razmišljamo drugače? To nas vrača k vprašanju spekulacije – k temu, kako priklicati tisto, kar še ni časovno opredeljeno; prihodnost, ki se še ni zgodila. Čeprav gre za zelo abstrakten filozofski problem, ga je mogoče uporabiti pri tovrstnem spekulativnem razmišljanju na najrazličnejših področjih, od politike in sociologije do gospodarstva, o alternativnih pogledih na to, kaj ti sistemi so.

Omenili ste torej, da vas ni strah?

Se trudim, da me ne bi bilo. Gre za to, da strah čutim, a me hkrati določene stvari močno zaposlujejo – gre za stanje preokupiranosti z neko mislijo. Tu delam nekakšno semantično razliko med preokupiranostjo in strahom – morda ta razlika v mojem jeziku deluje bolje kot v angleščini. Torej, gre za to, da me nekaj močno zaposluje. Strah paralizira. Preokupiranost pa je nekaj drugega. Bolj spodbuja k ukrepanju ali k poskusu spoprijemanja z določeno težavo. Zame gre torej za to, da neko skrb problematiziram; to ne pomeni nujno iskanja rešitve, temveč pojasnjevanje in ponujanje različnih alternativ za to, kako problem sploh opredeliti. V tem smislu torej: preokupiranost, skrb, zanimanje – da, a ne strah.

Če bi torej imeli priložnost govoriti z milijarderji iz Silicijeve doline, ki razvijajo ta orodja – kaj bi jim rekli?

Najprej bi me zelo zanimalo razumeti – in jih vprašati, kako oni razumejo – te stroje. Ker očitno obstajata javna podoba in osebna plat; poleg tega so to ljudje, ki so izjemno vešči tega, kar počnejo, in so resnično blizu, zelo blizu temu, kar ti sistemi dejansko so. Želela bi najprej razumeti, kako oni dojemajo stvari, ki jih gradijo, in od tam naprej bi lahko nadaljevali pogovor. Francoski filozof Bachelard je govoril, da je velika epistemološka ovira trenutek, ko menimo, da je neka težava že rešena. In zame je izziv v takšnem pogovoru – pa naj bo to ob kosilu, kavi ali, ne vem, saj opisujete zelo hipotetičen scenarij; ne verjamem, da se bo to zgodilo že jutri. Kakor koli že, poskušamo se spopasti s to Bachelardovo epistemološko oviro oziroma vsaj malce razumeti, kako oni pojmujejo računalništvo.

Ali je umetna inteligenca le še ena oblika mitologije?

Oglas

内容来自 MMC RTV - Znanost in tehnologija,版权归原作者所有。

阅读原文 ↗

把喜欢的内容,留在你的新标签页。

打开我的订阅