'Nisem podpisal pisma o zaustavitvi razvoja umetne inteligence'

Marko Robnik Šikonja je profesor računalništva in informatike na Fakulteti za računalništvo in informatiko Univerze v Ljubljani. Ukvarja se z umetno inteligenco(UI), s strojnim učenjem in obdelavo naravnega jezika. Z ekipo je ustvaril vse velike jezikovne modele v Sloveniji, ki so v uporabi v akademski in industrijski skupnosti. Za razliko od številnih tehnoloških strokovnjakov, ki opozarjajo na nevarnosti prihoda umetne inteligence, zase pravi, da "nisem tehnofob." Ponudil je drugačen, trezenejši pogled na velike premike tehnologije, ki bo za vselej spremenila svet, in pojasnil, zakaj ni podpisal pobude, s katero pozivajo tehnološka podjetja k ustavitvi razvoja UI.

Prvi strah je ta, da nas bo splošna umetna inteligenca ali superinteligenca prekašala v vseh človeških pogledih, da bo pametnejša, zmogljivejša, da bo s človeštvom manipulirala, da bo z nami konec. Kako upravičen je ta strah?

Za zdaj še ni upravičen. Splošna UI je povezana s tehnološko singularnostjo. To bi dejansko pomenilo, da bi bili ti modeli sposobni sami sebe izboljševati in bi prišli v nek cikel, kjer bi dobili neko neskončno razvito umetno inteligenco, za katero bi bili ljudje nepomembni. Ampak to je znanstvenofantastični scenarij, ki ni osnovan na resnici. Če pogledamo človeško inteligenco in jo primerjamo z družbeno inteligenco, vidimo, da je človeška bistveno nižja. En človek sam ne zna narediti nobenega od teh zapletenih strojev, telefona, avtomobila in tudi ta očitno ni neomejena. 

Ali se bo zdaj, ko je med nami umetna inteligenca, družbena inteligenca razvijala hitreje?

Težko napovem. Saj se lahko tudi družbena neumnost razvija hitreje (smeh).

Človeštvo se je prvič z UI srečalo na družbenih omrežjih. Počasi so upravljanje prevzeli algoritmi. Iz prvotnih obljub, da bomo povezani, da bomo obdržali stik z domačimi in tako naprej, je nastalo veliko problemov. Bolj smo oddaljeni drug od drugega kot kadar koli prej, zasvojeni, bolj smo razdvojeni, naša pozornost je ravno dovolj dobra, da lahko sledimo 20-sekundnim posnetkom na TikToku. Bo drugi stik z umetno inteligenco prinesel še večje težave?

Te slabe lastnosti so nevarne in lahko prevladajo. Ali smo dovolj trezni, da se ubranimo, da znamo presoditi, kaj je pomembno, ne vem. Gotovo se moramo o tem izobraziti in odločiti, kaj je pomembno. 

Vzporednice med umetno inteligenco in družbenimi omrežji so zelo očitne. Obljubljajo, da bo zaradi UI delo učinkovitejše, da bomo bolj produktivni, da bomo imeli več prostega časa, da bo to naš osebni pomočnik. Na drugi strani pa se že kažejo obrisi pristranskosti, netransparentnosti, izgube velikega števila delovnih mest, škodoželjnosti. 

Je bil kdaj svet tako preprost, da nam ni bilo treba razmišljati o teh stvareh? Ni preprostega odgovora na zapleteno vprašanje. Pot naprej je znanje, informiranje, kar nas dela boljše in odgovornejše uporabnike. Tako kot moramo biti tudi odgovorni uporabniki družbenih omrežij. Po drugi strani se družbenim omrežjem ne moremo več odpovedati, ali pa denimo internetu. Si predstavljate, da bi morali na roko preverjati neke informacije, namesto da jih poiščete na spletu? Za zdaj še tipamo, kako nam bo to novo orodje prišlo prav, nismo pa še bolj produktivni in težava so tudi vse neželene informacije, ki nas lahko doletijo. 

Zelo kmalu prihaja tehnologija, ki bo ustvarila izjemno prepričljive in realistične posnetke iz besedil (angl. text to video), kar bo še dodatno vplivalo na uporabnike družbenih omrežij. To pomeni, da bo imel vsak dostop do tako imenovane 'deepfake' tehnologije. Kako bomo pripravili ljudi do tega, da bodo znali razločiti, da je nek posnetek, kjer recimo ruski vojaki pobijajo civiliste v neki ukrajinski vasi, neresničen?

V resnici ne vemo. Obstaja pa kar nekaj znanstvenih projektov na to temo, tudi EU jih razvija. Toda ključna stvar so verodostojni viri. Brez tega ne bomo prišli daleč. Preprosto ne bomo smeli verjeti vsakemu, ki bo nekaj objavil na spletu, pa čeprav bo to skoraj perfektno. To je dobro za medijske hiše, ker so vir kredibilnih informacij.

Avtorja dokumentarnega filma Social dilemma (Družbena dilema) Tristan Harris in Aza Raskin sta pred kratkim vodilnim možem največjih tehnoloških podjetij v Silicijevi dolini pripravila predavanje z naslovom 'AI dilemma' (Dilema UI). Med drugim sta napovedala, da bodo prihodnje leto v ZDA zadnje 'človeške' volitve, pokazala sta raziskavo, kjer 50 odstotkov znanstvenikov napoveduje, da je vsaj 10 odstotkov možnosti, da bo človeštvo zaradi UI izumrlo. Kako to komentirate?

Spet, zelo težko napovedujemo. Tukaj sem skeptičen in tudi te raziskave nisem videl. Leta 1956 je bila prva konferenca o umetni inteligenci. Za današnje pojme so bili silno optimistični. Ta optimizem je stalno prisoten. Pionir nevronskih mrež Marvin Minsky je bil še posebej optimističen. Govoril je, še pet let in bomo imeli model, ki bo dokazal pomembne matematične teoreme, še štiri leta, da bomo imeli robotskega človeka. Takrat so ljudje to govorili predvsem zato, da so zbujali pozornost, da se je to področje financiralo. Ko se napovedi niso uresničile, se je financiranje ustavilo. To danes poznamo kot zimo UI (angl. AI winter). Mislim, da to področje zdaj preveč obljublja, kaj vse nam prinaša. Za industrijo 4.0 pa so neke res uporabne rešitve, denimo področje umetnega vida je eno takšnih.

Vse skupaj prenašate dokaj mirno, čeprav napovedi niso tako optimistične. Če se obrneva k trgu dela, denimo. Tukaj se napovedujejo velike spremembe, izguba delovnih mest bo velika.

Glede služb dejansko ne vemo. Vsaka tehnologija nekaj služb odnese in nekaj prinese. Večina bolj trezno razmišljujočih znanstvenikov pričakuje, da bo zaradi halucinacij in plitkega sklepanja še nekaj časa človek v zanki. Predvidevam pa, da se bo na posameznih področjih povečala produktivnost. Zakaj ne bi uvoda znanstvenega članka napisali z orodjem ali zakaj ne bi uvoda članka napisali z orodjem ChatGPT. V tem vidim izboljšavo produktivnosti, ljudje pa bomo še dolgo potrebni. Pri nas smo delali tudi za medijsko industrijo, avtomatsko ustvarjati članke. Finska tiskovna agencija je že imela določeno avtomatizacijo oziroma robotske novinarje, kot temu pravijo. Izkazalo pa se je, da je to precej težka naloga, saj ne moreš objaviti članka, če ne temelji na nekih preverjenih dejstvih. Nekdo ga mora preveriti, izboljšati. Oni so uporabljali predloge recimo za hokejsko ligo, ki je tam zelo popularna. Za prvo ligo so članke pisali ljudje, za drugo, tretjo in četrto pa so pisali roboti. Težava teh člankov pa je bila, da so bili napisani vsi po istem kopitu. 

Katero ekonomsko področje se bo najprej spremenilo zaradi prihoda UI? 

Predvsem tista, kjer je veliko pisanja. Pravo je eno izmed teh področij. Zelo veliko pravnih besedil je zelo podobnih, veliko se jih razlikuje na posameznih podrobnostih, in to pravniki že do neke mere izkoriščajo. Intenzivno se razvija predvsem na strani odvetništva, na strani sodstva pa zelo malo, tako da tukaj sodstvo tehnološko zaostaja, in to je kar velika težava, ki jo je prepoznala tudi EU. Mi smo predlagali kar nekaj rešitev slovenskemu sodstvu, ampak še nobena ni bila sprejeta. To bo problem naše družbe, da bo odvetništvo bistveno bolj učinkovito kot sodni sektor. Sodniki bi denimo veliko hitreje lahko pisali rutinske sodbe o prometnih prekrških in podobno, a jih raje pišejo na roke. 

Še eno tako področje so mediji, ki so že zelo dolgo pod izjemnim pritiskom. Pričakuje se visoka produktivnost in zdaj imamo orodje, ki bi znalo na to področje vplivati. Rutinsko pisanje novic bo še bolj na udaru. K temu sodijo tudi drugi poklici, kjer je treba pisati besedila in nekaj poročati. 

Spremljate razvoj na področju orodij, aplikacij? Vsak teden na podlagi ChatGPT-ja nastane na stotine novih. Nastajajo nova podjetja, ki ponujajo rešitve, ki jih doslej še nismo poznali. Je to za zdaj bolj tipanje trga ali so vmes že aplikacije, ki lahko dejansko izboljšajo naše delo?

Resnica je nekje vmes. Vedno nastane na kupe nekih aplikacij. Preživijo tiste, ki najbolj ustrezajo pričakovanjem uporabnikov. Vedeti pa moramo, da ChatGPT ni edini. Veliko je prosto dostopnih modelov. Facebook je ustvaril Lamo, Koalo, Alpako in nekateri so prosti za uporabo. So manjši, cenejši in podjetja  jih bodo povsod vtaknila. In še več jih bo nastalo. Tudi na ravni EU se pogovarjamo o tem, da bi razvili model za evropske jezike. 

Pravite, da jih bo nastalo še več. Toda, najbolj ugledni znanstveniki so v pismu predlagali zaustavitev razvoja zmogljivejših modelov od modela GPT-4 za šest mesecev. Pismo, v katerem opozarjajo, da bo imel nenadzorovan razvoj UI negativne posledice, je doslej podpisalo že 13.500 strokovnjakov, profesorjev, razvijalcev, direktorjev. Ste ga vi podpisali ali ne in zakaj?

Vprašali so me, če bi podpisal, ampak nisem. Razvoj mora kvečjemu odpraviti napake teh modelov. Osredotočiti se moramo na realne probleme teh modelov. Denimo glede lastništva. Če bomo imeli več modelov, ki bodo prosto dostopni, demokratični, da bomo vsi vedeli, kako so bili naučeni, bo to dobro, ker ne bomo imeli monopolov na tem področju. Zdaj reči, dajmo to zaustaviti, ne razvijati zmogljivejših modelov, to se mi pa zdi, da nikoli ne deluje. To je pritegovanje pozornosti skupine, ki je zmeraj zelo tehnofobna, to sprejemam. Dobro je, da imamo tudi tehnofobno skupnost, vseeno pa mislim, da je to nerealno.

Jutri preberite drugi del pogovora.