Staš Zgonik  |  foto: Uroš Abram

28. 9. 2018  |  Mladina 39  |  Družba  |  Intervju

"Podatki so nova nafta. Kdor ima dostop do podatkov, lahko rešuje probleme."

»Toliko, kot je umetna inteligenca lahko nevarna, toliko lahko umetna inteligenca tudi pomaga, da to nevarnost nevtraliziramo«

Marko Grobelnik je na Institut Jožef Stefan, kjer domuje njegov Laboratorij za umetno inteligenco, ob dogovorjeni uri prišel še vidno utrujen. Dan prej se je namreč vrnil z ene od rednih službenih poti v ZDA, kjer se je sestal s predstavniki poslovnega medija Bloomberg, ki se že več let zanaša na v Sloveniji razvite rešitve za avtomatizirano zaznavo relevantnih svetovnih dogodkov.

V več kot 30-letni karieri je izšolal številne študente, ki danes zasedajo pomembna mesta na uglednih svetovnih univerzah in pri svetovnih tehnoloških gigantih.

Pred dvema letoma je sprejel neplačano funkcijo glasnika digitalnih tehnologij. Ena osrednjih nalog, ki si jih je zastavil, je pomirjanje strahov javnosti pred pastmi tehnološkega napredka.

Raziskovalno pa se trenutno največ ukvarja z vprašanjem, kako s pomočjo umetne inteligence napovedovati razvoj dogodkov v družbi in kako pojasniti razloge zanje.

Želite si torej digitalno stekleno kroglo. Za kaj bi jo uporabili?

Če se denimo zgodi potres, bi želeli čim bolj natančno vedeti, kaj lahko pričakujemo v dneh po tem. Vsak dogodek, najsi bo negativen ali pozitiven, vpliva na družbo. Novinarji imate v takih primerih precej razvito intuicijo o tem, kam lahko vodijo določeni dogodki. Vprašanje zame pa je, ali lahko s pomočjo računalnika pomagamo intuiciji. Tako orodje bi na primer prišlo zelo prav upravljavcem tveganj v velikih finančnih podjetjih, ki se morajo pogosto zanašati na občutek, a so pri tem, kot izhaja iz pogovorov z njimi, precej izgubljeni.

Kateri podatki so bistveni za takšno nalogo?

Ključno vlogo igrajo novice z vsega sveta, v različnih jezikih. Vsaka novica je tipično napisana v nekem kontekstu, brez katerega težko opravlja svojo funkcijo. Če vzamemo novico izpred 100 let, nam, četudi razumemo jezik, brez konteksta, v katerem je nastala, ne bo prav veliko povedala. Pomemben podatek, sploh v ekonomskem kontekstu, je stanje dobavne verige, torej kdo s kom posluje. Pomembno je poznati razmerja v družbi – kdo je vpliven, kdo odloča ... S kombiniranjem vseh teh podatkov je mogoče ustvariti nekakšen socialni senzor. Mark Twain je izrekel znameniti stavek: »Zgodovina se ne ponavlja, se pa rima.« In mi skušamo zaznati te rime.

O kakšni količini podatkov govoriva?

Na leto pridobimo okoli 100 milijonov novinarskih člankov z vsega sveta, ki jih nato »stisnemo« v posamezne dogodke. Teh se na leto nabere približno milijon. Ti dogodki se povežejo v zgodbe. Nastane dokaj urejena struktura razvoja družbe, znotraj katere lahko iščemo »rime«. In vidimo, da te tudi v resnici obstajajo. So pa nekateri segmenti družbenih dogodkov bolj prijazni za napovedovanje kot drugi.

Lahko predstavite kakšen primer rime?

Rima bi bila vzorec, ki se v družbi pojavlja po vsem svetu, na raznih ravneh družbe – nikoli se ne pojavi v povsem enaki obliki, vedno pa ima podobno strukturo. Take rime npr. ustvarjajo volitve, naravne nesreče, iznajdbe, izdaja novih produktov, športni dogodki itd.

Iz meteorologije je znan pojav tako imenovanega učinka metulja, ko lahko majhen dogodek v ozračju povsem spremeni napovedani razvoj vremena. Verjetno je v tako kompleksnem sistemu, kot je družba, tak pojav še izrazitejši? 

Meteorologija ima pri tem pr ednost, ker je dogajanje v ozračju mogoče precej natančno izmeriti, precej natančneje kot dogajanje v družbi, v kateri je prisotnih na milijone mikrodogodkov, o katerih ni nobenih poročil in jih pravzaprav ni mogoče zaznavati. Učinek metulja vsekakor povzročijo tudi nenapovedljivi katastrofični dogodki, denimo kakšen teroristični napad ali denimo zrušitev mostu, kot se je nedavno zgodilo v Italiji. Je pa res, da lahko, potem ko se takšen dogodek zgodi, precej dobro napovemo nadaljnji razvoj dogodkov.

Po drugi strani pa je mogoče z analizo podatkov zelo dobro zaznati, kateri dogodki so vnaprej načrtovani in pripravljeni. Banalen primer tega so objave Kim Kardashian na družbenih omrežjih, za katere hitro postane jasno, da jih načrtuje celotna ekipa ljudi. Skrbijo, da jih je ne preveč, ne premalo in da neprestano ohranjajo določeno raven pozornosti. Grafi objav in odzivov so zelo pravilni in ciklični.

Pa je vaš sistem že boljši od nekega dolgoletnega izkušenega analitika? Ali lahko premaga »svetovnega prvaka« v predvidevanju razvoja dogodkov?

Naš sistem omogoča zaznavanje in analiziranje količin podatkov, ki jih noben človek na svetu ne bi zmogel. Ko gre za razumevanje globine dogodkov, pa smo še zelo nebogljeni. Dogodke sicer merimo s pomočjo tisočev člankov, ki o njih poročajo, a člankov samih pravzaprav ne razumemo. Znamo razbrati ključne koncepte in relacije med akterji v besedilih, kakršnegakoli subtilnega pomena pa računalniki danes niso sposobni razbrati. Velikokrat rad povem primer, da pravljice o Rdeči kapici, ki jo razume petletni otrok, računalnik s še tako razvito umetno inteligenco ni sposoben razumeti.

S področjem umetne inteligence se ukvarjate že več kot 30 let. Kako so bili videti začetki?

Cilj umetne inteligence je od nekdaj bil, da bi računalniki postali dobri v reševanju problemov, ki ne zahtevajo samo surove računske moči, temveč tudi sposobnost predvidevanja, sklepanja, razumevanja, zaznavanja, skratka področij, na katerih smo še vedno daleč najboljši ljudje. Področje je doživelo že več vzponov in padcev. Ko sem leta 1983 prišel na IJS, se je veliko govorilo o ekspertnih sistemih. Cilj je bil človeško znanje prenesti v računalnik in vnesti pravila, na podlagi katerih bi lahko računalnik sprejemal primerljivo dobre ali boljše strokovne odločitve kot človek, denimo pri medicinski diagnostiki. Izkazalo se je, da so bile obljube za tisti čas prevelike in nastopila je tako imenovana zima umetne inteligence. V 90. letih prejšnjega stoletja so se številni strokovnjaki, tudi v Sloveniji, celo odpovedovali izrazu umetna inteligenca.

Kaj pa je spodbudilo renesanso umetne inteligence?

Pomembna prelomnica se je zgodila s terorističnimi napadi v ZDA 11. septembra 2001. Takrat je ameriška vlada ogromno denarja vložila v razvoj analitike, vsi raziskovalni programi so bili polni denarja za razvoj tako imenovanega podatkovnega rudarjenja. V tem desetletju pa je prišel nov val, ki se ga je oprijel izraz »globoko učenje«. Naenkrat so računalniki dobili sposobnost vida in sluha, ki ju pred tem tehnologija ni bila sposobna spraviti na zadostno raven. Še pred desetimi leti je bilo prepoznavanje obrazov in objektov na fotografijah omejeno na laboratorijske pogoje, danes je to povsem vsakdanja storitev aplikacij, kot je na primer Google Photos. Z razširitvijo zaznavne sposobnosti računalnikov se je močno razširilo tudi polje potencialne uporabe. In zato je umetna inteligenca v zadnjih letih tako priljubljena.

Velikokrat me sprašujejo, češ, kdaj bom v vsakdanjem življenju začel uporabljati umetno inteligenco. V bistvu pa jo večina uporablja vsak dan kar lep del časa.

Ste v času svoje kariere tudi sami kdaj podvomili o svoji strokovni usmeritvi?

Ne. Razvoj vsake znanstvene discipline je videti precej drugače, če ga opazujete od zunaj ali pa od znotraj. Od znotraj je nenehno opazen počasen zvezen razvoj. Napredujemo korak za korakom, za nas ni velikih skokov. V tem počasnem razvoju se vsake toliko časa zgodi, da rešimo kakšen problem, ki ima velik vpliv na družbo. In takrat zunanji opazovalec to dojame kot velik napredek. Ko Apple ali Samsung v svoj najnovejši izdelek vgradita tehnologijo, je to za laika tehnološka revolucija, nam pa je že nekaj časa vse jasno. Velikokrat me sprašujejo, češ, kdaj bom v vsakdanjem življenju začel uporabljati umetno inteligenco. V bistvu pa jo večina uporablja vsak dan kar lep del časa. Že vsaka poizvedba v Googlovem iskalniku je podprta z dokaj netrivialnimi algoritmi, vključno z globokim učenjem. Samovozečih avtomobilov sicer še nimamo, a že danes so številni avtomobilski varnostni sistemi podprti z umetno inteligenco.

Kaj je za vas sploh definicija umetne inteligence?

To je reševanje problemov, ki so blizu človeku, z mehanizmi, ki so nekoliko nekonvencionalni za preostanek računalništva. Ključno je, da so to pretežno problemi, v katerih je človek dober, računalnik pa slab. Kot rečeno, poskušamo denimo prebrati Rdečo kapico. In to nam še ne uspeva ravno dobro. Znajo pa recimo računalniki že povedati, kaj je na sliki – je to avtomobil, človek, solata … Hkrati pa še vedno ne razumejo, kaj naj bi s to solato počeli. Ne vedo, da je to rastlina, da jo imamo za hrano. Globokega razumevanja še ni.

Ali velikokrat opazite, da kakšna podjetja in ponudniki raznih storitev preveč opletajo z izrazom umetna inteligenca? Da je to postal prodajni element, ki pač dobro zveni?

Absolutno. Sploh v zadnjih nekaj letih je postalo skoraj pravilo, da mora biti v opisu dejavnosti podjetja omenjena tudi umetna inteligenca, četudi gre velikokrat za blef. Kar naenkrat se veliko ljudi opredeljuje za strokovnjake za umetno inteligenco, čeprav se nikoli prej z njo niso ukvarjali in čeprav bodo, ko bo navdušenje javnosti splahnelo, hitro našli kakšno drugo »vročo« besedo. So pa na trgu realne potrebe po strokovnjakih za to področje. S sistemi umetne inteligence lahko nekatere realne probleme v gospodarstvu rešujemo veliko bolje kot v preteklosti. Računalniški vid danes denimo omogoča avtomatizacijo nadzora kakovosti izdelkov. Na trgu je veliko pomanjkanje strokovnjakov. Povpraševanje po njih je naraslo veliko hitreje, kot so se lahko na to odzvale šole. Kdor se dandanes odloči za študij umetne inteligence, čez pet let prav gotovo ne bo imel težav z iskanjem službe.

Umetna inteligenca je že boljša od ljudi pri specifičnih nalogah, kot je igranje strateških iger. Na katerem področju bomo ljudje najdlje ohranili primat?

Tam, kjer je potrebno zelo globoko razumevanje sveta. Prebrati filozofsko delo in ga razumeti. Z računalnikom danes v takem primeru ne moremo storiti bistveno več, kot da preštejemo besede. Računalniki znajo prepoznati objekte na sliki, ne razumejo pa, zakaj se ti objekti pojavljajo skupaj, kakšna je njihova širša vloga v svetu. Svet, v katerem »živijo« računalniški algoritmi, je izjemno preprost oziroma ga pogosto praktično ni.

Ljudje, ki opozarjajo na nevarnosti tehnologije, hkrati to tehnologijo praviloma s pridom uporabljajo.

Slovenski strokovnjaki naj bi bili po znanju s področja umetne inteligence med vodilnimi v svetu. Kaj nas loči od največjih igralcev?

Velik del napredka v uporabnosti in sposobnosti umetne inteligence v zadnjih letih gre na račun povečanja zmogljivosti računalnikov in dostopa do teh zmogljivosti. Znanja, na katerih temelji AlphaGo, program, ki je premagal svetovnega prvaka v strateški namizni igri go, so stara že 20 let, a šele z dostopom do strahovite računske moči jih je bilo mogoče udejanjiti v praksi. To je uspelo podjetju Deep Mind, ki ga je pred nekaj leti kupil Google in v katerem dejansko ni omejitev. Eden od naših fantov, ki je odšel tja, mi pripoveduje, da si lahko za vsak majhen eksperiment, ki ga izvaja, rezervira več računske moči, kot je je na voljo v celi Sloveniji.

Druga stvar, ki jim zagotavlja primat, pa so podatki. Podatki dejansko so nova nafta, to vidimo na vsakem koraku. Kdor ima dostop do podatkov, lahko rešuje probleme. In pri tem imata Google in Facebook veliko prednost, ker merita cel svet.

Torej znanje imamo, nimamo pa sredstev?

Kar se tiče obvladovanja tehnologije, smo na zelo primerljivi ravni. Kar se tiče možnosti uporabe tehnologije, pa so v veliki prednosti.

Osnove tehnologije so na voljo vsem v obliki prosto dostopnih odprtokodnih rešitev. Današnja umetna inteligenca je sestavljena iz nekaj osnovnih gradnikov, ki jih je mogoče sestavljati kot lego kocke. Te kocke so vsaka zase precej preproste, razume jih lahko že dober srednješolec ali dodiplomski študent računalništva.

V zadnjih letih se je precej razširil strah pred umetno inteligenco. Številne znane osebnosti, denimo pokojni fizik Stephen Hawking ali poslovnež Elon Musk, so nas začele opozarjati, da grožnja umetne inteligence ni več zgolj filmska popkulturna referenca. Kakšen je vaš odnos do tega?

Toliko, kot je umetna inteligenca lahko nevarna, toliko lahko umetna inteligenca tudi pomaga, da to nevarnost nevtraliziramo. Ljudje, ki jih omenjate, so zelo medijsko izpostavljeni, nihče pa ni strokovnjak za področje umetne inteligence.

Dobili smo nova orodja. Ta nova orodja vplivajo na življenje ljudi. Vplivajo pa lahko pozitivno ali negativno. S temi orodji lahko denimo izboljšamo zdravljenje bolezni. Tudi svarila pred izgubo delovnih mest imajo drugo stran – najbolj ogrožena so najbolj duhamorna delovna mesta. Lahko bi celo rekli, da z avtomatizacijo takšnih delovnih mest izboljšujemo kakovost življenja.

Avtonomno orožje verjetno ne more imeti pozitivnega vpliva. 

Zagotovo je to velik problem. A problem je v tem, da je stroj neumen, ne da je zloben.

Obvladovanje tehnologije je podobno obvladovanju jezika. Če jezika ne obvladaš, v nekaterih družbenih procesih ne moreš imeti vloge sogovornika.

Kar se tiče avtonomnega orožja, se zelo krepijo pozivi k mednarodni prepovedi nadaljnjega razvoja te tehnologije. Ali bomo tudi na področju splošne umetne inteligence prišli do točke, na kateri bo treba razvoj ustaviti?

Če ta točka obstaja, je še zelo zelo daleč. Kot rečeno, danes ne znamo prebrati Rdeče kapice. Po precej optimističnih načrtih naj bi sposobnost razumevanja preprostih besedil računalnikom vcepili do leta 2030. Od tam do kakršnekoli točke, ko bi umetna inteligenca lahko postala grožnja, pa je še vedno zelo daleč. Se pa strinjam, da bi se bilo po podobnem načelu, kot se je človeštvo strinjalo, da bojni strupi niso primeren način vojskovanja, smiselno dogovoriti tudi glede avtonomnega orožja.

Pionir umetne inteligence dr. Ivan Bratko je pred časom opozoril, da grožnje, da bi umetna inteligenca prevzela oblast, morda res niso upravičene, da pa je mogoče umetno inteligenco že danes zlorabiti za prevzem oblasti. Da je umetna inteligenca postala močno orožje v rokah peščice vplivnih in premožnih posameznikov.

Prej sva rekla, da so podatki nova nafta. In to bogastvo je razporejeno zelo neenakomerno. Hegemoni so Facebook, Google in Amazon. In pri Facebooku v končni fazi odloča en sam človek. Pri Googlu in Amazonu prav tako. Tudi pri kitajskih internetnih velikanih je podobno. Peščica ljudi ima tako posredno velik vpliv na dogajanje v svetu, s filtriranjem informacij vplivajo na percepcijo sveta in dogajanje v družbi. Vpliv na posameznika je majhen, vpliv na milijon posameznikov pa se že pozna.

V takem položaju je s pomočjo umetne inteligence dejansko mogoče upravljati družbo. Lahko jo premaknete v levo ali desno, dve skupini lahko zbližaš ali ločiš. Družba je videti kot stroj, ki ga upravljaš z vzvodi. Avto je razmeroma zapleten stroj, ki pa je prirejen tako, da ga upravljamo z dvema vzvodoma. In družba ni dosti drugačna. Ima sicer nekaj več vzvodov, a ne veliko več.

Je torej trenutni položaj sploh dopusten? Bi morali denimo Facebook podružbiti?

Rekel bi, da je trenutno zavedanje o tej problematiki še na zelo nizki ravni. Malenkost se je razkrila v povezavi z ameriškimi volitvami in podjetjem Cambridge Analytica, a treba je vedeti, da je šlo pri tem za zanemarljivo kapljo v morju osebnih podatkov, ki jih hrani Facebook.

Podružbljenje je videti nemogoče. Realnejša možnost se zdi regulatorni poseg, ki bi razbil monopolne položaje tehnoloških gigantov. Pred leti, ko je Microsoft veljal za tehnološkega hegemona, ga je ameriška vlada že želela razbiti na več delov. Doslej edini način, kako omejiti vpliv ameriških tehnoloških velikanov, je pokazala Kitajska s svojim velikim požarnim zidom, da je zaščitila svojo industrijo.

Se tudi vam dozdeva, da je navdušenje nad novo tehnologijo v veliko primerih nadomestil strah pred novo tehnologijo?

Pri najstnikih tega ne opažam. Takoj konzumirajo vse, kar je novega. Pa tudi moji mami, ki je stara 82 let, se je z iPadom odprl nov svet. Delala je v knjižnici in je imela vse življenje dostop do informacij, a YouTube in vse ostalo spada v čisto druge dimenzije. Prav nič je ni strah.

Ljudje, ki opozarjajo na nevarnosti tehnologije, hkrati to tehnologijo praviloma s pridom uporabljajo.

Ena bolj izpostavljenih skrbi je vpliv sodobnih tehnologij na mlade in njihovo sposobnost spopadanja z realnim svetom. V intervjuju za MMC RTVSLO ste pred dvema letoma dejali, da ste sinu vedno kupili vse, kar je novega prišlo na trg, in da je imel vso svobodo pri uporabi. Kako se je to obneslo?

Sin se je že tri leta zapored uvrstil med štiri najboljše slovenske programerje v svoji starosti. Uporaba tehnologije, ki jo ima na voljo, v kombinaciji s primernim vodenjem skozi čeri, je imela pri tem zagotovo pozitiven vpliv. Seveda pa bi se lahko zgodilo, da bi ves čas, ki ga je preživel s temi napravami, porabil za igranje iger.

Obvladovanje tehnologije je podobno obvladovanju jezika. Če jezika ne obvladaš, v nekaterih družbenih procesih ne moreš imeti vloge sogovornika. Poglejte recimo, kako nujno je v nekaj letih za politike postalo, da se naučijo specifičnega jezika Twitterja.

Pred 100 leti, med zlato mrzlico v ZDA, so največ zaslužili ljudje, ki so prodajali lopate. In Slovenci smo med kriptomrzlico zelo dobro zaslužili s prodajo lopat.

Morda vaš sin vendarle ni najboljši primer. Ima namreč tehnološko zelo pismenega očeta, ki je izvrstno opremljen za krmarjenje med čermi. Večina današnjih otrok hitro postane tehnološko bolj pismenih od staršev in si začno sami postavljati pravila. Vsi strahovi zagotovo niso odveč?

Niso. Digitalna odvisnost ni hec. V poplavi poceni mikavnih dražljajev se hitro zgodi, da otrok zanemari druge plati življenja. Dan ima 24 ur. Ko odštejemo čas za spanje, prehranjevanje in šolo, nam ostane le še nekaj ur, ki jih je zelo preprosto zapraviti za neumnosti. Starši in kolegi, s katerimi se pogovarjamo o teh vprašanjih, imajo zelo različne načine spopadanja s temi vprašanji. Veliko jih preprosto časovno omeji uporabo naprav, na primer na uro ali dve na teden, kar pa se mi ne zdi dobro. S tem otroku namreč posredno sporočiš, da lahko tisti omejeni čas vrže stran. Času, preživetem s tehnologijo, se da tako slabšalni pomen, kot da je to nekaj škodljivega in prepovedanega.

Pri tej razpravi je zanimivo to, da so danes tehnološko najbolj opismenjeni ljudje v svoji mladosti zagotovo pred računalniki preživeli nezdravo veliko časa.

Sama Logina, ustanovitelja podjetja Outfit 7, sem učil v srednji šoli. Vedno je bil zelo samodiscipliniran, nikoli ni izgubljal časa. Moj nekdanji študent Jure Leskovec, ki je danes profesor na Stanfordu, je praktično vse svoje počitnice investiral v dodatna izobraževanja ali prakse. Ne gre za vprašanje časa, ki ga namenimo tehnologiji. Gre za vprašanje, kako ta čas porabimo.

Z eno uro na teden pač te ravni znanja verjetno ni mogoče doseči.

Z naskokom najboljša računalniška šola za osnovno- in srednješolce pri nas je Zavod za računalniško izobraževanje. Imajo zelo dodelan način poučevanja z zmernim tempom. Otroci imajo samo eno uro na teden, pa po dveh letih obvladajo ogromno. Z znanjem, ki ga pridobijo, bi bili dobrodošli v praktično kateremkoli podjetju. Ena ura, če je pravilno uporabljena, lahko dela čudeže.

Mineva leto dni, odkar so se kriptovalute znašle na naslovnicah vseh resnih medijev in se je začela evforija, ki pa je od takrat že precej potihnila. Nekatera podjetja, ki so zrasla na tem valu, že zapirajo vrata. Kako ste spremljali vzpon in zaton kriptonavdušenja?

Tukaj sta dve ravni. Eno je sama tehnologija, na kateri temeljijo kriptovalute – tako imenovani blockchain oziroma veriženje blokov. Gre pravzaprav za globalni digitalizirani notariat, ki ga je nemogoče nepooblaščeno spreminjati. A v svojem bistvu je to pravzaprav navadna podatkovna baza.

Na tej potencialno koristni platformi pa je vzniknil trg, na katerem je bilo mogoče samo na račun nekajstranskega poslovnega načrta za izdelek, temelječ na tehnologiji blockchain, na hitro zbrati več milijonov evrov.

Slovenci smo to zlato mrzlico precej dobro izkoristili. Pred 100 leti, med zlato mrzlico v ZDA, so največ zaslužili ljudje, ki so prodajali lopate. In Slovenci smo med kriptomrzlico zelo dobro zaslužili s prodajo lopat.

Internetni ponudnik A1 je prejšnji teden razburkal strasti s ponudbo novih paketov, v katerih za doplačilo ponuja ničelno tarifo za prenos podatkov v določene namene, denimo za pretočno predvajanje glasbe ali filmov. Ker imamo v Sloveniji uzakonjeno nevtralnost interneta, po kateri bi morali operaterji vse podatke, ki tečejo po njihovih žicah, obravnavati enako, nekateri to vidijo kot kršitev tega načela. Kakšno je vaše mnenje o tem primeru?

Nevtralnost interneta s takim posegom po mojem mnenju ni kršena. Veliko hujše kršitve se dogajajo, ko ponudnik servira različne informacije ali različne cenike glede na obiskovalca. Tako spreminjanje informacijske optike se približuje manipulaciji in je lahko nevarno – in tega ni malo, le zavedamo se ga ne, ker vsak vidi informacije samo skozi svoje zorno okno. Optimiziranje hitrosti prenosov pa se mi ne zdi problematično.

Pisma bralcev pošljite na naslov pisma@mladina.si. Minimalni pogoj za objavo je podpis z imenom in priimkom ter naslov. Slednji ne bo javno objavljen.