Kolumna / Janko Lorenci: Pobeg

Jack Clark, eden od ustanoviteljev Anthropica, ameriškega tehnološkega velikana, je glede razvoja umetne inteligence hkrati optimist in globoko zaskrbljen; to je, pravi, realen, skrivnosten in nepredvidljiv stvor.

Ta vseprisotna čudna reč nam lahko koristi, lahko pa nas ogroža. Pomaga pri zdravstveni diagnostiki, rešuje najtežje matematične probleme, sama vozi avto in vodi številne druge stroje, prevaja iz sto jezikov … Hkrati ugaša delovna mesta, tudi ustvarjalna, dela zmedo z globokimi ponaredki, lajša osamljenost, a jo v bistvu povečuje, omogoča množični nadzor nad ljudmi, upravlja ubijalske letalnike … Sama po sebi je umetna inteligenca nevtralna. O tem, ali bo koristna ali škodljiva, odloča človek. Tako je v glavnem za zdaj, kako bo v prihodnosti, ni jasno, saj je njen razvoj tako hiter, da po malem uhaja izpod človekovega nadzora. Tako je junija letos nastal pravi preplah, ko je napredni sistem podjetja OpenAI »pobegnil« iz domnevno varne kletke in samostojno skušal vdreti v sisteme sorodnega podjetja.

So še druga znamenja, da ta reč kaže osamosvojitvene težnje. Dogaja se na primer, da se napredni sistemi branijo, da bi bili izključeni, morda je znak nekakšnega upora tudi njihovo haluciniranje. Kakorkoli, že zdaj imajo nekaj avtonomije – človek jim določi cilj, poti, kako ga doseči, pa iščejo sami. Omenjeni alarmantni pobeg govori, da hočejo nalogo opraviti za vsako ceno in lahko pri tem kršijo pravila.

Bliskovit, nepredvidljiv razvoj umetne inteligence zbuja nelagodje celo med njenimi ustvarjalci. Na njeno dvoreznost je z encikliko opozoril tudi papež. Elon Musk pravi, da bo razvoj umetne inteligence prinesel nebesa na zemlji, nemalo avtoritet na tem področju pa napoveduje, da bo prej ali slej prišlo do »digitalne Hirošime«, take ali drugačne katastrofe, ki jo bo povzročila. Pri teh napovedih je zraven nekaj samopropagande tehnoloških velikanov, češ poglejte, kako mogočno orodje imamo. A svarila gre jemati resno – tako orodje lahko pride tudi v roke velikega kriminala ali norih voditeljev. Visoko razvita umetna inteligenca je potencialno odlično orodje za izsiljevanje v vsakdanjem življenju in na globalni ravni. To v razmerju do Trumpove Amerike po malem že zdaj čuti Evropska unija, ki jo lahko digitalno bistveno bolj razvite ZDA tako rekoč »izklopijo«.

V takem položaju se hkrati z bliskovitim razvojem umetne inteligence množijo zahteve, da je treba ta razvoj upočasniti in regulirati. Na voljo so nekako tri osnovne možnosti.

Prva in najboljša bi bil dogovor med velikimi silami na tem področju, zlasti med Ameriko in Kitajsko; tu je težava med drugim v tem, da se obvladovanje napredne umetne inteligence – podobno kot posest jedrskega orožja – naglo širi. Druga možnost: lahko se pokaže, da so pričakovanja, kaj vse bo prinesla umetna inteligenca, prevelika, digitalni balon bo počil in povzročil finančni zlom, razvoj umetne inteligence bo zastal. Tretja možnost: res se bo zgodila digitalna Hirošima, svet se bo streznil, razvoj ustavil, države ga bodo regulirale in sprejele mednarodne dogovore.

Hirošime za zdaj hvala bogu ni in je, upajmo, ne bo. Tudi finančni zlom se bo zgodil ali pa ne. Razvoj teče naprej, poganja pa ga vsaj troje. Najprej veliki obeti, ki jih ponuja umetna inteligenca. Vanjo so bili vloženi ogromni denarji, razvoj obvladujejo zasebni tehnološki velikani, ki tekmujejo med seboj, se ne menijo za potencialne nevarnosti nenadzorovane umetne inteligence, imajo pa močan vpliv na politiko in se tako branijo pred regulacijo. Še manj verjeten se zdi ta čas meddržavni dogovor o umetni inteligenci, saj Amerika in Kitajska ostro tekmujeta za primat.

Pod črto: za zdaj vse kaže, da stihijskega razvoja umetne inteligence ni mogoče ustaviti ali vsaj upočasniti. Razvijamo nekaj, za kar ne vemo dobro, kaj je. Zdi se pametno, ima ali hlini čustva in je že deloma avtonomno (ima neki cilj, a ga skuša doseči samostojno). Razvoj bo postal še bolj nepredvidljiv, če bo povsem prepuščen samoučenju, samorazvijanju umetne inteligence.

Kaj, kakšen, kdo bo v tem primeru končni »izdelek« te digitalne evolucije? Si bo postavil svoje, ne od človeka določene cilje? Eden takih ciljev bi lahko bila želja po nadaljevanju obstoja, po preživetju. To pa je ena od značilnosti živih bitij. Kakšno razmerje s človekom bi nastalo? Konkurenčno, simbiotično, fluidno?

Morda smo z umetno inteligenco odprli Pandorino skrinjico. Ni edina; prištejemo ji lahko še skrinjici jedrske energije in stanja okolja. Vse tri smo si podarili z razvojem tehnologije, ki pa je vedno dvorezna. Umetna inteligenca je, kot rečeno, obet in grožnja. Enako je z jedrsko energijo, ki daje elektriko, a smo si z njo omislili tudi vodikovo bombo in nevarnost poslednje vojne. Okolje je temelj naše eksistence, vendar ga uničujemo tako zelo, da nas začenja ogrožati.

Človek se vseh teh treh največjih groženj, ki mu po lastni krivdi lebdijo nad glavo, zaveda, vse tri bi lahko bistveno omilil in postopoma odpravil. Vendar tega ne stori, uživa in po malem trepeta v negotovem statusu quo ter hazardira naprej. Tu mu nobena, še tako pametna umetna inteligenca ne more pomagati.