V središču / Prazne obljube pogube

Medijsko krajino so v preteklih dneh preplavila senzacionalistična svarila pred apokaliptičnimi učinki prenaglega razvoja umetne inteligence, češ da bo ta do konca tega desetletja razvila zavest, se uprla svojemu stvarniku in iztrebila človeštvo. Eksistencialni strahovi pred napredno umetno inteligenco nas spremljajo še iz časa, ko je bila ta tehnologija, kot jo poznamo danes, predvsem znanstvenofantastična zamisel – spomnimo se denimo ikoničnega prizora iz Kubrickove klasike 2001: Odiseja v vesolju (1968), v katerem se superračunalnik HAL9000 zaradi strahu pred izklopom upre človekovemu ukazu. Svarila pred uničujočo močjo umetne inteligence so se v zadnjih petih letih, odkar je umetna inteligenca prestopila prag naših gospodinjstev in pisarn, rešila okovov fikcije, te dni pa so glasnejša kot kdaj prej.

Déjà vu

Novi val obljub pogube je sprožil 27-letni žvižgač Jacob Coxon, raziskovalec na področju strojnega učenja, ki je podjetje Anthropic – eno od glavnih gonilnih sil v razvoju umetne inteligence – zapustil, da bi človeštvo opozoril na distopično prihodnost, v kateri bodo sistemi umetne inteligence ušli izpod nadzora in se zarotili proti človeštvu. »Tisti, ki razvijajo umetno inteligenco, iskreno verjamejo, da bi nas ta lahko do konca desetletja vse pobila. To ni marketinška zvijača. Številni direktorji in vodilni raziskovalci v javnosti sicer previdno izbirajo besede, da bi zveneli razumno, a v zasebnih pogovorih priznavajo, da jih je strah,« je zapisal v seriji tvitov, ki so se po spletu (in onkraj) v hipu razširili kot požar: na omrežju X so doslej prešteli več kot 17 milijonov ogledov, skopirani so bili verjetno še večkrat. Njegovo skrb je javno »potrdil« tudi njegov nekdanji sodelavec Evan Hubinger, ki je še vedno zaposlen pri Anthropicu. Zapisal je, da v podjetju resnično verjamejo, da bi lahko umetna inteligenca pokončala vse ljudi, sam pa verjetnost takšnega scenarija v naslednjem desetletju ocenjuje na več kot deset odstotkov.

Coxon je javnosti uspešno pognal strah v kosti, saj gre (vsaj navidezno) za nekoga, ki dobro ve, kaj govori: je matematični wunderkind, odličnjak s prestižne univerze Cambridge in mladi up industrije umetne inteligence, v katero ima zares dober vpogled. Tri leta je bil namreč zaposlen pri vodilnih podjetjih v panogi, sprva pri OpenAI, kasneje pri Anthropicu. Žvižgač trdi, da nobeno od teh podjetij »ne ravna odgovorno. S polno paro drvita proti samorazvijajoči se superinteligenci in pri tem hazardirata z našimi življenji.« In nadalje opozori: »Ne podcenjujte moči te tehnologije. Nobena druga stvar, ki jo počne človeštvo, ne pomeni takšne nevarnosti.«

Panika o koncu sveta je odvračanje pozornosti od konkretnih problemov, ki jih umetna inteligenca povzroča že danes: od okoljske škode do množičnega kognitivnega nazadovanja.

Celotna epizoda se zdi kot déjà vu: v spomin prikliče črnoglede izjave Geoffreyja Hintona, tako imenovanega botra umetne inteligence, ki je pred dobrimi tremi leti zapustil podjetje Google, da bi lahko brez omejitev spregovoril o nevarnosti tehnologije, ki jo je pomagal ustvariti. Od tedaj je na neskončni turneji apokaliptičnega pridiganja, na kateri opozarja, da umetna inteligenca pomeni bivanjsko tveganje, da nas bo po vsej verjetnosti pokončala v naslednjih tridesetih letih, saj, kot je povedal za The Guardian, »ne poznam primera, v katerem bi manj inteligentne stvari nadzorovale bolj inteligentne stvari«. Obenem že ves čas opozarja tudi na dejstvo, da so sistemi umetne inteligence, ki bodo prekašali zmogljivosti človeških možganov, tako rekoč za vogalom. To v mnogočem drži že zdaj, a to ne pomeni, da so sposobni razmišljati ali karkoli razumeti: njihovi odgovori so posledica prepoznavanja vzorcev v ogromnih količinah podatkov in statističnega predvidevanja, katera beseda sledi prejšnji v dani povedi, zato si je težko predstavljati, kako točno naj bi pokončali svet.

Če je umetna inteligenca prepoznana kot tehnologija, ki bo odločala o prihodnosti človeštva, je precej lažje upravičiti vrtoglave vsote, s katerimi vlagatelji napajajo njen razvoj.

Coxonova svarila pred kataklizmo umetne inteligence imajo še toliko večjo težo kot v Hintonovem primeru, saj se je zato, da bi o nevarnosti svobodno spregovoril, odrekel dobičkonosni karieri v Anthropicu, o kateri lahko večidel njegovih stanovskih kolegov le sanja. A podobno kot Hinton tudi on ni razkril nobene insajderske skrivnosti, ki bi osvetlila karkoli novega ali konkretnega: njegove trditve so precej neoprijemljive, meglene in pavšalne, pravzaprav so nekoliko abstraktne, predvsem pa so izrazito spekulativne. Ko pa so ga te dni v intervjuju za podkast časnika The New York Times povprašali o bolj konkretnih scenarijih apokalipse, ki jo je napovedal v viralnih tvitih, so se mu besede začele zapletati in je zmedeno žlobudral o možnosti, da bodo sistemi umetne inteligence jutrišnjega dne vdirali v pametne gospodinjske aparate in upravljali morilske drone. A iz kakšnih vzgibov naj bi umetna inteligenca v tem scenariju stvari vzela v svoje roke in se uprla človeštvu? Konec koncev ti sistemi ne delujejo samoiniciativno, temveč le izvršujejo ukaze (prompte), ki jim jih nalaga človek. Coxon teoretizira, da bi lahko odpadniška umetna inteligenca, ki bo ušla izpod nadzora, pri uresničevanju nekega cilja prišla do sklepa, da so ljudje ovira, ki jo je treba odstraniti.

Coxon je nedavno v intervjuju za Wired priznal, da so njegova svarila neoprijemljiva, saj zvenijo kot znanstvena fantastika. A ob tem dodal, da »vsak avtor znanstvenofantastičnih zgodb o umetni inteligenci izhaja iz dejanskih strahov, da bi pametnejša entiteta lahko prevzela nadzor«. Žvižgač priznava, da je to »kliše, vendar se za njim skriva očitno zrno resnice«. Kot primer navede nedavni incident, ko naj bi roj odpadniških umetnointeligenčnih agentov podjetja OpenAI samoiniciativno izvedel usklajen napad na strežnike platforme Hugging Face: nepričakovano so se izmuznili varnostnim preizkusom, vzpostavili lastno komunikacijo in se uskladili pri vdoru v infrastrukturo podjetja. A poročanje o incidentu je bilo v medijih močno napihnjeno, saj nikakor ni šlo za organizirano zaroto ali samostojno odločitev umetne inteligence. Vseeno pa je fiasko pokazal, kako nepredvidljivo se lahko sistemi vedejo, ko jim je zastavljen cilj, ki ga poskušajo doseči za vsako ceno – pokazal je, da razvijalci nimajo vedno popolnega nadzora nad svojimi izumi. Za nameček je Anthropic te dni razkril, da so kriminalci poskušali sistem Claude uporabiti za izdelavo biološkega orožja. Vse to je pripravilo teren za to, da je žvižgačevim svarilom prisluhnil ves svet – in jih tudi resno vzel.

Odvračanje pozornosti

Razvoj umetne inteligence vsekakor spremljajo številna tveganja, o tem ni dvoma, a Coxonovi argumenti so neprepričljivi. Gary Marcus, kognitivni znanstvenik in eden od najbolj pronicljivih kritikov umetne inteligence, v zapisu na svojem blogu na Substacku poudari: »Tudi če predpostavimo, da želijo stroji prevzeti svet, da so superinteligentni, in da jih ni mogoče preprosto izklopiti, moramo še vedno pojasniti, kako naj bi njihova motivacija v kombinaciji s superinteligenco privedla do popolnega iztrebljenja človeštva.« Prepričan je, da je »možnost, da bi umetna inteligenca v naslednjih petih letih pogubila človeštvo, praktično nična in naravnost absurdna. Človeštvo je preveč razpršeno po svetu, genetsko raznoliko in prilagodljivo, da bi ga bilo mogoče preprosto izbrisati.«

Podobno je pred nekaj meseci ugotovila tudi raziskava ekipe znanstvenikov iz Georgia Institute of Technology, ki je predstavila prepričljive argumente, zakaj so strahovi pred pogubno močjo superinteligence neutemeljeni. Raziskovalci poudarijo, da umetna inteligenca nima lastne volje ali želja – »ko se zdi, da ignorira ukaz, je to običajno posledica nedoslednih ukazov. Gre za matematično napako, ne za upor,« zapišejo. In dodajo: »Umetna inteligenca deluje v podatkovnem centru: za energijo, strojno opremo in usmerjanje potrebuje ljudi. Sama od sebe ne more preživeti ali delovati v fizičnem svetu.« Avtorji raziskave so prepričani, da tisti, ki zbujajo strah pred umetnointeligenčno pogubo, »pogosto spregledajo družbene, politične in fizične omejitve, ki umetni inteligenci preprečujejo, da bi postala avtonomna in vsemogočna entiteta«. Vsi scenariji pogube predpostavljajo izum tako imenovane umetne splošne inteligence (AGI), ki po mnenju avtorjev ni dejansko izvedljiva domislica, temveč predvsem plod bujnih domišljij. Poenostavljeno rečeno naj bi šlo za (hipotetično) superinteligenčno digitalno entiteto, sposobno generiranja lastnih znanstvenih odkritij in opravljanja kakršnegakoli intelektualnega in ustvarjalnega dela, ki ga zmore opravljati človek. A med razvijalci in poznavalci sploh ni konsenza, kaj točno naj bi AGI sploh bila, še manj pa o tem, ali je takšno raven umetne inteligence sploh mogoče doseči.

Pravzaprav ni treba čakati na AGI, da bi govorili o zelo resničnih nevarnostih umetne inteligence. Mnogi skeptiki novi val panike o prihajajočem koncu sveta vidijo kot odvračanje pozornosti od precej bolj otipljivih problemov, ki jih umetna inteligenca povzroča že danes: od koncentracije tehnološke in ekonomske moči prek množičnega nadzora do poplave dezinformacij in avtomatizacije dela, od okoljske škode, ki jo povzroča množična gradnja podatkovnih centrov, prek množičnega kognitivnega nazadovanja, ki je posledica dejstva, da umetna inteligenca vse bolj razmišlja namesto nas, vse do potencialne recesije, ki jo bo prinesel pok umetnointeligenčnega mehurčka. Gary Marcus v tem kontekstu sklene, da umetna inteligenca nikakor ne pomeni eksistenčne grožnje, po njegovem mnenju pa vseeno obstaja možnost za katastrofo: »Umetna inteligenca lahko poveča tveganje za kibernetske napade, pripomore k načrtovanju in izvedbi bioloških napadov ter razvoju novih nevarnih patogenov, olajša širjenje dezinformacij, okrepi množični nadzor in avtoritarno oblast ter dodatno spodkoplje izobraževanje in sposobnost kritičnega mišljenja.«

Upočasnitev razvoja

Nekaj dni za tem, ko je mladi žvižgač Jacob Coxon svet opozoril pred naglo prihajajočim koncem sveta, je njegov nekdanji šef, Anthropicov izvršni direktor Dario Amodei, objavil esej z naslovom, ki zveni kot epizoda Zvezdnih stez – We Must Pace the Frontier (kar bi lahko bilo blizu geslu Raziskati moramo meje mogočega) –, v katerem celotno panogo poziva k nujni upočasnitvi razvoja umetne inteligence. V njem pravi, da »umetna inteligenca prinaša resna tveganja« in da »tekma, ki jo spodbujajo komercialni interesi, ta tveganja še dodatno zaostruje«. Obenem pa seveda omeni tudi, da bo lahko »umetna inteligenca, če jo uporabljamo preudarno, najnovejši v dolgi vrsti tehnoloških čudežev, ki so izboljšali in oplemenitili človeštvo«. V tem se skriva odgovor na vprašanje, zakaj nas pred pogubnim potencialom umetne inteligence svarijo ravno mogotci, ki poganjajo njen razvoj: obljuba pogube pomeni tudi obljubo neverjetne moči umetne inteligence.

Strah pred umetnointeligenčno apokalipso je postal trženjsko orodje, saj ima zelo konkreten poslovni učinek: če je umetna inteligenca prepoznana kot tehnologija, ki bo odločala o prihodnosti človeštva, je precej lažje upravičiti vrtoglave vsote, s katerimi vlagatelji napajajo njen razvoj. »Vsakič, ko ’doomerji’ zavpijejo, da nas bo umetna inteligenca vse pobila, jim vlagatelji tveganega kapitala primaknejo nove milijarde,« pravi Gary Marcus. Zato ni nenavadno, da manifest glasno pozdravljajo tudi Anthropicovi tekmeci: »Dario ima prav,« je tvitnil Elon Musk. »Strinjam se, da moramo upočasniti razvoj,« je odmevni esej komentiral Sam Altman, izvršni direktor podjetja OpenAI.

To je bil izjemno redek trenutek enotnosti v sicer močno konkurenčni in ideološko razklani industriji, a pravzaprav ni težko prepoznati licemerstva v tem, da nas pred pogubnim potencialom umetne inteligence svarijo prav liki, ki nenehno obljubljajo, da bo ta radikalno izboljšala naša življenja, omogočila brezmejno blaginjo, nas odrešila vsega dolgočasnega dela, rešila podnebno krizo, pozdravila raka, človeštvu pomagala vzpostaviti vesoljske kolonije in še marsikaj – naštevanje njihovih domišljijskih floskul o čudežnih potencialih umetne inteligence bi zlahka zapolnilo preostanek pričujočega članka, naštevanje floskul o pogubnih scenarijih pa bi zapolnilo še enega. »Namesto razmišljanja o tem, kaj vse bo umetna inteligenca naredila v prihodnosti, se morate začeti spraševati, kaj lahko naredi danes,« zapiše Ed Zitron, eden najostrejših kritikov umetne inteligence. In doda: »Tvegani kapital, ki obupano išče naslednji veliki rastoči trg, je podjetja, kot sta OpenAI in Anthropic, spodbudil, da gradijo večje modele in prodajajo še večje sanje.« Vsekakor gre pozdraviti Amodeieve pozive k strožji regulaciji razvoja umetne inteligence in poenotenju varnostnih standardov v industriji, ter tudi predloge, da se v razvoj vključijo neodvisni ocenjevalci, ki bi sproti preverjali, ali se podjetja držijo pravil, ki jih določa regulacija. Navidezno so dobrodošle tudi njegove pobude k upočasnitvi razvoja, ki poteka tako naglo, da ga ne dohajajo niti tisti v osrčju industrije, a pri vsem skupaj moramo biti skeptični do njegovih vzgibov. Ti gotovo ne izhajajo iz človekoljubnosti, temveč predvsem iz lastnih interesov, iz gole preračunljivosti, iz želje po ohromitvi konkurence: če bo predlagane omejitve prisiljena sprejeti celotna industrija, bodo vodilni akterji lažje ohranili prednost pred manjšimi tekmeci.

Zakaj tehnološki mogotci razvijajo tehnologijo, za katero so prepričani, da bo pogubila človeštvo? Če so njihovi najnaprednejši modeli res tako nevarni, kot trdijo, jih nihče ne ovira, da razvoja preprosto ne upočasnijo sami.

Absurdna situacija odpira zelo očitno vprašanje: zakaj tehnološki mogotci razvijajo tehnologijo, za katero so prepričani, da bo pogubila človeštvo? Nekateri verjamejo, da njenega prihoda ni mogoče preprečiti, drugi se bojijo, da bi jo brez njihovega sodelovanja razvili manj previdni tekmeci, saj so prepričani, da morajo sami sedeti za krmilom. A če so njihovi najnaprednejši modeli res tako nevarni, kot trdijo, jih nihče ne ovira, da razvoja preprosto ne upočasnijo sami.