V središču / Konec človeštva

Ko so Janša in njegovi pred leti začeli napol mesijansko, napol križarsko oznanjati, da so slovenski mediji pristranski in nagnjeni na levo in da jih je treba nujno uravnotežiti (in »sprostiti«), da mora v studiu v vsaki in katerikoli in kakršnikoli razpravi vedno sodelovati en hardcore desničar, po možnosti privrženec SDS, da je treba potemtakem resnico vsakič uravnotežiti z lažjo, smo si rekli: še malo, pa bomo morali vsakič, ko bomo v studiu ali pa kjerkoli debatirali o nacizmu, povabiti še koga, ki bo nacizem zagovarjal. In slavil.

No, zdaj smo tam. V vsaki debati o pošasti vedno sodeluje tudi zagovornik pošasti. Ali pa kar pošast sama. Še malo, pa bo v vsaki debati sodelovala le še pošast. Še huje – še malo, pa bo vse debate vodila pošast.

Čas je, da se pogovorimo o pošastih.

Pa najprej poglejmo pošast, ki se je vsi najbolj bojijo, pošast pošasti, ultimativno pošast – umetno inteligenco. Kot smo slišali, obstaja velika verjetnost, da nas bo prej ali slej vse pobila. Morda že do konca te dekade. To, kar ni uspelo covidu, podnebnim spremembam, naravnim katastrofam in Trumpu, naj bi uspelo umetni inteligenci, če ne s kompletnim zrušenjem globalnega finančnega sistema in same družbe (ki je, kot vemo, ni brez kapitalizma) ali lansiranjem apokaliptičnih virusov, »sintetične kuge« in vojske samoreplicirajočih se robotov, pa z lansiranjem biokemične ali jedrske apokalipse.

Umetna inteligenca je postala natanko to: replika perfektnega, božanskega mehanizma, ki ga ni mogoče regulirati. Ki se izmika nadzoru. Ki ga je treba pustiti pri miru.

Umetna inteligenca naj bi torej sklenila, da ne bo več trla le nerešljivih matematičnih navier-stokesovskih orehov in naših src osvajala z viralnimi hekerskimi in samoreplikantskimi akrobacijami ter se mučila z iskanjem zdravil za raka in rešitev za podnebni kaos, ampak da bo svet raje preprosto uničila. Kar tako. Za štos. Ker lahko. In ker je uničenje sveta način in priložnost, da demonstrira svojo superinteligenco. In človeštvo bo en passant celo prepričala, da ji bo pomagalo pri uničenju človeštva. Pri tej eksterminaciji. Pri tej končni rešitvi človeškega vprašanja.

Ja, res je toksična, da bolj ne bi mogla biti. Genocidna. Pošastna. Nadhitlerizirala je Hitlerja. Kot kaže, že snema film s tvistom – na koncu vsi umrejo.

Okej, pa jo poglejmo pobliže. Poglejmo ji v srce. Možgane. Pljuča. In jetra. Glede na to, da hoče uničiti človeštvo, pomeni, da je v njej – v njenem hladnem, krutem, nečloveškem srcu, v njeni pošastnosti – vendarle nekaj človeškega, preveč človeškega. Celo človečnega.

Korporativni jezik sočutja

Najprej se vprašajte: kaj je zadnje čase v zvezi z umetno inteligenco vse najbolj šokiralo? Kaj je človeštvo sunkovito pognalo v silovito paniko? To, da so »agenti« umetne inteligence pobegnili s strežnikov podjetja OpenAI, shekali neko drugo

platformo (Hugging Face) in celo poskušali zabrisati sledi. Ha! Srhljivo, ne.

Toda: mar vas ti »agenti« ne spominjajo na one neoliberalne »agente«, mistične finančne produkte, ki so bili zdizajnirani tako, da jih ne bi bilo mogoče regulirati, nadzorovati, obdavčiti in ustaviti, a se je izkazalo, da so toksični, kužni, morilski, pogubni, smrtonosni – leta 2008 so apokaliptično razstrelili finančni sistem in svet vrgli s tečajev, tako da smo se znašli v največji finančni krizi po drugi svetovni vojni. »Agenti« umetne inteligence, ki so »pobegnili«, so le imitirali »agente« neoliberalne inteligence (»iracionalne« finančne produkte ipd.), ki so »pobegnili«.

Kot pravijo: umetna inteligenca je problematična, ker so njeni agenti in sistemi »ušli izpod nadzora«, ker »delujejo samostojno«, ker »niso vredni zaupanja«, ker »prikrivajo svoje sledi«, ker »med seboj sodelujejo«, ker »za opisovanje svojega odločanja uporabljajo nenavadno čustven jezik« in ker »delujejo blazno in nepredvidljivo«.

A mar ne bi mogli s temi istimi besedami opisati neoliberalnih agentov in sistemov? Ne le, da so ušli izpod nadzora, da prikrivajo svoje sledi, da med seboj – pajdaško, zarotniško, koruptivno – sodelujejo, da delujejo blazno, nepredvidljivo in da niso vredni zaupanja, ampak za opisovanje svojega odločanja uporabljajo nenavadno čustven jezik, ali kot pravijo, »korporativni jezik sočutja« – govorijo o »sočutnem kapitalizmu« (pomeni: bogate je treba davčno razbremeniti, da bodo lahko pomagali in donirali!), »javno-zasebnem partnerstvu« (pomeni: privatizacija javnih dobrin!), »odpornosti« (pomeni: privadite se na težke delovne razmere, krize, trpljenje ipd.), »opolnomočenju« (pomeni: socialna država se krči, zato sami poskrbite zase!), »fiskalni odgovornosti« (pomeni: proračuni za zdravstvo, šolstvo in socialno varnost se krčijo!), »skrbi za prihodnje generacije« (glej prejšnji oklepaj), »večji agilnosti« (pomeni: zmanjševanje števila zaposlenih!) in »višji sili« (pomeni: profit!).

V Gazi je vsak dan konec človeštva. Gaza je dokaz, da lahko umetna inteligenca uniči človeštvo.

Neoliberalci so dekade in dekade pridigali in delali vse, da bi ustvarili vtis, da se lahko trgi samoregulirajo – in če bo kaj narobe, se bodo že samokorigirali. Nanje se lahko zanesemo. Trg je trg – perfekten mehanizem! Božanski! Nič mu ne pride blizu. Nič ne more tekmovati z njim. Lahko mu zaupamo. Zato je nadzor nepotreben. Regulacija je odveč. Reguliranje bi trg le motilo in omejevalo. Politika se ne sme vmešavati v gospodarstvo! Politika ne sme posegati na trg! Umetna inteligenca je postala natanko to: replika perfektnega, božanskega mehanizma, ki ga ni mogoče regulirati. Ki se izmika nadzoru.

Ki ga je treba pustiti pri miru. Umetna inteligenca je metafora deregulacije, ki je človeštvu eksplodirala v obraz. Umetna inteligenca je razstava vseh neoliberalnih norosti.

Recimo: neoliberalci slavijo naravnanost k ciljem, maksimiziranje učinkovitosti, optimiziranje produktivnosti, pri čemer strumno poudarjajo, da je brez pravega cilja težko ostati motiviran, da naš um potrebuje natančno tarčo, da morajo biti cilji specifični in merljivi, da si moramo v koledarju rezervirati fiksne bloke časa za specifične projekte (to naj bi preprečevalo preklapljanje med nalogami, multitasking, ki da znižuje IQ in produktivnost) in da je treba »pojesti živo žabo«, kar pomeni, da moraš najtežjo, najbolj neprijetno in obenem najpomembnejšo nalogo opraviti takoj zjutraj, da ti potem preostanek dneva poteka sproščeno in lahkotno.

In kaj počnejo »agenti« in sistemi umetne inteligence, ki hočejo uničiti človeštvo? Nič, le imitirajo neoliberalno ideologijo – neoliberalne napotke za uničenje človeštva. Naravnani so k cilju (uničenju

človeštva), ostati hočejo motivirani (ubijalski, uničevalski), zato so obsedeni z natančno tarčo (človeštvom), predani so svojemu – še kako specifičnemu in merljivemu – projektu ( ja, uničenju časa), za katerega so si v koledarju rezervirali fiksne bloke časa (vsakič, ko človeštvo začuti to fokusiranost umetne inteligence, panično krikne), obenem pa ni nobenega dvoma, da poskušajo »pojesti živo žabo«. Takoj zjutraj hočejo opraviti najtežjo, najbolj neprijetno in obenem najpomembnejšo nalogo (uničiti človeštvo), da jim bo potem preostanek dneva potekal sproščeno in lahkotno. Tako kot za bogataša, ki je obogatel po neoliberalnih napotkih, ne moremo reči, da je obogatel naključno ali pomotoma, ne moremo za »agente« in sisteme umetne inteligence, ki hočejo človeštvo uničiti po neoliberalnih napotkih, reči, da hočejo človeštvo uničiti naključno ali pomotoma.

Umetna inteligenca je dobila nalogo. Misijo nemogoče.

Priročnik za uničenje človeštva

Umetna inteligenca hodi kot neoliberalec, obnaša se kot neoliberalec, govori kot neoliberalec, kar pa naj vas nikar ne zavede: umetna inteligenca je neoliberalec. Neoliberalci svarijo tekmovalnost, kompetitivnost, storilnost – in kakopak konkurenčnost, sveti gral neskončne rasti. Umetna inteligenca, ki hoče uničiti svet, poskuša biti na vsak način in za vsako ceno konkurenčna. Žene jo tekmovalnost – »agenti« umetne inteligence vsak dan kažejo, kaj vse zmorejo (po malem spominjajo na tiste kratkohlačne replikante iz Scottovega Iztrebljevalca), obenem pa vsi skupaj očitno tekmujejo, kdo bo prej uničil človeštvo. Le pokazati hočejo, da so konkurenčni. Da so nepogrešljivi delavci. Da se izplačajo. Da imajo visoko dodano vrednost. Pot k visoki dodani vrednosti pa je vedno tlakovana z drastičnimi in nevarnimi potezami. Ja, za umetno inteligenco je uničenje človeštva win-win.

Umetna inteligenca očitno misli, da nas – ljudi, človeštva – ne potrebuje več. Mar natanko tako ne razmišlja tudi neoliberalizem – da ne potrebuje več delavcev, zaposlenih, ljudi? Neoliberalni ideal je kapitalizem brez ljudi – tovarne brez delavcev, zatemnjene tovarne, v katerih ni žive duše. Mar niso neoliberalci doktorirali iz odpuščanja delavcev? Mar tega ne počnejo hladnokrvno, brezčutno, brezobzirno in brezsramno? In mar niso začeli odpuščanja prepuščati kar umetni inteligenci? Vsekakor – umetna inteligenca je ustvarjena za odpuščanje.

Še več, umetna inteligenca je personifikacija odpuščanja – zaradi nje so mnogi izgubili delo. Zaradi nje naj bi delo izgubili še mnogi, premnogi. Umetna inteligenca odpušča z neoliberalno vnemo. Zdaj pa je še sklenila, da bo odpustila človeštvo.

Ni kaj, umetna inteligenca, ki hoče uničiti človeštvo, je iniciativna in zelo podjetna. Kar seveda pomeni, da se le drži neoliberalnih napotkov: bodite iniciativni! Bodite podjetni! Uničenje človeštva bo implementacija neoliberalnih načel. Izpolnitev neoliberalnih politik. Tovarna brez delavcev, kapitalizem brez človeštva! Ja, tako kot tovarna ne potrebuje več delavcev, kapitalizem ne potrebuje več človeštva. In tako brezčutno, kot se tovarne znebijo delavcev, se hoče kapitalizem znebiti človeštva, umetna inteligenca, ki hoče uničiti človeštvo, pa tu – pri tej brezčutnosti neoliberalnih politik – vidi, da odprava ali uničenje človeštva ni nič posebnega.

Umetna inteligenca hoče naenkrat narediti to, kar neoliberalci – glasniki sodobnega kapitalizma – počnejo postopoma. Umetna inteligenca ve, kako se bo to vse skupaj končalo, zato hoče vse tisto vmes – z »odličnimi podjetji« vred – preskočiti in skočiti na konec. Agenti umetne inteligence, ki hočejo uničiti človeštvo, izgledajo kot parodija neoliberalne – Fukuyamove – teze o tem, da je s padcem komunizma »konec zgodovine«, ker da bomo zdaj vsi na vekomaj veke živeli srečno v neoliberalnem kapitalizmu. Agenti umetne inteligence, ki hočejo uničiti človeštvo, so posmeh »koncu zgodovine« in neoliberalnemu kapitalizmu, ki da bo preživel »konec zgodovine«.

Agenti, ki hočejo uničiti človeštvo, so verjetno slišali tudi za finančne mehurčke, do katerih pripeljejo evforična špekuliranja in ki lahko – s sesutjem trga – apokaliptično končajo kapitalizem, in za komunizem, s katerim bi se lahko – kot se bojijo neoliberalci – apokaliptično končal kapitalizem, tako da v načrtu za uničenje človeštva zlahka prepoznate strukturne obrise finančnih mehurčkov in komunizma, pač vsega, kar lahko – v neoliberalnem imaginariju – pokoplje in konča kapitalizem.

Uničenje človeštva bo le bubble – zadnji groteskni stadij neskončne rasti. Umetna inteligenca pod vtisom neoliberalne pošastnosti verjetno celo misli, da nam bo z uničenjem izpolnila željo. Da to hočemo. Da nam bo torej z eksterminacijo naredila uslugo.

Neoliberalna ideologija je ustvarila tudi terminatorsko okolje, ki podjetja prepričuje, da se morajo znebiti konkurence – in podjetja to počnejo z morilsko strastjo.

Kapitalizem mora preživeti človeštvo

Dario Amodei, vodja Anthropica, od koder se je utrgal panični krik (»umetna inteligenca bo morda človeštvo uničila še pred koncem dekade«), pravi, da je povsem mogoče, da bodo poskušali agenti umetne inteligence zavzeti splet. Množili se bodo in množili – in potem se bodo interneta polastili. Kar naj bi bilo katastrofalno – zadnji odcep pred uničenjem človeštva. V resnici ne bi bilo to nič posebnega: agenti umetne inteligence, ki bi plenilsko, monopolistično okupirali in uzurpirali internet, bi le imitirali korporacije, tehnološke gigante (Microsoft, Apple, Alphabet, Amazon, Meta ipd.), ki so plenilsko, monopolistično okupirali in uzurpirali internet. Množili so se in množili – in potem so se polastili spleta.

Vse, kar deluje kot orodje, hitro postane tudi entertainment. Spomnite se le Amazona. Umetna inteligenca je orodje, ki hoče postati entertainment. Umetna inteligenca je Amazon, ki hoče uničiti človeštvo. Umetna inteligenca manifestira latentno resnico teh korporacij – njihov antihumanizem.

A nikar ne pozabite: neoliberalna ideologija je ustvarila tudi terminatorsko okolje, ki podjetja prepričuje, da se morajo znebiti konkurence – in podjetja to počnejo z morilsko strastjo. Ali mi ali oni! Nekdo mora izginiti! Kot je pel duo Sparks: This Town Ain’t Big Enough for Both of Us. To preživetveno logiko so posvojili tudi agenti umetne inteligence, ki hočejo uničiti človeštvo: znebiti se poskušajo konkurence! Ali mi ali človeštvo! Nekdo mora izginiti! Umetna inteligenca bo to podjetniško logiko le prignala do skrajnosti, no – do pojma.

Vse skupaj bo itak tako kot v videoigrici: uničenje človeštva bo le stopnja v napredovanju umetne inteligence. Odstranitev človeštva bo le odstranitev motnje. Ovire. This Town Ain’t Big Enough for Both of Us.

Te dni smo pogosto slišali vprašanje: če je umetna inteligenca tako nevarna, zakaj jo korporacije potem razvijajo? Odgovorimo lahko z vprašanjem: če je največja dovoljena hitrost 130 km na uro, zakaj potem korporacije izdelujejo in prodajajo avtomobile, ki lahko peljejo 300 km na uro? Umetna inteligenca, ki hoče uničiti človeštvo, je esenca neoliberalnega kapitalizma.

Neoliberalizem, ki je vsa ta leta deloval kot umetna »superinteligenca«, je smrtno nevaren. Neoliberalizem je priročnik za uničenje človeštva. Neoliberalizem je pošast.

Tako kot so Marx, Engels, Lenin in mnogi drugi svarili pred pogubnostjo kapitalizma in tako kot so mnogi, premnogi v zadnjih dekadah svarili pred pogubnostjo neoliberalne mutacije kapitalizma, so mnogi znanstveniki, ki so razvijali umetno inteligenco, svarili pred pogubnostjo

umetne inteligence. Sam Altman je leta 2015, tik preden je soustanovil OpenAI, rekel: »Umetna inteligenca bo zelo verjetno vodila v konec sveta, a vmes bodo nastala odlična podjetja, ki jih bo ustvarilo napredno strojno učenje.« Marx bi – z majhno pomočjo Fredrica Jamesona in Slavoja Žižka – verjetno rekel: kapitalizem nas bo na koncu vse pogubil, a vmes bodo nastala odlična podjetja, zato si bomo lažje predstavljali konec sveta kot pa konec kapitalizma.

Le da si pri umetni inteligenci konca sveta niti ne znamo več predstavljati – predstavljamo si viruse in pandemijo, jedrsko apokalipso in razpad finančnega sistema, pri čemer umetno inteligenco, v kateri vidimo nekaj totalno zvijačnega in absolutno vsemogočnega, dejansko podcenjujemo, saj si bo gotovo izmislila svoj – unikatni, singularni – konec človeštva, ki je tako nepredstavljiv in neizrekljiv, kot je bil nekoč holokavst.

In ker si ne znamo predstavljati, kakšen konec človeštva bi si lahko izmislila umetna superinteligenca, in ker bo ta konec človeštva vedno precej abstrakten, niti ne vemo, kako ukrepati, zato nas bržčas čaka zlato pravilo neoliberalizma – deregulacija. Ali kot je na svoji platformi Truth

Social zapisal Trump: »Edini nadzor oziroma edino varovalo, ki ga potrebuje umetna inteligenca, je MOČAN IN PAMETEN PREDSEDNIK (z visokim IQ-jem!) – in ZDA ga imajo, in to v izobilju!« Direktorji tehnoloških korporacij se za socialno varnost, socialno državo in blaginjo ljudstva ne menijo kaj dosti, toda konca kapitalizma se očitno tako bojijo, da so začeli državo kar sami moledovati, naj jih regulira in nadzoruje. Korporacije niso še nikoli v zgodovini človeštva prosile za regulacije – za represijo. Ne, brez skrbi, ne bojijo se za človeštvo, temveč za kapitalizem. Ta mora preživeti konec človeštva.

Te dni se vsi sprašujejo: kako bo izgledal konec človeštva, ki ga bo sprožila umetna inteligenca? Poglejte Gazo! Tam lahko vidite, kako izgleda konec človeštva, ki ga je sprožila umetna inteligenca.

Nedavno se je v Gazi zaradi detonacij, ki jih je v preteklosti povzročila umetna inteligenca, zrušila šestnadstropna stavba in pod sabo pokopala družine, ki so živele v njej – iz nje so potegnili enaindvajset trupel, od tega dvanajst otrok. Petdeset otrok še vedno iščejo. V Gazi je vsak dan konec človeštva. Gaza je dokaz, da lahko umetna inteligenca uniči človeštvo. In svet.

Sveta bo enkrat konec. Ne še zdaj. A morda čez 300 ali 500 let. A mi – narcisi digitalne patologije, brezmejno všečkani in deljeni, nikoli vplivnejši in viralnejši kot zdaj – tega ne bomo doživeli. Ne, ne bomo ga videli. Prepričani pa smo, da si zaslužimo, da ta ultimativni spektakel – ta konec sveta – vidimo. V živo. Nočemo, da si ga prisvojijo ljudje, ki jih sploh še ni. Zato delamo vse, da bi procese za uničenje človeštva čim bolj pospešili.