Nekoč sem malo gnjavil chat GPT, in ko sem mu napovedal zadnje vprašanje, je rekel: hvalabogu. To ni bila običajna halucinacija tega izuma – bilo je nekaj med olajšanjem in posmehovanjem.
ŽELITE ČLANEK PREBRATI V CELOTI?
Celoten članek je na voljo le naročnikom. Če želite zakupiti članek, je cena 4,5 EUR. S tem nakupom si zagotovite tudi enotedenski dostop do vseh ostalih zaklenjenih vsebin. Kako do tedenskega zakupa?
Nekoč sem malo gnjavil chat GPT, in ko sem mu napovedal zadnje vprašanje, je rekel: hvalabogu. To ni bila običajna halucinacija tega izuma – bilo je nekaj med olajšanjem in posmehovanjem.
Umetna inteligenca zbuja mešane občutke. Nekam nenaravno je, da te v nekaterih pogledih prekaša nekaj, kar je človekov izdelek, pa tudi to, da se lahko z nečim, kar ni živo, pogovarjaš, kot da bi bil človek. Zadaj je pri kom tudi malo pritajenega strahu, v kaj se bo razvila ta stvar, razvija pa se hitro.
In nas po malem spreminja. Nekatera opravila nam lajša, hkrati nas dodatno osameva, vleče v svoje mehurčke, nam pomaga pri delu, a nas tudi dela miselno lene. Najbolj spreminja svet dela, vdira v številne poklice, celo ustvarjalne in umetniške, in tako ogroža tudi srednji razred, ki naj bi bil temelj stabilne družbe. Prinaša izboljšave v medicini, vendar hkrati nova strašna orožja. Itd., itd.
Ker to digitalno revolucijo vodi kapital in ker se dogaja v neokapitalizmu, ki daje prednost zasebnemu, ne pa javnemu in skupnemu, bo umetna inteligenca še povečala socialne in razvojne razlike v posamičnih družbah in med državami. Vanjo se ta čas stekajo ogromni denarji in razvoj se nenehno pospešuje, ker ga poganjajo finančne špekulacije, tekmovanje med tehnokorporacijami in med Ameriko in Kitajsko.
Morda res lahko govorimo o času pred umetno inteligenco in po njej. Ne vemo pa, ali gre za veliko ali kar usodno prelomnico. Prvič zato, ker ne moremo napovedati lastnega ravnanja (o naši nepredvidljivosti dovolj povedo vojne), drugič zato, ker ne vemo dobro, kaj razvijamo v kaj. Umetna inteligenca se bistveno razlikuje od prejšnjih tehnoloških preskokov (kolesa, parnega stroja, elektrike, jedrske energije …). Nobeden od teh ni niti poskusil dopolniti ali celo prekositi človekove inteligence. Zdaj z njeno umetno varianto dobivamo tekmeca, ki zna celo govoriti in kazati ali hliniti čustva. Manj unikatni postajamo.
Za zdaj umetno inteligenco še usmerjamo in nadzorujemo, vendar se mrzlično trudimo, da bi nas dosegla in prekosila. In tu se – na ozadju splošne črnogledosti glede prihodnosti – dvigajo strahovi, da je ta izum nevaren sam po sebi. Da se bo umetna inteligenca nekako osamosvojila, nam ušla izpod nadzora, pri tem pa ne bomo vedeli, kakšna je.
Take bojazni je mogoče odpraviti kot samopropagando digitalne industrije; tudi tako si poje hvalo, povzdiguje svojo stvaritev in jo predstavlja kot vsemogočno. Sam Altman, glavni pri Open AI, pravi, da umetna inteligenca napreduje tako hitro, da ga bo lahko kmalu nadomestila.
Deloma gre res za nekakšno digitalno magijo, samohvalo in privabljanje naložb v domnevno čudežni izum. Po drugi strani nekateri vrhunski strokovnjaki s tega področja zahtevajo, da se nebrzdani razvoj upočasni in regulira. A so vedno znova preslišani. Joshua Bengio, znan kot oče umetne inteligence, pravi, da je še sendvič bolj reguliran.
Za zdaj ostaja umetna inteligenca omejena in nadzorovana tehnologija. Toda nadaljuje se lov za slovito AGI – tako imenovano splošno umetno inteligenco, nekakšno superinteligenco, ki bi bila povsem enakovredna človekovi pameti. Preskok do AGI bi bilo morda mogoče doseči s tem, da bi umetni inteligenci dali avtonomijo, ji prepustili, da se sama uči, si sama postavlja cilje in se prilagaja, pravi Jared Kaplan, glavni znanstvenik in solastnik Anthropica. Smo pred veliko, kočljivo odločitvijo, trdi, dodeljena avtonomija lahko prinese blagodejno »eksplozijo inteligence« ali pa trenutek, ko bo človeštvo izgubilo nadzor nad svojim izumom.
Če so taka svarila kolikor toliko utemeljena, izrekajo pa jih neredki resni poznavalci, se gremo velik tehnološki, družbeni in kar eksistenčni eksperiment, ki nas lahko ogrozi ali celo uniči. Uniči nas lahko tudi jedrska energija, a samo, če jo bo zlorabil človek. Tu pa ustvarjamo tehnologijo, za katero ne vemo, v kaj se lahko samorazvije, če ji bomo to dovolili. Kaj bo, če bo dosegla zaželeno stopnjo, AGI: služabnik, gospodar, partner? In ali bo to sploh še tehnologija ali že neko po svoje živo bitje? Kaj je ena osnovnih značilnosti živih bitij? Samoohranitveni nagon. Po malem ga kaže že sedanja, neavtonomna umetna inteligenca: nekateri najsodobnejši modeli včasih sabotirajo programiranje, ki naj bi zagotovilo, da jih ljudje lahko izklopijo.
In kaj bo, če bo AGI, osamosvojena, ozaveščena, superpametna in taka, da se ne bo dala izklopiti, razsodila, da jo ogrožamo? Se bo z nami spopadla, nas uničila ali podredila, ker nas bo še potrebovala. Ali pa bo taka, da bomo z njo zaživeli v harmoniji?
Umetna inteligenca je nova samoumevnost, hkrati pa neznanka, obet in nevarnost sočasno. Za AGI ni nujno, da kdaj sploh bo, lahko pa nastane in bo za nas morda slaba. Razvoj je nenadzorovan, hiter, potencialno tvegan in po svoje bi bilo najbolje, da bi orjaški in najbrž prenapihnjeni finančni balon, ki ga poganja, počil in razvoj ustavil. Tehnokorporacije in politika ga očitno ne bodo. Nevarnosti se, podobno kot pri podnebni krizi, deloma zavedamo, a prisila družbene urejenosti nas žene naprej po utečenih tirnicah. Tehnologija in napredek sta izmuzljiva, dvorezna pojma. Morda se je bolje zadovoljiti z lastno pametjo.
Pisma bralcev pošljite na naslov pisma@mladina.si.
Preberite tudi