V središču / Umazani posli

Podjetje OpenAI, ki je ustvarilo veliki jezikovni model ChatGPT, že od prvih korakov vztraja, da je njegovo »osnovno poslanstvo zagotoviti, da umetna inteligenca koristi vsemu človeštvu«. Kaj je blaginja človeštva, je očitno precej širok pojem, in kot kaže, so mogoče zelo različne razlage. Zaslužki od naročnin na ChatGPT med drugim finančno napajajo Trumpov režim, ChatGPT opravlja pomembno vlogo pri iskanju novih zamaskiranih rekrutov agencije ICE, za nameček pa je OpenAI te dni sklenil kupčijo s Pentagonom, s katero je vstopil v oboroževalno tekmo jutrišnjega dne, ki jo poganjajo inovacije pri razvoju umetne inteligence.

Pred nedavnim so Grega Brockmana, predsednika podjetja OpenAI, v intervjuju za revijo WIRED povprašali, zakaj je daroval 25 milijonov ameriških dolarjev Trumpovemu (super)odboru za politično akcijo MAGA Inc. Odvrnil je, da je »namen donacije podpreti ustanovno poslanstvo podjetja OpenAI: razviti izjemno zmogljive sisteme umetne inteligence in zagotoviti, da ti koristijo celotnemu človeštvu«.

A vzgib za donacijo je pravzaprav preračunljivost: javno mnenje se je v zadnjem času odločno obrnilo proti umetni inteligenci, zato je za like, kakršen je Brockman, ključno podpiranje političnih akterjev, ki zagovarjajo karseda razrahljan nadzor nad njo. To še dodatno potrjuje dejstvo, da je enak znesek sočasno namenil še enemu odboru za politično akcijo, imenovanemu Leading the Future, ki se osredotoča na lobiranje za politične ukrepe, usmerjene v oslabitev nadzora nad panogo umetne inteligence. Namen odbora, ki je doslej zbral že 125 milijonov ameriških dolarjev, je preprečiti, da bi posamezne ameriške zvezne države uvajale lastne omejitve razvoja umetne inteligence, saj naj bi to po mnenju poslovnežev oviralo tehnološki razvoj. Nizozemski zgodovinar Rutger Bregman, eden od glavnih pobudnikov bojkota jezikovnega modela ChatGPT, je za časnik The Guardian pripomnil, da odbor napada vsakega politika, ki se zavzema za strožjo zakonsko ureditev. »Želi, da pravila za najmočnejšo tehnologijo na svetu določi Trump – in nihče drug,« pravi in opozori, da naročnine na ChatGPT polnijo blagajno podjetja, ki se vse bolj prepleta z represivnim aparatom Trumpove administracije. »To ni teorija zarote. To je poslovni načrt.«

ChatGPT finančno napaja Trumpov režim, pomembno prispeva k delovanju agencije ICE, te dni pa je podjetje OpenAI prek Pentagona vstopilo še v oboroževalno tekmo jutrišnjega dne.

Da je Greg Brockman postal najradodarnejši mecen v zadnjem Trumpovem ciklu zbiranja donacij, ni edini razlog za uspešnost pozivov k bojkotu jezikovnega modela ChatGPT. V nekaj mesecih se mu je pridružilo že več milijonov (nekoč zvestih) uporabnikov, to število pa naglo narašča z vsako vestjo o umazanih poslih podjetja OpenAI, ki privre na površje, in resnično se te vesti pojavljajo kot gobe po dežju. Med drugim se je izkazalo, da zvezna agencija ICE, služba za priseljevanje in carine, ki iz ZDA agresivno izganja priseljence in nasilno obračunava s protestniki, tako da sta januarja v Minneapolisu pri tem umrla dva človeka, pri iskanju rekrutov za maskirano milico uporablja sistem umetne inteligence, ki ga poganja ChatGPT.

Verjetno najbolj umazan posel podjetja doslej, ki zares zgovorno priča, da je človekoljubno poslanstvo zgolj piarovska puhlica in popolna izmišljotina, je kupčija, ki jo je OpenAI pred nedavnim sklenil s Pentagonom. Doslej je poleg razvpitega podjetja Palantir pri razvoju naprednih sistemov za ameriško vojsko, ki jih poganjajo inovacije pri razvoju umetne inteligence, sodelovalo podjetje Anthropic. A v pogodbo med Anthropicom in ameriškim obrambnim ministrstvom je bila vključena klavzula, ki je preprečevala rabo Anthropicovih modelov za razvoj sistemov množičnega nadzora in avtonomnega orožja, s katerimi se tarča izbere in umori brez posega človeške roke. Ameriški obrambni minister Pete Hegseth je podjetju Anthropic zato postavil ultimat: če Pentagonu ne dovoli proste rabe svojih sistemov umetne inteligence, bo vlada prekinila sodelovanje z njim. Anthropic ni popustil. Kot je dejal njegov izvršni direktor Dario Amodei, »nam vest ne dopušča, da bi ugodili takšni zahtevi«. Pentagon s tem seveda ni bil zadovoljen, zato je Donald Trump Anthropic označil za tako imenovano »tveganje v dobavni verigi« (angl. »supply chain risk«, op. p.), kar je oznaka, ki vsem zveznim agencijam in pogodbenim izvajalcem za vojsko preprečuje rabo njegovih sistemov. Takšna prepoved je sicer navadno rezervirana zgolj za tuja podjetja, najpogosteje kitajska, zato gre za sila nenavaden ukrep, ki te dni zbuja precejšnjo pozornost v medijski krajini.

Ko je Anthropic odklonil nadaljnje sodelovanje z ameriško vojsko, se je izpraznilo mesto in brez pomislekov ga je zasedel njegov tekmec OpenAI. Slabih 900 sedanjih in nekdanjih uslužbencev tega podjetja in Googla je v tem času podpisalo peticijo, ki nasprotuje vstopu podjetja na polje militarizacije. V njej so med drugim poudarili, da se »Pentagon pogaja z OpenAI, da bi ta privolil v kupčijo, ki jo je Anthropic zavrnil«. Po ogorčenem odzivu javnosti in nekaterih uslužbencev podjetja je tudi njegov izvršni direktor Sam Altman izrazil nasprotovanje temu, da se sistemi umetne inteligence podjetja OpenAI uporabljajo za množični nadzor nad Američani in razvoj avtonomnega orožja. Toda s Pentagonom je kljub temu sklenil pogodbo, ki dovoljuje 

rabo sistemov umetne inteligence družbe OpenAI za »kakršnekoli zakonite namene«. Ime in vest si skuša oprati z vztrajnim poudarjanjem, da so v pogodbo vključene nekatere tehnične varovalke, ki naj bi preprečevale zlorabe, toda takšni mehanizmi v praksi pogosto ne delujejo zanesljivo, saj obstaja več načinov, kako jih zaobiti. Gre torej le za kozmetično olepšavo pogodbe s hudičem, Altman pa se je izkazal za priložnostnega vojnega dobičkarja brez etičnih načel, s katerimi se sicer rad ponaša pri piarovskem bahanju. To potrjuje tudi eksodus nekaterih uslužbencev, denimo znanstvenice Caitlin Kalinowski, ki je v podjetju vodila oddelek za robotiko in strojno opremo. S položaja je protestno odstopila in pri tem tvitnila, da sta »nadzor nad Američani brez sodne odločbe in smrtonosno avtonomno orožje brez človeškega soglasja meji, o katerih je potrebnega bistveno več premisleka, kot sta ga bili deležni«.

Veliki bojkoti v zgodovini niso bili uspešni, ker bi milijoni ljudi nenadoma postali herojski aktivisti. Majhen korak, ponovljen v velikem številu, povzroči politični potres.

Zdi se, da je bila pogodba s Pentagonom za OpenAI strel v koleno. Uporabniki so ChatGPT že prej množično bojkotirali zaradi njegovih povezav s Trumpom in agencijo ICE, njihovo število pa se je po podatkih števca pobude QuitGPT, glavnega akterja v pozivu k bojkotu, od tedaj skorajda podvojilo. Po njegovih podatkih naj nas bi bilo že več kot štiri milijone. A ker ima ChatGPT skoraj 900 milijonov tedenskih uporabnikov, 50 milijonov pa jih plačuje naročnino, se zdi to le kaplja v morje. Ima bojkot sploh lahko kakršenkoli učinek?

Prej omenjeni Rutger Bregman, ki postaja prava maskota bojkota, je optimističen. Prepričan je, da je podjetje OpenAI popolna tarča potrošniškega bojkota, saj je izjemno ranljivo: za vsak ameriški dolar, ki ga zasluži, naj bi porabilo tri, njegov tržni delež pa se je v enem letu z 69 odstotkov zmanjšal na 45 odstotkov. »Investitorji spremljajo število naročnikov kot jastrebi. Vsaka odpoved naročnine šteje,« pravi. »Veliki bojkoti v zgodovini niso bili uspešni zato, ker bi milijoni ljudi nenadoma postali herojski aktivisti. Uspešni so bili, ker je nakup druge blagovne znamke kave ali izbira drugega piva nekaj, kar lahko naredi vsak. Majhen korak, ponovljen v velikem številu, povzroči politični potres.«

To je ključno. Zvezo s ChatGPT je tako enostavno prekiniti, ker je na trgu ogromno drugih možnosti, ki opravljajo popolnoma isto funkcijo, pri čemer so nekateri jezikovni modeli še zmogljivejši – in številni manj sporni. Uporabniki najbolj množično migrirajo k Claudu, klepetalnemu robotu podjetja Anthropic, ki je po številu prenosov v ZDA prejšnji teden dejansko prehitel ChatGPT in si izboril mesto na najvišji stopnički. A obstajajo še boljše, bolj higienične možnosti, celo evropske. V tem najbolj izstopa Le Chat (fr. »mačka«, op. p.), jezikovni model francoskega podjetja Mistral AI, ki so ga ustanovili nekdanji uslužbenci Googlovega DeepMinda in Mete. Po zmogljivosti se lahko primerja z glavnimi akterji na trgu, kot sta ChatGPT in Claude, po hitrosti pa jih celo prekaša, saj je zmožen generirati do tisoč besed na sekundo. Čeprav Mistral AI ni popolnoma neodvisen od tehnoloških velikanov, ker ga z investicijami med drugim napajata Microsoft in Nvidia, pomeni odločilen korak proti evropski neodvisnosti v razvoju umetne inteligence. Seveda pa obstaja še tretja možnost: da sploh ne uporabljamo generativne umetne inteligence in se zadev lotevamo tako kot pred jesenjo 2022, ko smo še razmišljali s svojo glavo.