V središču / Dosmrtna zaloga brozge

OpenAI že od prvih korakov vztraja, da je njegovo temeljno poslanstvo »zagotoviti, da bodo sistemi umetne inteligence koristili celotnemu človeštvu«. V vmesnem času, ko pridno čakamo, da bodo ti napredni sistemi jutrišnjega dne, kot obljublja prvi mož podjetja Sam Altman, korenito izboljšali naše življenje, omogočili brezmejno blaginjo, nas odrešili vsega dolgočasnega dela, odpravili podnebno krizo in pozdravili raka, nas OpenAI vztrajno zalaga s tolažilnimi nagradami v obliki tega, kar gre podjetju najbolje od rok: robotov za množično proizvodnjo umetnointeligenčne brozge (angl. AI-slop, op. p.) – odvečne avdiovizualne navlake, ki je uzurpirala družbena omrežja.

Na začetku prejšnjega meseca je luč sveta ugledala najnovejša tovrstna stvaritev, napredni program za ustvarjanje sintetičnih, a skorajda fotorealističnih videov Sora2, ki ga je OpenAI v svet pognal sočasno z družbenim omrežjem Sora. To je videti kot kopija TikToka, le da gre za nenehno rastočo zbirko avdiovizualnih pomij, ustvarjenih z umetno inteligenco: ni več treba brezciljno drseti po neskončnem arhivu vsebin, ki jih ustvarjajo tiktokerji, temveč si lahko čas krajšamo z desetsekundnimi sintetičnimi smešnicami, ki jih na besedni ukaz (promt) kot po tekočem traku kleplje stroj. Možnosti so neskončne: odkar so množice Američanov dobile dostop do Sore, so splet preplavili denimo videi Michaela Jacksona, ki se v gozdu ljubkuje z grizliji, in selfiji Tupaca Shukurja, ki skupaj z Adolfom Hitlerjem beži pred tornadom. Na Sori je tudi ogromno neokusnih videov preminulega kozmologa Stephena Hawkinga med takšnimi in drugačnimi akcijami, kakršnih invalidna oseba s hudo nevrodegenerativno boleznijo ne bi mogla izvajati. To je tudi srž teh neduhovitih štosov, ki so se izpeli, še preden so se po spletu razširili kot požar: Hawking denimo v skejtparku izvaja osupljive akrobatske trike, z vozičkom dirka po trasi formule 1 in v ringu premikasti mojstre mešanih borilnih veščin.

Sora lahko izjemno prepričljivo, skoraj fotorealistično poustvari posameznika, pa naj bo ta mrtev ali živ. Pravzaprav daje prednost pokojnim, pri čemer njihovo zapuščino pogosto onečasti in skrči na kvaziduhovito, neokusno brozgo: OpenAI se je pred rafalom tožb zavaroval tako, da je onemogočil generiranje sintetičnih posnetkov javnih osebnosti, če te ne dajo soglasja, dovoljuje pa prosto ustvarjanje posnetkov zgodovinskih osebnosti, kar je ohlapna definicija za vse znane osebe, ki jih ni več med nami. Ravno zato te videe krasijo liki, kakršni so Jackson, Hawking, Tupac in Hitler, pogosto pa se iz onstranstva oglasijo tudi denimo princesa Diana, Amy Winehouse, Abraham Lincoln, Malcolm X in Martin Luther King Jr. Ta na Sori nastopa predvsem v različnih remiksih slovitega govora Sanjam, denimo v takšnem, kjer se med govorom vede kot opica. Kakor ugotavlja časnik The Guardian, »Sorin algoritem nagrajuje šokantno vsebino«.

Družbeno omrežje Sora združuje nekatere od najslabših razsežnosti sodobnega medmrežja: brezumno drsenje po neskončnem katalogu vertikalnih videov in poplavo avdiovizualne brozge.

Modus operandi družbenega omrežja Sora torej združuje nekatere od najslabših razsežnosti sodobnega medmrežja: doomscrollanje oziroma brezumno drsenje po neskončnem katalogu vertikalnih videov, in poplavo avdiovizualne brozge, ustvarjene z umetno inteligenco. Ker pa množice zaradi prevelike ponudbe počasi izgubljajo zanimanje za generično umetnointeligenčno brozgo, Sora ponuja tudi funkcijo, imenovano »cameo«, ki digitalni balast personalizira: enostavno skeniramo svoj obraz in postanemo »deepfake« protagonist nenavadnih videov, ki jih ustvarjamo bodisi sami bodisi to počnejo prijatelji, ki jim dovolimo rabo svojega obraza. Le kaj bi lahko šlo narobe?

Četudi Sora na prvi pogled deluje kot nedolžna igračka za kratkočasenje in množično proizvodnjo bizarnih videosmešnic, ima velik potencial za širjenje propagande, dezinformacij in lažnih novic, obogatenih z lažnim, a sila prepričljivim dokaznim gradivom. To sicer na splošno velja za vse sisteme generativne umetne inteligence, toda program Sora2, ki ga je Sam Altman opisal kot »najmočnejši domišljijski stroj vseh časov«, ustvarja tako prepričljive videoposnetke, da odslej na spletu resnično ne moremo več verjeti svojim očem. Ker pa marsikdo še vedno živi v prepričanju, da slika pove več kot tisoč besed, video pa več kot tisoč slik, so lahko zlorabe programa izredno večplastne, saj lažni videi, ustvarjeni s Soro, volivce zlahka zmedejo in zavedejo ter zbudijo dvome o tem, kaj je resnično in kaj ne.

Sora je na voljo šele dober mesec, a se je nemudoma izkazala kot uporabno orodje za kampanje blatenja političnih nasprotnikov. Mehanizem, ki naj bi preprečil sintetično imitiranje javnih osebnosti, očitno ne deluje najbolje. Na Irskem, kjer so konec oktobra potekale predsedniške volitve, je denimo krožil videoponaredek, ki je bil videti kot legitimen prispevek irske nacionalne televizije, v njem pa je prepričljiva deepfake imitacija kandidatke Catherine Connoly oznanila umik kandidature. »Z globokim obžalovanjem sporočam, da umikam kandidaturo in končujem kampanjo,« je v lažni odstopni izjavi povedal sintetični ponaredek kandidatke. »Na voliščih so bili nekateri presenečeni, ko so na glasovnici zagledali njeno ime,« poroča časnik Politico.

Na Nizozemskem, kjer so nekaj dni za tem potekale parlamentarne volitve, je skrajno desna Stranka za svobodo (PVV) po medmrežju širila sintetičen video domišljijske prihodnosti, v kateri zaradi zmage levosredinske stranke Demokrati 66 na Nizozemskem vlada šeriatsko pravo. Na posnetku, ki upodablja Nizozemsko leta 2050, delavci rušijo protestantske cerkve in na njihovem mestu gradijo mošeje. Sveto pismo pristane v smeteh, da na mizi naredi prostor Koranu. Na ulicah namesto frikandelov ponujajo halal dobrote, dvodelne obleke v izložbah nadomestijo hidžabi, javni bazeni so popolnoma prazni, prodaja alkohola je prepovedana. Na strehi nizozemskega parlamenta ob zastavi Evropske unije plapola zastava Islamske države. Video se konča z vprašanjem »Je to Nizozemska jutrišnjega dne?« in pozivom volivcem, naj odidejo na volišča. Na omrežju X ga je poobjavil celo vodja stranke PVV Geert Wilders, objavo pa krasijo komentarji kot: »Hvala, ker ste najpogumnejši vodja na Zahodu, eden redkih, ki si upajo povedati tisto, česar se mnogi bojijo: da je treba ustaviti islamizacijo naših narodov.«

Neki drug posnetek je prikazoval lažno aretacijo Fransa Timmermansa, nekdanjega podpredsednika evropske komisije in vodje zeleno-laburistične liste, ki se je znašel tudi na primer na posnetku, kjer pohlepno grabi po kupu gotovine. To sta bili zgolj kaplji v morje tovrstnih zavajajočih objav. Raziskovalci z Univerze v Amsterdamu in Univerze v Mainzu so ugotovili, da je bilo med približno 20 tisoč objavami, povezanimi z volitvami na Nizozemskem, dobrih 400 ustvarjenih z umetno inteligenco, tednik De Groene Amsterdammer pa je razkril, da so zanje lastnoročno odgovorni poslanci PVV.

Lažni sintetični videi lahko volivce zmedejo in zavedejo ter zbudijo dvome o tem, kaj je resnično.

Sora tudi onkraj neposrednega blatenja politikov proizvaja veliko spornih in rasističnih videov, namenjenih razpihovanju sovraštva in ustvarjanju političnih napetosti: med drugim krožijo posnetki temnopoltih protestnikov v plinskih maskah, ki na ulicah Charlottesvilla skandirajo gesla belih supremacistov, ponarejeni prizori z vojnih območij v Gazi in Mjanmaru, v katerih nastopajo sintetične imitacije vojnih žrtev, in lažni posnetki bombnih in strelskih napadov v študentskih kampusih v Združenih državah Amerike. »Gre za popolno popačenje zgodovine in resnice,« je za časnik The Guardian opozorila Joan Donovan, profesorica na Univerzi v Bostonu, ki raziskuje medijsko manipulacijo in širjenje dezinformacij. »Ko takšna tehnologija pristane v rokah brezčutnih ljudi, jo uporabijo za sovraštvo, hujskanje in spodbujanje nasilja,« je dodala.

Sicer obstajajo različni načini za preverjanje pristnosti posnetkov, ki razkrinkajo tudi Sorine na videz hiperrealistične videoponaredke. Med drugim jih lahko izdajo nepravilnosti v svetlobi in sencah, nekonsistentni odsevi, neusklajenost premikanja ustnic in govora, pa tudi Sorin vodni tisk in metapodatki datotek, ki razkrijejo pravo naravo posnetkov. A takšne podrobnosti opazijo le poznavalci: za neizurjene oči Sorini videi delujejo tako pristno in realistično, da je meja med resničnostjo in izmišljenim že skoraj popolnoma zabrisana.

Pri tem je treba poudariti, da lahko naivno občinstvo prelisičijo celo izdelki, ki na sto metrov zaudarjajo po umetni inteligenci. Primitivnejše različice sistemov, kakršen je Sora, še zdaleč niso bile zmožne ustvariti prepričljivih, navidezno pristnih vsebin – med drugim so jih izdajali deformirane dlani, odvečni udi, rahlo groteskni obrazi, še posebej pa značilno plastična estetika –, a so kljub temu marsikoga pretentale. Doslej so torej takšnim propagandnim ponaredkom nasedali le najnaivnejši volivci, v dobi Sore pa tudi previdneži preprosto ne smejo več verjeti svojim očem. Splet zato iz dneva v dan postaja vse bolj neuporaben.