Prvi teden / Predvolilna brozga

Na družbenih omrežjih je danes vse več posnetkov, narejenih z umetno inteligenco. Dokler gre za neškodljivo zabavo – zadnji mesec je bil recimo priljubljen trend ustvarjanja karikatur samega sebe –, s tem seveda ni težav. Težave se pojavijo, ko se ti posnetki vprežejo v propagandno, sovražno naravnano mašinerijo, ki pomaga razpečevati lažne novice in sovražni govor. Slovenija tu ni nikakršen unikum, tudi pri nas je pred volitvami takšnih vsebin vse več. In očitno je, da gre pri ustvarjanju teh posnetkov vsaj deloma za organizirano delovanje.

Na TikToku nam je uspelo našteti najmanj tri nove uporabniške račune, ki so začeli hkrati, natančneje 11. februarja, objavljati vsebine, usmerjene proti družbenim manjšinam: »pravislovenec«, »slovenijazaslovence« in »novomescan«. Na enem posnetku je recimo učenec, ki naj bi se v šoli učil, »da lahko fant postane punca, če hoče«. Na drugem je »Rom«, ki se hvali, da nabira bakreno žico: »To sem pa sam nabral. Vsako žico posebej, veste, je kar nekaj dela s tem.« Na tretjem fant, ki navdušen priteče domov k mami, češ da se zdaj v šoli učijo albansko. Potem je še posnetek ženske, oblečene v burko, ki jo novinar vpraša, zakaj se ne prilagodi slovenski kulturi. »Prilagoditi se vam? Nikoli,« mu odvrne. »Mi bomo nosili burko, vi pa se boste prilagodili islamu. Ali pa pojdite v pekel!«

Podobne trende, ki so si za tarčo izbrali manjšine, je mogoče opazovati tudi drugod. Recimo v Združenem kraljestvu, je pred kratkim poročal britanski BBC, je vse več lažnih posnetkov mest, ki naj bi bila preplavljena z migranti in uličnim nasiljem. Na enem je recimo skupina migrantov pred arkadnim avtomatom, ki namesto nagrad izdaja mačete, na drugem so mladi fantje v balaklavah, ki razpravljajo v dvorani spodnjega doma parlamenta. Tega novega fenomena se je že prijel izraz decline porn ali pornografija propada – gre za nekakšno estetizacijo oziroma uživanje v prikazovanju splošnega družbenega propada. A dejansko so ti trendi skorajda po pravilu zmeraj usmerjeni zoper manjšine. In izrazito ksenofobni.

»V ekonomiji pozornosti, kjer je dragocena vsaka sekunda naše pozornosti, se mora tudi politična propaganda prilagoditi pravilom algoritmov,« je povedal Tadej Štrok, komunikolog in član kolektiva Danes je nov dan. Digitalna brozga, proizvedena z umetno inteligenco, ki črpa vsebino iz nestrpnih stereotipov in sovražnega govora skrajne desnice, je v tem smislu predvsem idealen format za doseganje viralnosti na družbenih omrežjih. Tudi zato, ker je preprosta za izdelavo. »Obenem pa vsebuje ravno tiste elemente, ki najbolj pritegnejo našo in s tem algoritemsko pozornost: humor, jedrnatost, dejavnik šoka zaradi transgresije ter novost in nenavadnost.« Pri tem ključno vlogo igra predvsem humor, ki lahko bodisi razbija ali pa – kot v naštetih primerih – utrjuje predsodke, saj deluje na ravni čustev. »In čustva pogosto prevladajo nad razumom.« Še posebej pri mlajšem občinstvu, ki je izpostavljeno veliki količini takšnih vsebin. Ali pa pri starejšem, ki s težavo loči, kaj je resnično in kaj narejeno z umetno inteligenco.

Avgusta bodo morali ponudniki sistemov umetne inteligence v skladu z evropskim aktom o umetni inteligenci sicer zagotoviti, da bodo takšni posnetki jasno označeni. A ključna težava je, da so vsebine, ki prestopijo mejo in postanejo sovražni govor, težko pregonljive. Na policiji resda zaznavajo povečano število medijskih vsebin, narejenih z umetno inteligenco, vendar so pri umikanju takšnih spornih posnetkov odvisni predvsem od politike in sodelovanja spletnega ponudnika. Poleg tega je danes teh vsebin že preprosto toliko, da je vsem nemogoče slediti. V družbi še nikoli doslej ni bilo tako preprosto zanetiti požara.