Teden / Poplava sintetične pornografije

Grok je eden od številnih sistemov generativne umetne inteligence, ki skušajo tekmovati s ChatGPT, domuje pa na družbenem omrežju X (nekdanjem Twitterju). Ponaša se s tem, da ni tako politično korekten kot njegovi tekmeci, oziroma, kakor pravi Elon Musk, da je »antiwoke«. Tako kot drugi vodilni sistemi generativne umetne inteligence je tudi Grok zmožen ustvarjati sintetične podobe, ki so videti dokaj hiperrealistično, skorajda kot prave fotografije. Vodilni sistemi umetne inteligence, denimo ChatGPT, Claude, Gemini in Copilot, imajo vgrajene stroge varovalke, ki učinkovito preprečujejo generiranje opolzkih podob in nekonsenzualne pornografije, Muskova umetna inteligenca pa se (tudi) na to požvižga.

xAI sicer uradno prepoveduje generiranje tovrstnih vsebin z Grokom, a uporabniki zlahka zaobidejo njegove varovalke. Nepridipravi zato pornografskih podob ne ustvarjajo neposredno z Grokom, temveč za to uporabljajo različne aplikacije, ki jih poganja Grok, prav tako ustvarjanje spornih slik poteka na strežnikih podjetja xAI. Opolzke sintetične podobe z uporabo Muskove tehnologije generirajo bodisi z besednimi ukazi, vanje pa lahko tudi enostavno naložijo fotografijo slehernika in ga v nekaj sekundah »slečejo«. To je pripeljalo do hude poplave opolzkih sintetičnih podob, ustvarjenih z Grokom, ki se po platformah X, Discord in Telegram širijo kot požar: januarja, na vrhuncu poplave, je britanska nevladna organizacija Center za preprečevanje digitalnega sovraštva ugotovila, da je Grok v manj kot dveh tednih ustvaril okoli tri milijone eksplicitno seksualnih in pornografskih slik, tudi izrazito nasilnih. Najbolj skrb zbujajoče pri tem pa je, da je od tega kar 23 tisoč podob prikazovalo mladoletne osebe. Številni pristojni organi, med njimi evropska komisija, britanski nadzorni organ za komunikacije in kalifornijsko generalno državno tožilstvo, so začeli preiskave, povezane s spornimi funkcijami sistema Grok.

Tri najstniške žrtve tovrstne zlorabe – med njimi sta dve mladoletni dekleti – so te dni vložile tožbo proti podjetju xAI; obtožujejo ga razpečevanja, posesti in izdelave otroške pornografije z namenom nadaljnje distribucije. »Družba xAI se je zavestno odločila ustvarjati dobiček s spolnim izkoriščanjem resničnih oseb, tudi mladoletnih, čeprav je bila dobro seznanjena z nevarnimi posledicami takšnega izdelka,« je v izjavi za javnost navedla odvetnica žrtev Vanessa Baehr-Jones. O tožbi je prvi poročal časnik The Washington Times, ki med drugim opozarja, da bodo »za tri najstnice in druge mladoletne žrtve posledice teh zlorab dolgotrajne«, saj tovrstne podobe tudi po odstranitvi s posameznih platform zaživijo svoje življenje in se nenadzorovano širijo po drugih kanalih. Sodni primer, ki razkriva nevarno vrzel med nebrzdanim razvojem umetne inteligence in pomanjkljivimi varnostnimi mehanizmi, bo vsekakor vplival na oblikovanje smernic za nadaljnje urejanje delovanja sistemov umetne inteligence, ki omogočajo ustvarjanje eksplicitnih vsebin.