V središču / Zlorabe v navidezni resničnosti

Štiri leta po oznanitvi, da se začenja megaprojekt Metaverse, smo že skoraj pozabili, zakaj se je korporacija Facebook preimenovala v Meto. Z novim imenom je podjetje javnosti leta 2021 velikopotezno in optimistično sporočilo, da se loteva novega poglavja spletne socializacije – da gradi nov virtualni ekosistem, ki ga je prvi mož korporacije Mark Zuckerberg takrat opisal kot »utelešenje interneta«.

To so bili preprostejši časi. Silicijeva dolina se še ni tako manično osredotočila na razvoj sistemov umetne inteligence in Zuckerberg je bil prepričan, da je navidezna resničnost (VR) prihodnost družbenih omrežij – da se bomo torej, namesto da bi po spletu srfali, kmalu sprehajali po virtualnih prostorih, besedilno sporočanje in videoklice pa bodo nadomestile interakcije med digitalnimi avatarji. Meta je zato začela vlagati astronomske vsote v razvoj sistemov navidezne resničnosti. Že prej je za dve milijardi ameriških dolarjev prevzela podjetje Oculus VR, nekoč vodilno pri razvoju tehnologije navidezne resničnosti, in ga preimenovala v oddelek Reality Labs. Podružnica se je izkazala za pravo kurilnico denarja: v zadnjih petih letih je ustvarila kar 60 milijard ameriških dolarjev izgube, čeprav gre za vodilnega proizvajalca tako imenovanih VR-headsetov, torej očal (oziroma čelad) za vstop v navidezno resničnost, ki ima na trgu strojne opreme za navidezno resničnost 90-odstotni tržni delež, torej monopol.

Metaverse zdaj velja za enega najbolj spodletelih projektov v zgodovini Silicijeve doline. Naklonjenosti uporabnikov mu ni uspelo pridobiti že preprosto zato, ker ni šlo za nič novega. Virtualni prostori za druženje v navidezni resničnosti, kot je VR Chat, so med navdušenci nad to tehnologijo nekaj povsem vsakdanjega. Pravzaprav navidezna resničnost ostaja dokaj nišno področje: uporabljajo jo predvsem nekateri igričarji, nikoli pa ni prišla v splošno rabo, saj je uporabniška izkušnja nekoliko neprijetna: VR-očala so draga in neudobna, navigacija po navideznih svetovih je okorna, razvoj vsebin je drag in veliko počasnejši od pričakovanj, preživljanje časa v navidezni resničnosti pa pri številnih uporabnikih povzroča glavobol in vrtoglavico, torej občutke, podobne morski bolezni. A to še zdaleč niso najbolj neprijetne razsežnosti uporabniške izkušnje pri rabi Metinih produktov za navidezno resničnost – zlasti, če govorimo o najmlajših uporabnikih.

Jason Sattizahn, strokovnjak za integrativno nevroznanost, je v Metini podružnici Reality Labs od leta 2018 do 2024 raziskoval varnost mladih uporabnikov, pri čemer je odkril številne sistemske pomanjkljivosti, ki so pripravile teren, na katerem so mladi uporabniki pogosto prihajali v stik z neprimernimi vsebinami in imeli interakcije z raznimi čudaki, pogosto tudi spolnimi predatorji, ki se v navidezni resničnosti seveda zlahka zakamuflirajo v digitalne avatarje. A nadrejeni so njegovo delo nenehno ovirali. Znanstvenik trdi, da je Meta namerno pospravila v predal dokaze in izsledke raziskav, ki so osvetljevali morebitna tveganja za otroke in najstnike pri rabi njenih naprav in aplikacij za navidezno resničnost. »Pri Meti se zavedajo, da so otroci v navidezni resničnosti izpostavljeni številnim nevarnostim,« je pred odborom ameriškega senata povedal Sattizahn in dodal, da se podjetje, »ker daje prednost dobičku pred varnostjo, zavestno ne meni za težave, ki jih je samo zakuhalo«.

Mladoletni uporabniki so bili pogosto žrtve spolnih predatorjev, ki se v navidezni resničnosti zlahka zakamuflirajo v digitalne avatarje, Meta pa je to skušala pomesti pod preprogo.

Četudi so Metini navidezni svetovi za zdaj dokaj roben segment njenega delovanja, v njih čas preživlja nezanemarljivo število uporabnikov – Meta je doslej prodala že več kot 20 milijonov naprav Meta Quest –, med njimi pa je veliko otrok. Ti so – po nedavnem pričanju šestih žvižgačev, nekdanjih zaposlenih pri Meti – v virtualnih prostorih za druženje, predvsem v aplikaciji Horizon Worlds, družabni platformi za igranje videoiger, izpostavljeni številnim tveganjem, kar naj bi bila Meta načrtno skrivala. Njene produkte za navidezno resničnost lahko sicer praviloma uporabljajo zgolj starejši od 13 let, a starostna varovala naj bi bilo sila preprosto zaobiti, pravijo žvižgači, in kot trdi Jason Sattizahn, je »Meta dobro vedela, da mladoletniki uporabljajo njene izdelke, a je to zavoljo dobička načrtno spregledala. Ne želi zmanjšati števila aktivnih uporabnikov, saj bi se s tem znižala raven angažiranosti, o kateri poroča delničarjem.«

Za njim je pričala razvojna psihologinja Cayce Savage, ki je bila v Metinem oddelku Reality Labs štiri leta zaposlena kot raziskovalka uporabniške izkušnje, pri čemer se je osredotočala predvsem na varnost mladih v navidezni resničnosti. »Ker je navidezna resničnost potopitveno in telesno doživetje, so negativne izkušnje v njej psihološko veliko bolj škodljive kot podobne izkušnje na iPadu ali Xboxu. Če te kdo v VR fizično nadleguje ali se te dotika, je to precej bolj osebno in travmatično, kot če bi se to zgodilo v mobilni igri,« je pojasnila. Po njenih besedah je doživetje v navidezni resničnosti bolj podobno obisku Disneylanda kot igranju igre na tablici, vendar »v nasprotju z Disneylandom v navidezni resničnosti ni varnostnikov, ni zaposlenih v kostumih in varnostnih kamer«. Žvižgačka je opazila, da so otroci v Metinih navideznih svetovih »pogosto izpostavljeni nasilju, pornografiji in igram na srečo« in da »neredko doživljajo ustrahovanje, spolne napade in zapeljevanje pedofilov«. A ko je na to opozorila nadrejene, so ji grozili z izgubo službe. Dodeljen ji je bil nadzornik in ta jo je nato oviral pri raziskavah in pod preprogo pometal izsledke, ki bi za podjetje lahko pomenili tveganje. Delež otrok, ki doživljajo tovrstne zlorabe, ostaja neznanka, »saj Meta ni dovolila, da bi to raziskala,« pravi psihologinja. »Moramo razumeti, da je malomaren odnos do varnosti otrok v navidezni resničnosti značilen za vse Metine produkte.«

Ja, to še zdaleč ni osamljen primer Metinih poskusov izkrivljanja ali skrivanja skrb zbujajočih spoznanj, povezanih z varnostjo mladih uporabnikov njenih produktov. Zgodovina se ciklično ponavlja: jeseni 2021 je žvižgačka Frances Haugen, ki je bila pri Meti zaposlena kot produktna menedžerka, kongresu razkrila, da platforme podjetja pri številnih mladih uporabnikih povzročajo ali krepijo duševne stiske, škodijo njihovi samopodobi in so eden od temeljnih povzročiteljev epidemije dismorfne telesne motnje med mladimi. Kot je takrat povedala v intervjuju za Mladino, je Meta »pri vsakem problemu ali nepravilnosti, ki sem jo zaznala, vedno našla izgovor, zakaj nečesa ni mogoče spremeniti. Vodilni so se delali nemočne, čeprav so bili v resnici nosilci moči.«

Podobno je Arturo Béjar, nekdanji inženir in svetovalec pri Meti, leta 2023 pred kongresom razkril, da je Meta malomarna pri varovanju najstnikov pred spolnim nadlegovanjem. Težave se je zavedel, ko so anonimneži prek Instagrama začeli nadlegovati njegovo 14-letno hčerko. Žvižgač je delodajalcem predlagal, naj uvedejo mehanizem za prijavljanje spolnega nadlegovanja, a so ga zavrnili, saj te temne plati platform niso želeli obešati na veliki zvon.

»Pri Meti se zavedajo, da so otroci v navidezni resničnosti izpostavljeni številnim nevarnostim, a podjetje daje prednost dobičku pred varnostjo,« pravi žvižgač Jason Sattizahn.

Razkritjem žvižgačev Frances Haugen in Artura Béjara je sledila množična tožba, ki jo je v imenu staršev prizadetih mladoletnih uporabnikov proti Meti vložilo deset zveznih držav ZDA. »Družbena omrežja z Metinimi platformami Instagram in Facebook vred so prispevala k nacionalni krizi duševnega zdravja mladih, zato morajo prevzeti odgovornost,« je med sodnim procesom povedala generalna tožilka Letitia James, ena izmed 33 podpisnikov tožbe. Poudarila je še, da Meta načrtno gradi in nadgrajuje mehanizme, ki mlade uporabnike pahnejo v zasvojenost z njenimi produkti, in pri tem prikriva »resne nevarnosti«, povezane z njenimi platformami.

Ko so bili kasneje direktorji podjetij Meta, X, TikTok, Snapchat in Discord zaradi teh obtožb zaslišani pred senatom, je Mark Zuckerberg v uvodni besedi zanikal kakršnekoli vzročne povezave med uporabo družbenih omrežij in duševnimi stiskami mladih uporabnikov in s tem sprožil val ogorčenja. Kasneje se je med zaslišanjem obrnil k staršem žrtev v občinstvu in se javno pokesal: »Žal mi je za vse, kar ste prestali. Nihče ne bi smel doživeti tega, kar so pretrpele vaše družine.«

Meta se je takrat javno zavezala, da bo varnost otrok na vseh svojih platformah postavila na prvo mesto, a žvižgač Jason Sattizahn trdi, da je bil to zgolj piarovski manever, s katerim je podjetje ustvarilo lažen vtis odgovornega ravnanja, v resnici pa je potihoma uvedlo postopke za manipuliranje z izsledki raziskav in brisanje podatkov, ki bi mu lahko škodili: »Nas raziskovalce so usmerjali, kako naj pišemo poročila, da bomo zmanjšali tveganja za podjetje.«