Gregor Kocijančič  |  foto: Borut Krajnc

13. 9. 2019  |  Mladina 37  |  Družba  |  Intervju

Dan Podjed, antropolog: Digitalni totalitarizem, sistem družbenega razvrščanja, bo deloval

»Google, Facebook in Amazon vedo o meni več, kot vesta moja žena in moja mati. Verjetno o meni vedo celo več, kot vem sam.«

Dan Podjed (1975) je antropolog, ki raziskuje pod okriljem Inštituta za slovensko narodopisje Znanstvenoraziskovalnega centra SAZU, projektno sodeluje z Inovacijsko-razvojnim inštitutom Univerze v Ljubljani ter poučuje na ljubljanski Filozofski fakulteti. V raziskovalnem delu na presečišču različnih ved preučuje družbene fenomene, povezane z odnosom med ljudmi in sodobnimi tehnologijami. Za svojo nedavno izdano knjigo Videni, ki nosi podnaslov Zakaj se vse več opazujemo in razkazujemo, pravi, da je »bila zastarela v trenutku, ko je izšla«, saj v njej raziskuje hitro razvijajoč se svet visoke tehnologije, s katerim je tako rekoč nemogoče ostati ustrezno seznanjen: »kot bi bil na tekočem traku, na katerem tečeš hitreje in hitreje, a si ves čas na istem mestu,« pravi.

Kljub temu pa mu je s knjigo uspelo ponuditi poglobljen razmislek o najaktualnejših družbenih vprašanjih, povezanih z nadzornimi sistemi velikih korporacij in oblasti, s kratenjem zasebnosti, s spletnimi fenomeni, ki odražajo voajerske in ekshibicionistične težnje sodobnega človeka, ter s spletnimi velikani, ki jim v zameno za njihove preroške sposobnosti razdajamo svoje dragocene podatke. Podjed ugotavlja, da če v sodobnosti nisi viden, pravzaprav sploh ne obstajaš. O teh temah smo pokramljali na njegovem domu v Ljubljani, kjer opravi veliko raziskovalnega dela. Kot priznava, mu raziskovanje družbenih vprašanj, povezanih s spletom, omogoča, da je »učbeniški primer foteljskega znanstvenika«.

V strahu, da nas nekdo opazuje, marsikdo prekrije svojo spletno kamero. Med takšnimi je celo Mark Zuckerberg. Ali je tak strah pred vseprisotnim nadzorom prek spleta upravičen ali pogosto meji na preganjavico?

Glede na to, da celo odločevalci o razvoju omrežij, torej tisti, ki ustvarjajo panoptik sodobnega časa, prelepijo svoje kamere, bi rekel, da je strah popolnoma upravičen. In očitno nam lahko ta fizična blokada – torej nalepka ali pokrovček, ki jih zdaj začenjajo vgrajevati v prenosnike – edina zagotovi, da nas z druge strani nihče ne gleda. Tehnologija za tovrsten vdor v zasebnost je na voljo. Oko je nenehno prisotno. Mogoče misliš, da je zaprto, a pravzaprav ni: z nekaj znanja in pravo programsko opremo te lahko skozi spletno kamero kdorkoli kadarkoli pogleda. To lahko v ljudeh vzbuja strašno preganjavico, a pravzaprav živimo v časih, ko moramo biti vsaj rahlo paranoični. Skrbi me, ker smo postali tako brezbrižni: pripravljeni smo imeti nadzorne kamere, ki jih z veseljem sprejmemo v naše domove. In pravzaprav doma nimamo samo kamer, temveč tudi prisluškovalne naprave. Amazonova Alexa ni nič drugega kot prisluškovalna naprava, na drugi strani pa te ne poslušajo zgolj računalniki, temveč tudi ljudje, in s pridobljenimi podatki izboljšujejo Alexine algoritme. Najbolj noro pa je, da smo pripravljeni za sledilne in prisluškovalne naprave drago plačati, jih nositi s sabo in hraniti s podatki, plačevati naročnino za njihovo uporabo, nato pa še enkrat plačati za analizo podatkov, ki jih zberejo o nas. Če bi za to izvedeli vodje obveščevalnih služb iz časa hladne vojne, bi se verjetno razjokali od veselja. Ali pa od žalosti, da takšne tehnologije niso bile na voljo že takrat.

Koliko se sodobna resničnost bliža družbam v distopičnih klasikah, denimo v delih Huxleyja in Orwella?

Nekateri so prepričani, da že zdaj živimo v potencirani različici sveta iz romana 1984, a sam menim, da Orwellova napoved prihodnosti ni bila točna. Huxley je bil tisti, ki je imel bolj prav, ko je opisoval družbo v Krasnem novem svetu: družbo, v kateri zadeti ljudje, ki so razslojeni po kastah, jemljejo somo, torej zdravilo oziroma drogo, ki posameznike napravi bolj pokorne. Soma je ravno to, kar zdaj zajemamo s polno žlico. Sicer je ne jemljemo zgolj v fizični obliki, torej v obliki prozaka, ksanaksa in podobnih zdravil, ki v nas ustvarijo iluzijo sreče, temveč predvsem v obliki digitalnih vsebin, od katerih prav tako postanemo zasvojeni, od katerih se ne moremo odklopiti, s katerimi se zbudimo in s katerimi gremo spat. Priklopljeni smo ves čas, informacije pa nam dotekajo tako rekoč v žilo.

Ustvarjalci sistemov so našli pot, po kateri niso zgradili sivega orwellovskega sveta, ampak so uspeli narediti nekaj, kar je privlačno, tako da si želimo še več tega. In ko si notri, ne moreš več ven.

Če je, kot je rekel Marx, religija opij ljudstva, je v Krasnem novem svetu situacija obrnjena: opij oziroma soma je religija ljudstva.

Res je, in pravzaprav smo tako zelo odvisni od digitalnih vsebin, da to meji na religioznost. Facebook ima že skoraj več pripadnikov kot največja religija na svetu: nanj sta priklopljeni več kot dve milijardi ljudi. Religijska komponenta Facebooka se kaže tudi v tem, da ne bere in ne spremlja zgolj vsega, kar počnemo, temveč spreminja in usmerja naše misli. Vzporednico s Huxleyjevo somo pa prepoznavam tudi v facebookovskem svetu, v katerem živimo – in ta se nam ne zdi grozen, temveč lep. Ravno to me najbolj skrbi: tisti, ki vzpostavljajo sistem, so našli način, s katerim niso ustvarili sivega orwellovskega sveta, ampak so uspeli narediti nekaj, kar je privlačno, tako da si želimo še več tega. In ko si notri, ne moreš več ven.

A vseeno se je po razkritju raznih afer, denimo Huawei in Cambridge Analytica, zavedanje o podatkovno izkoriščevalskih in nadzornih funkcijah družbenih omrežij precej razširilo. Kako pojasniti, da smo se ljudje za videnost na spletu pripravljeni odreči zasebnosti? Kaj dobimo v zameno?

V zameno dobimo čisto konkretne stvari, na primer navigacijo na cesti. Google nam navigacijo ponudi v zameno za to, da ves čas pobira naše podatke. Ta navigacija zadnje čase deluje tako noro dobro, da človek že vnaprej ve, kam gre. Če vsako četrtkovo popoldne svoje otroke peljem k stari mami v varstvo, mi bo Google to že vnaprej predlagal kot najbolj verjetno možnost. Tudi če neki četrtek tja nisem mislil iti, bom imel, potem ko mi Google to predlaga, slabo vest, ker nisem šel – ali pa ker tega nisem pravočasno sporočil starim staršem. Po eni strani mi torej bere misli, po drugi pa jih usmerja. Zakaj sistem tako dobro deluje? Zato, ker sproti nadzira milijarde ljudi po vsem svetu in točno ve, kateri so v avtomobilih, kdo in kdaj se kje giblje. Zato lahko odlično napoveduje promet; pravzaprav lahko napoveduje prihodnost. Ampak komu pravzaprav delamo uslugo, ko sprejmemo to, kar nam ponuja? Sebi ali Googlu? V zameno za to, da je Google zgradil tako fantastično orodje, nam krade podatke. Nujno se moramo začeti zavedati, kako dragoceni so ti podatki. Če že pristanemo, da jih serviramo velikim podjetjem, jih moramo biti pripravljeni vsaj prodati. Tisti, ki se hranijo z našimi podatki, bi nam morali plačati mesečno naročnino, da lahko berejo naše misli in analizirajo naše možgane – če že. Mislim pa, da bi bila kakšna tretja pot še boljša.

Katera pot bi bila boljša? V sklepu knjige omenite tri možne napovedi za prihodnost podatkovne dobe, v kateri živimo.

Če poenostavim, je prvi scenarij kitajski: gre za sistem družbenega razvrščanja, ki ga Kitajska preizkuša na nekaj milijonih ljudi in ki bo prihodnje leto deloval po vsej državi. Na žalost, a iskreno povedano, se mi zdi ta scenarij še najbolj verjeten: menim, da ga bomo sčasoma prenesli tudi v Slovenijo oziroma v Evropo. Drugi scenarij – ponovno poenostavljam – je ameriški: posameznik se bo začel zavedati, koliko so vredni njegovi podatki. Ti bodo postali tržna dobrina: vedel boš, koliko podatkov si dal, na kakšen način so jih uporabili, za njih pa boš dobil nekaj v zameno. Če boš resnično pomembna oseba, denimo predsednik, bodo tvoji podatki izjemno dragoceni. Če boš zgolj slehernik, bodo tvoji podatki vredni malo, vendar je prav, da dobiš vsaj nekaj v zameno od podjetij, ki na tvoj račun zelo dobro živijo. Na neki način bomo vsi postali delničarji podjetij, ki se hranijo z našimi podatki. Tretji možni poti poenostavljeno pravim evropski scenarij. Evropska unija se zadnje čase ognjevito zavzema za varovanje podatkov. Izdala je denimo GDPR, uredbo o varstvu podatkov, s katero naj bi med drugim uredili, da ima vsak pravico do podatkovnega izbrisa. To pomeni, da če neko podjetje – denimo Google – beleži tvoje podatke, imaš pravico te podatke tudi izbrisati.

Zakaj pa je prvi, kitajski scenarij prihodnosti, najbolj verjeten?

Kitajski scenarij, ki mu lahko rečemo tudi digitalni totalitarizem, se nekaterim zdi pesimističen, drugim pa optimističen. To lahko znova povežemo s Krasnim novim svetom in somo: ljudje so s sistemom razvrščanja večinoma zadovoljni. Ne oporekajo temu, da oblast razvija sistem, v katerem točkujejo in ocenijo posameznikov način življenja. To oblast počne z upoštevanjem petih temeljnih dejavnikov. S prvim se ocenjuje, kar kupuješ: če denimo kupuješ cigarete, ti ocena pade, če kupuješ sadje, ti ocena zraste. Drugi dejavnik je redno plačevanje računov in kreditov. Tretji je odvisen od tega, kako komuniciraš na družabnih omrežjih, ki so na Kitajskem izjemno zaprta in delujejo izključno tam. Če napišeš neke neprimerne besede, na primer kaj proti vladi, ti ocena pade. Če pa napišeš, denimo, »Xi Jinping je večni vladar«, ti ocena zraste. Še en kriterij ocenjuje, kako se vedemo. To oblast spremlja z algoritmi za prepoznavanje obrazov in s kamerami, nameščenimi na javnih površinah. Če vržeš cigaretni ogorek mimo smetnjaka, ti ocena pade, če v predavalnici dovolj prikimavaš, ti ocena zraste – in to ne zgolj tvoja skupna družbena ocena, temveč tudi končna ocena pri predmetu na fakulteti. Peti dejavnik – ta se mi zdi najbolj grozljiv – te presoja glede na to, s kom se družiš. Tudi če si izjemno pokoren državljan, a so tvoji prijatelji barabe, ki imajo slabe ocene, bo tvoja ocena padla. Ta sistem razvrščanja je sicer še v testni fazi, a njegova uvedba po vsej Kitajski ni vprašanje »če«, temveč vprašanje »kdaj«. Tudi ko so Kitajci gradili železnico do Tibeta, so jim tuji arhitekti zagotavljali, da to ni mogoče, pa so jim dokazali nasprotno – in to bojda brez smrtnih žrtev med delavci. Tako vsaj trdi kitajska vlada. No, zato menim, da bo tudi sistem družbenega razvrščanja deloval, ker je vlada tako sklenila. Zakaj pa so ljudje s to idejo zadovoljni? Ker gre za nekaj, čemur v sodobni terminologiji pravimo gamification oziroma poigritev vsakdanjega življenja. Tvoje življenje postane kot računalniška igra: zbiraš točke, prehajaš iz stopnje v stopnjo, od rezultata pa je odvisno, ali dobiš kredit za stanovanje, ali dobiš vizum za potovanje v tujino, v katero šolo lahko vpišeš svoje otroke … Država te za sodelovanje v igri sproti nagrajuje. Mislim, da bodo ta scenarij z veseljem pripravljene prevzeti tudi t. i. demokratične države. V Srbiji ga že postopoma uvajajo: s pomočjo Huaweija so namreč namestili več tisoč kamer za prepoznavanje obrazov.

Digitalni totalitarizem, sistem družbenega razvrščanja, bo deloval. Ker gre za nekaj, čemur v sodobni terminologiji pravimo gamification oziroma poigritev vsakdanjega življenja. Tvoje življenje postane kot računalniška igra.

So morda Kitajci tako pripravljeni na »poigritev vsakdanjega življenja«, ker se Kitajska spopada z epidemijo digitalne odvisnosti?

No, pa sva spet pri somi. Fenomeni, kot je pripravljenost na poigritev vsakdanjika, so seveda povezani tudi z digitalno odvisnostjo, ne zgolj na Kitajskem, temveč prav tako na Zahodu. Podatki raziskave, ki je bila v ZDA opravljena leta 2015, pričajo, da odrasli skoraj tri ure dnevno gledamo v zaslon pametnega telefona, mladi pa so v zaslone zazrti do devet ur na dan: večino budnega časa porabijo za to. A pravzaprav nismo odvisni od naprav, temveč od vsebin, ki nam jih servirajo. Te so narejene izjemno pretkano: podjetja, kot je Facebook, najemajo psihologe, ti pa ustvarjajo vedno bolj učinkovita orodja, ki nas posrkajo v sistem. Za primer vzemimo številko, ki označuje nova obvestila (angl. notifications): ta nekdaj ni bila rdeče barve, temveč se je zlivala z modro barvno shemo Facebooka. Pozneje so jo pobarvali rdeče, da se nam zdijo Facebookova obvestila še pomembnejša, čeprav je večina popolnoma nepomembnih. Če jih ne odprem, me bo ves dan žrlo, kaj je njihova vsebina. In veste, kaj nam pravzaprav želijo odvzeti s tovrstnimi prijemi? Nekaj izjemno dragocenega: odvzemajo nam dolgčas in tako nas držijo na vajetih. Če se spomnim svojega otroštva, so bile počitnice najboljše takrat, ko nisem imel kaj početi, zdaj pa so otroci ves čas animirani s pestrim naborom digitalnih vsebin. Dolgčas je sicer najbolj ustvarjalen čas: takrat se v nas porajajo inovativne zamisli, nove ideje, takrat se medsebojno povezujemo, celo kujemo revolucije in snujemo zarote. Mislim, da ravno to preprečujejo tisti, ki nas skušajo obvladovati s pomočjo novih tehnologij: ne želijo, da bi ljudem kar naenkrat postalo dolgčas. Če jih zamotiš z napravami in vsebinami, potem jih držiš v šahu. A nekatere družbe so vseeno bolj podvržene digitalnemu totalitarizmu kot druge: predvsem tiste, v katerih ljudje vse manj komunicirajo iz oči v oči, in tiste, kjer od nekdaj prevladuje kolektivizem v nasprotju z individualizmom. Kitajska je dober primer. V digitalni totalitarizem se podajajo z odprtimi rokami, ker je pisan na kožo posamezniku in skupnosti.

Zakaj menite, da jim je ta sistem pisan na kožo?

Tovrsten sistem kitajskemu narodu ustreza zaradi različnih družbeno-kulturnih dejavnikov, med drugim tudi večtisočletne tradicije spoštovanja hierarhije in upoštevanja družbenih statusov, ki niso povezani zgolj s komunizmom, temveč tudi s konfucianizmom. Družbe, ki posvajajo sistem digitalnega totalitarizma, bodo tako nadaljevale tradicijo in hkrati preskočile korak v evoluciji komuniciranja. V večjih kitajskih mestih je že zdaj nemogoče plačevati z gotovino, vse transakcije so nadzorovane in digitalizirane. Ljudje plačujejo z aplikacijami, kot sta AliPay in WeChat, ali pa preprosto pogledajo v kamero za prepoznavo obraza in računalnik jim znesek samodejno trga z računa. Celo beračem na cestah ljudje darujejo tako, da s pametnim telefonom preberejo njihove QR kode za digitalne transakcije, ki jih imajo pripete na prsih. Kitajci so v razvoju umetne inteligence in družbe nadzora vodilen narod. Korporacije iz Silicijeve doline so v primerjavi s kitajsko podjetniško miselnostjo zelo revne. Kitajci si namreč ne ženejo k srcu, če zamisli kopirajo od sosednjega podjetja ali od Američanov. V svojem besednjaku praktično ne poznajo besede za kopiranje, temveč zgolj za popravljanje – in ravno to slikovito odraža udarno miselnost, s katero nas bodo povozili. Tudi Singapur je nazoren primer digitalnega totalitarizma. Tam v vozila vgrajujejo sledilne naprave, s katerimi spremljajo, kako hitro voziš. Če prekoračiš predpisano hitrost, ti sistem znesek kazni samodejno trga s transakcijskega računa. Policija kot del nadzornega sistema ni več potrebna in tudi obcestni radarji so odveč. Namesto žive delovne sile ljudi nadzira tehnologija. Zakaj so ljudje v Singapurju pripravljeni sprejeti ta na pol totalitarni sistem oziroma neliberalno demokracijo? Razlog se tudi tam skriva v njihovi preteklosti: dejstvo je, da so to majhno in danes bogato državo v drugi polovici prejšnjega stoletja politični vodje potegnili iz blata – in to skoraj dobesedno. Ljudje še vedno verjamejo, da je tamkajšnje vodstvo sposobno ustvariti sistem, ki bo v družbi držal ravnovesje. Pri nas sicer tistim, ki so na vrhu hierarhične lestvice, še ne zaupamo toliko, da bi jim pustili, naj mislijo namesto nas. Ko pa bodo države, kot sta Kitajska in Singapur, dokončno vzpostavile digitalni totalitarizem, bo postalo jasno, kako učinkovit je: njegov prodor v evropski prostor bo postal le še vprašanje časa.

Tisti, ki nas skušajo obvladovati s pomočjo novih tehnologij, preprečujejo, da bi ljudem postalo dolgčas. Če jih zamotiš z napravami in vsebinami, potem ljudi držiš v šahu.

Kot kritični raziskovalec spleta in njegovih družbenih posledic se zavedate pretkanih trikov, zaradi katerih se znova in znova vračamo na družabna omrežja. Se morda zalotite, da tovrstni triki učinkujejo tudi na vas, kljub temu da se jih zavedate?

Vsi padamo na te trike. Zakaj? Ker nas poznajo bolje, kot poznamo sami sebe. Google, Facebook in Amazon vedo o meni več, kot vesta moja žena in moja mati, verjetno o meni vedo celo več, kot vem sam. Resnično obvladajo mojo psiho, zato me ni težko usmerjati. Hkrati pa se tudi dobro zavedajo, da so podatki zlato današnje dobe. Če pogledamo deset najbogatejših ljudi na svetu, je polovica takšnih, ki so obogateli z našimi podatki. Ti multimilijarderji niso ustvarili ničesar fizičnega: ne prodajajo spodnjega perila ali računalnikov, temveč zgolj zbirajo in interpretirajo naše podatke ter jih porabijo za to, da nam jih nato prodajo nazaj. To je tisti genialni trik! A pravzaprav menim, da ne živimo v dobi podatkov, temveč v dobi totalnega nadzora: ne nadzirajo nas zgolj podjetja in oblast. Z družabnimi omrežji lahko nadziramo drug drugega, s pametnimi zapestnicami in aplikacijami, ki merijo, koliko korakov naredimo in koliko kalorij smo zaužili, lahko nadziramo sami sebe. Tehnologija se vse bolj pomika k vzpostavitvi popolnega nadzora, v katerem bodo državne ustanove vedele vse o nas.

V knjigi pravite, da ima lahko občutek, da nas nekdo gleda, pozitiven učinek na naše ravnanje v življenju. A to se zdi razmeroma spolzek teren: lahko dejstvo, da vsakodnevno obnašanje prilagajamo občutku, da smo pod nadzorom, meji na nekakšno orwellovsko jemanje svobode?

V tem kontekstu je dobro vprašanje, ki ga je postavil ameriški filozof Emrys Westacott: ali si zaradi nadzora resnično dober ali si dober zgolj zato, ker te gledajo? Za hipotetični primer si zamisli dve šoli: šolo nadzora in šolo zaupanja. V nadzorni šoli s kamerami ves čas preverjajo, kako se obnašajo učenci, zaplenijo vse naprave, s katerimi bi lahko učenci goljufali, vsak test podrobno preverijo in iščejo sledi prepisovanja. Šola zaupanja pa temelji na tem, da učencu enostavno zaupajo in verjamejo, da je vsaka naloga, ki jo odda, dejansko njegovo delo. Učitelj lahko tudi sredi preverjanja znanja zapusti razred, saj učencem verjame, da ne bodo goljufali. Katera šola je torej boljša? Gre za izjemno zahtevno vprašanje. Morda bi imela nadzorna šola na koncu bistveno boljše rezultate, saj bi se vsi bistveno bolj trudili, čeprav bi bili ves čas nekoliko prestrašeni, ker jih nekdo nadzira. Westacott nima jasnega odgovora, tudi sam ga nimam. Verjetno je najbolje, da iščemo neko srednjo pot. Za primer vzemimo Slovensko cesto v Ljubljani, kjer ni prometnih znakov in kjer policija načeloma ne nadzira prometa. To je t. i. deljeni prostor (angl. shared space), kjer avtobusi, pešci in kolesarji sami vzpostavljajo red. Všeč mi je takšna samonikla organizacija prometa in iskreno verjamem v tovrstne alternative nadzora in oblasti.

Ko bodo države, kot sta Kitajska in Singapur, dokončno vzpostavile digitalni totalitarizem, bo postalo jasno, kako učinkovit je ta sistem: njegov prodor v evropski prostor bo postal le še vprašanje časa.

Prepričan sem tudi, da imamo več možnosti medsebojnega spremljanja in opazovanja kot zgolj nadzor od zgoraj navzdol. O našem prepričanju, da obstaja predvsem ta oblika, priča že sama beseda »nadzor«, torej pogled od zgoraj. A pravzaprav je možnih alternativ kar nekaj, denimo »medzor«, kjer drug drugega spremljamo in popravljamo. Ali pa »podzor« – ta se mi zdi izjemno pomemben: tisti, ki smo spodaj, bi morali imeti možnost nadzirati oblast. Tretja možnost pa je samonadzor, torej nadziranje samih sebe. Kakšni so njegovi učinki, lahko vidimo v dvigalih. Tam, kjer so nameščena ogledala, je bistveno manj vandalizma. Zakaj? Ko nekdo, ki z vžigalnikom žge tipke, zagleda svoj odsev v ogledalu, hkrati uzre tudi škodoželjnega bedaka – in preneha s početjem. Pogled od zgoraj navzdol bi morali torej umakniti na druge ravni, predvsem na raven medzora. To pomeni, da naj skupnost sama vzpostavlja pravila in sankcije, nadzor pa uporablja tako, da lahko ljudje čim bolje sobivamo, ne pa da smo pridni in pokorni zato, ker nas od zgoraj opazuje nevidno oko.

Pisma bralcev pošljite na naslov pisma@mladina.si. Minimalni pogoj za objavo je podpis z imenom in priimkom ter naslov. Slednji ne bo javno objavljen.