Gregor Kocijančič  |  foto: Borut Krajnc

30. 11. 2018  |  Mladina 48  |  Družba  |  Intervju

Kathleen Richardson: Če si žalosten, si raje kot robota omisli domačo žival

»Če si žalosten in okrog sebe nimaš ljudi, potem si raje kot robota omisli domačo žival«

Prejšnji teden je v Ljubljani že drugo leto zapored potekal festival Grounded. Festivalski program ni zajemal le predstavljanja najnovejših smernic v futurološki klubski elektroniki, o katerem lahko berete v rubriki Oder, z različnimi predavanji in pogovori se je osredotočal na družbeni aktivizem in kritično mišljenje. Sodelujoči so se ukvarjali s trenutno pomembnimi temami, povezanimi z etičnimi vprašanji, ki se porajajo ob razvoju umetne inteligence in robotike. Na odprtju festivala je v Moderni galeriji z uvodnim predavanjem Nujnost politike človečnosti v času robotov in umetne inteligence nastopila častna gostja, socialna antropologinja in strokovnjakinja za etična vprašanja, povezana z robotiko, prof. dr. Kathleen Richardson.

Osrednja gostja teoretskega dela festivala Grounded je profesorica etike robotov in umetne inteligence na Univerzi De Montfort v Leicestru. Njena akademska pot se ni začela, kot se take poti navadno začenjajo, temveč je nanjo stopila kot mlada politična aktivistka. Naziv doktorice socialne antropologije je pozneje pridobila na Univerzi v Cambridgeu; med doktorskim študijem je preučevala robote v laboratoriju Tehnološkega inštituta v Massachusettsu (MIT) in izdala študijo Antropologija robotov in umetne inteligence: anksioznost anihilacije in stroji. Pri akademskem delu in aktivističnem delovanju se osredotoča na kritično obravnavo spolnih robotov in robotov, ki se uporabljajo za terapevtsko delo z avtističnimi otroki. Leta 2015 je spodbudila nastanek gibanja, ki nasprotuje proizvajanju spolnih robotov.

Od kod izhaja vaše navdušenje nad roboti?

O robotih sem začela prvič resneje razmišljati pri sedemnajstih letih, ko sem gledala znanstvenofantastično klasiko Metropolis iz leta 1927. Film, v katerem delavski razred prebiva in dela pod zemljo, bogati pa živijo v mestu nad njim, je obravnaval neenakopravnost in spreminjanje ljudi v stroje. Gre za temi, s katerima sem se v tistem času veliko ukvarjala, saj sem bila intenzivno vpeta v politiko. A takrat si še nisem predstavljala, da bo ta tema nekoč predmet mojega raziskovanja. To se je zgodilo kasneje, ko sem študirala na Univerzi v Cambridgeu. Takrat me je že zelo zanimala razlika med človeškostjo in nečloveškostjo, ukvarjala sem se z iskanjem meje med ljudmi in neživo naravo. Načrtovala sem, da bi raziskave za doktorsko disertacijo opravila v Amazoniji, kjer bi preučevala avtohtone prebivalce, saj ti naravno okolje konceptualizirajo popolnoma drugače od zahodnjakov in imajo drugačno predstavo o tem, kaj pomeni biti človek. Ko sem čakala, da izvem, ali sem sprejeta na doktorski študij, sem skušala živčnost ublažiti z obiskom kina, kjer sem gledala Spielbergov film A. I. – umetna inteligenca. Med ogledom filma, ki kritično obravnava nadomeščanje ljudi z roboti, sem se zavedela, da mi pravzaprav ni treba odpotovati v Amazonijo, če želim študirati odnos med ljudmi in neživimi stvarmi: to lahko storim tudi v zahodnem svetu z raziskovanjem robotov. V tistem času je bilo na družboslovnem področju kulturno zanimanje za robote in umetno inteligenco precej nišno področje, v svetu fikcije pa je imelo veliko večji pomen. Danes je to v družboslovju izjemno žgoča tema.

Kako daleč je dejansko razvoj robotov in umetne inteligence? So distopični strahovi o robotih, ki bodo zavzeli svet in prevzeli naše službe, upravičeni ali gre za nepotrebno paniko, ki izhaja prav iz znanstvenofantastičnih zamisli?

Tu sta pomembni dve stvari. Prvič, živimo v kapitalistični družbi, ki povečuje avtomatizacijo, da bi se tako zmanjšali stroški dela. Za primer poglejmo korporacijo, kot je Facebook: ima dve milijardi uporabnikov, v njej pa je zaposlenih zgolj 25 tisoč ljudi. Tako deluje zato, ker uporablja algoritme, ki se namesto ljudi odločajo o zapletenih vprašanjih. Korporacije se želijo popolnoma avtomatizirati, saj hočejo povečati učinkovitost in s tem dobiček. Umetno inteligenco si predstavljajte kot naslednjo stopnjo pospešene avtomatizacije, ki naglo postaja temelj našega gospodarstva. Umetni inteligenci bi pravzaprav morali reči kar umetna avtomatizacija ali oglaševalska avtomatizacija. To je pravzaprav vse, kar je: zbira podatke, da lahko predvidi, kaj se bo zgodilo, iz tega procesa pa si prizadeva izločiti ljudi. Izvirna zamisel o umetni inteligenci in distopični strahovi, povezani z njo, izhajajo iz znanstvenofantastične klasike, drame Univerzalni roboti (R. U. R.), ki jo je leta 1920 napisal Karel Čapek. Ta temelji na zamisli, da stroji postanejo zavestna bitja, razvijejo samozavedanje in čustva. Zamisel je podlaga za znanstvenofantastične predstave o robotih, vendar moramo vedeti, da je to zgolj stvar domišljije – tako kot goblini ali čarovniki. V resničnosti se to ne bo nikoli zgodilo.

Če gre zgolj za domišljijo, me zanima, zakaj se v etiki robotike razvija posebno področje, ki se ukvarja s pravicami robotov? Mar to ne izhaja ravno iz predvidevanja, da bo umetna inteligenca z razvojem dosegla stopnjo samozavedanja in umetne zavesti?

Fantazija o pojavitvi samozavednih robotov izhaja iz dveh temeljnih izvorov. Najprej iz korenitega pomanjkanja medčloveških odnosov, posebej med moškim in žensko, saj moški ženske vidijo kot objekte in odnosi med spoloma zelo redko temeljijo na enakopravnosti. Drugič, živimo v družbi, ki je organizirana na lastništvu, torej je imetje prvotnega pomena. Žal zgodovina lastnine ne pozna zgolj v obliki fizičnih objektov, temveč so lastnina tudi živa bitja, to je najočitnejše pri suženjstvu. Jasno je, da je lastništvo nad ženskami še vedno prisotno. Takšna povezava med človeštvom in prevrednotenjem imetja ustvarja disociacijo med ljudmi in njihovimi odnosi z drugimi okoli njih: ljudi atomizira do takšnih skrajnosti, da si ustvarijo fantazijo, da bo njihova lastnina oživela. Po svoje jim je jasno, da je imetje neživo, hkrati pa vedo, da lahko ljudi spremenijo v imetje. Prepričana sem, da ravno iz tega izhaja fantaziranje, da bodo predmeti oživeli, da bodo roboti razvili zavest. Takšne predstave so prisotne že od nekdaj: v epski poeziji starih Grkov so bile prisotne v obliki mitoloških bitij, kot je denimo Minotaver, danes pa je takšna domišljija racionalizirana s tehnološkimi inovacijami, ki nadrealističnim predstavam o živih predmetih daje neke vrste verodostojnost. Za zgrešeno zamislijo o pravicah robotov in težnjo po tem, da bi zakon prepoznal kategorijo elektronskih oseb, stojijo popolnoma politični vzgibi, nikakor ne tehnološki. Težnje po tem, da bi roboti dobili pravice, so pravzaprav težnje po tem, da takšne pravice dobijo korporacije. Tudi če vseh teh zgrešenih zamisli ne promovirajo velika podjetja neposredno, jim akademiki pogosto zagotovijo racionalizacijo. Nazoren primer ponovno najdemo že v antični Grčiji: ko Aristotel v Politiki o sužnjih govori kot o orodju, s tem kot moški državljan upravičuje svoj zaničevalni odnos do sužnjev in žensk. Akademska srenja pogosto igra vlogo posojevalke idej politični eliti, s temi idejami pa ta potem upravičuje nadaljevanje in utrjevanje svojega vladanja. Gre za skrajno obliko tega, kar je Marx imenoval blagovni fetišizem.

Pri etičnih vprašanjih v robotiki morajo biti v postopke odločanja vključeni strokovnjaki, ki holistično razumejo delovanje družbe, predvsem pa to, da težave nikoli niso zgolj tehnološke, temveč večinoma tudi ekonomske in politične.

Se etična vprašanja v robotiki pravzaprav vrtijo predvsem okoli umetne inteligence ali je težava tudi v robotih, ki so izdelani po zgledu človeškega telesa?

Antropomorfizem objektov in lastnine korporativno moč razširi v naše življenje, saj je za podjetja koristno, če nas prepričajo, da drug drugega ne potrebujemo – da lahko, namesto da gradimo medsebojne odnose, kupujemo proizvode. Takšna miselnost se še dodatno okrepi s tem, da so ti proizvodi videti kot ljudje, zaradi umetne inteligence pa lahko tudi govorijo in se premikajo kakor mi. V resnici tem proizvodom ogromno manjka, saj so vseeno zgolj predmeti. Najnaprednejša stvar, ki jo lahko doseže robotika, je, da stroj deloma počloveči, vendar gre pri tem predvsem za fizično estetiko. Navdušenje nad stvarmi, ki so podobne ljudem, poznamo že iz renesanse: nad umetninami, ki so človeško telo prikazale realistično, smo že od nekdaj navdušeni. Razlog za prevzetost nad neživimi stvarmi, kot so roboti, je večinoma videz. Če pogledamo njihovo obnašanje in komunikacijske sposobnosti, hitro ugotovimo, kako zelo omejeni so.

Komunikacijske sposobnosti robotov se bodo verjetno izboljšale, saj je pomembno področje robotike razvoj robotov, namenjenih predvsem družabnosti. Kakšni so vaši pogledi na razvoj takšne tehnologije?

Naj jih ustvarjajo, a narobe je, da jim pravijo družabni roboti. Nič ni narobe s tem, da inženirji izumljajo humanoidne robote, ki naj bi služili ljudem in ki ljudi zabavajo. Ne moremo pa reči, da gre za družabne robote. S tem trdimo, da bodo ti stroji imeli osebne odnose z lastniki, da bodo igrali osebne vloge, ki jih sicer igrajo ljudje. Če se ta zamisel normalizira, to ne bo vplivalo zgolj na politična dejanja, ker bomo popolnoma odtujeni ves čas le sedeli pred računalnikom, se družili z družabnim robotom in seksali s spolnim robotom: to bo vsekakor vplivalo tudi na duševne in telesne bolezni, zaradi izolacije in odtujenosti jih bo vse več. Težave, s katerimi se spoprijemamo v življenju, lahko rešimo zgolj tako, da jih zaupamo drugim ljudem. Pri moških je prisotna večja stopnja samomorilnosti kot pri ženskah, ker navadno ne govorijo o tem, kaj jih muči. Če boš težave zaupal robotu, ti ta ne bo znal resnično pomagati, ne bo znal biti spontan, sočuten, ne bo ti mogel zaupati svojih izkušenj. Če si žalosten in okrog sebe nimaš ljudi, potem si raje omisli domačo žival.

Nimam težav s tem, da nastajajo roboti, ki bodo starejšim pomagali pri nakupovanju, fizičnih opravilih in brskanju po spletu. Nikakor pa jim ne morejo pomagati pri težavah z osamljenostjo. Robotu lahko rečemo na primer avtomatizirani glas, nikakor mu ne moremo reči družabnik. Že zgolj kompleksnost človeškega jezika je prezahtevna, da bi jo roboti obvladali, kot jo obvladamo ljudje. Kaj šele, da bi pomagali premagati občutek osamljenosti ali duševne težave. Z avtomatiziranimi jezikovnimi pomočniki je komunikacija izjemno omejena. Vprašaš jih lahko denimo, kakšno bo jutri vreme, vendar te začnejo zelo hitro dolgočasiti. Otroci nam ogromno povejo o trenutnem stanju robotike. Če želiš preskusiti, ali je robot prefinjen ali ne, ga daj otroku. Otroci občasno obiščejo laboratorije inštituta MIT, kjer sem preučevala robote. Ko se začnejo ukvarjati z roboti, ki naj bi bili družabno interaktivni, postanejo izjemno zdolgočaseni: roboti so nekoliko neodzivni, obnašajo se zelo čudno in nerodno, njihovi odgovori pa so popolnoma kaotični. Po nekaj trenutkih interakcije z njimi so otroci odvihrali ven, da bi skakali po trampolinu. Robotika in razvoj umetne inteligence seveda napredujeta in brez dvoma bodo roboti, namenjeni interakcijam, v komunikaciji postali bolj prefinjeni, a nikoli ne bodo kot ljudje, saj ljudje pač niso predmeti.

Če so roboti tako socialno »nepokretni«, kako to, da razvijajo tudi robote, ki naj bi ljudem pomagali pri premagovanju duševnih težav? Preučevali ste robote, ki so namenjeni terapiji avtističnih otrok.

Zdravniki pri terapijah uporabljajo različne predmete, denimo igrače, kocke in knjige. Če terapevt prepozna specifičen način, pri katerem je raba napredne tehnologije koristna, vendar vseeno ne opusti neposrednega dela z bolnikom, je to čisto v redu. Poznamo denimo študijo, ki poroča o rabi navidezne resničnosti pri zdravljenju fobij. Človeka, ki trpi za fobijo, lahko izpostaviš predmetu njegove fobije, ne da bi ga neposredno izpostavil temu, česar se boji. To se zdi popolnoma smiselno. Tudi pri zdravljenju avtizma so lahko roboti deloma koristni. Težava se pojavi pri mišljenju, da so avtistični otroci asocialni in so torej objekti najboljše, kar lahko zanje naredimo. Pri razvoju robotike, namenjene terapiji avtističnih otrok, se predvideva, da avtisti razmišljajo podobno kot stroji: potemtakem naj bi bili roboti primernejši za terapijo kot ljudje. Gre za zgrešeno predstavo. Nimam težav s tem, da inženirji ustvarjajo robotske igrače, ki otrokom pomagajo kot sredstvo za učenje, vendar ko kdo trdi, da imajo avtistični otroci predmete rajši od ljudi, da je robot primernejše sredstvo za učenje družbenega delovanja kot človeški terapevt, se pojavi velika težava. Takšno prepričanje bi moralo zbujati skrbi, vendar jih ne. Proizvodnja terapevtskih robotov se zadnja leta širi, namesto da bi se krčila. Če v prihodnosti ne bomo problematizirali tega, kako so avtisti označeni, katere terapevtske metode in tipi tehnoloških inovacij so uporabljeni pri delu z njimi, bo nazadnje pomembno zgolj to, da je raba robotov cenejša kot delo pravih terapevtov, in ravno ti razlogi bodo prevladali pri končnih odločitvah. Robotika je za zdaj v embrionalni fazi in še vedno je čas, da vanjo posegamo. V tej točki še ni normalizirana, ljudje si še vedno mislijo, da je nekaj pri tem čudno. Zavedanje moramo širiti, dokler si ljudje to mislijo, in ne po tem, ko bodo takšni fenomeni kulturno sprejeti. Vsekakor pa je pohvale vredno, da so v projekt vključili tudi strokovnjake za etiko, kakršna sem sama, saj v podjetju vedo, da imam o tej temi izjemno kritično mnenje. Nekateri znanstveniki očitno vseeno upoštevajo tudi kritično mišljenje, čeprav so nazadnje oni tisti, ki odločajo o pomembnih stvareh.

Razlog za prevzetost nad neživimi stvarmi, kot so roboti, je večinoma videz. Če pogledamo njihovo obnašanje in komunikacijske sposobnosti, hitro ugotovimo, kako zelo omejeni so.

Ste strokovnjaki za etiko in moralno filozofijo tudi sicer pogosto vključeni v procese proizvodnje robotov ali pa se o etičnih vprašanjih v robotiki odločajo predvsem inženirji?

Vključitev strokovnjakov za etiko in moralno filozofijo bi lahko bila dobra stvar, a pravzaprav menim, da se lahko razvojni proces v robotiki zaradi njih pogosto še bolj zaplete. O akademskem svetu moramo razmišljati kot o panogi, kjer ljudje kariero gradijo tako, da izstopajo iz povprečja. Humanisti to neredko storijo tako, da okrepijo in utrdijo nekatera ortodoksna prepričanja. Nekaj, kar je za akademika dobro v kontekstu njegove raziskave, kariere in količine znanstvenih objav, pogosto ni dobro za družbo. Prav moralni filozofi so tisti, ki so začeli promovirati zamisel o pravicah robotov, se povezali s somišljeniki – od pravnikov do podjetnikov – in začeli postopke uresničevanja te zamisli. V postopke odločanja morajo biti vpleteni socialni antropologi, sociologi in filozofi ter drugi strokovnjaki, ki holistično razumejo delovanje družbe, predvsem pa to, da težave nikoli niso zgolj tehnološke, temveč so večinoma tudi ekonomske in politične. Pri razvoju novih tehnologij je ključen dialog z ljudmi, na katere bo ta razvoj vplival. Nujno moramo vključiti njihove glasove, moralni filozofi pa tega, žal, ne počnejo vedno. Moje ravnanje izhaja iz političnega interesa, ker se zavedam neenakopravnosti v svetu in se skušam prepričati, da so ljudje slišani, hkrati pa tudi iz socialne antropologije, saj v proces vključujem veliko osebnih interakcij. Sociologi znajo biti precej neosebni, kajti njihove raziskave pogosto temeljijo na kvantitativnem zbiranju podatkov. Antropološka metoda, ki temelji na pogovorih na štiri oči, je izjemno pomembna tudi pri etiki robotike. Vključiti je treba čim več glasov, čim več vidikov. Če katerakoli disciplina – pa naj gre za antropologijo, sociologijo ali filozofijo – tega ne stori, potem to ne bo učinkovito. Prav tako ne bo učinkovito, če različnih glasov ne bodo vključili inženirji. Oni imajo popolnoma drugačen pogled na to, kako te zadeve delujejo, kot ga ima humanizem. Vendar poznamo tudi pomembne znanstvenike, ki so pri svojem delu izhajali s pozicije morale. Eden takšnih je bil na primer Einstein: bil je izjemno zaskrbljen zaradi svoje formule, ki je bila uporabljena za izdelavo atomske bombe. Tudi Joseph Weizenbaum, ki je razvil program Eliza, je pozneje v življenju kritično razmišljal o tej stvaritvi. Skratka, nekateri strokovnjaki gledajo na svoje delo iz kritične perspektive. A nazadnje je pravzaprav vse odvisno od izobraževalcev: tudi tehnične univerze morajo zagotoviti, da si bodo njihovi študenti pridobili znanje iz antropoloških in socioloških ved.

V svojem kritičnem delu se sicer osredotočate predvsem na družabne, terapevtske in spolne robote, a verjetno se strinjate, da je najbolj skrb zbujajoče področje robotike pravzaprav razvoj vojaških robotov in avtonomnega orožja?

Težava je v tem, da je lahko katerakoli tehnološka inovacija v robotiki aplikativna pri razvoju naprednega orožja. Vojaška tehnologija, ki je zdaj na voljo, bi lahko zaradi količine, v kateri je na voljo, večkrat zapored izbrisala celoten planet. V smislu vojnih grozodejstev je človeštvo samo sebe prekosilo že s kemičnim in jedrskim orožjem. Vsak odziv na vojaško robotiko in avtonomno orožje mora biti odziv na militarizem v celoti. Vojaški stroj militarizma je vzdrževan zato, ker je dobičkonosen. DARPA, ameriška zvezna agencija za obrambne raziskovalne projekte, financira številne univerzitetne projekte. V laboratoriju na inštitutu MIT je tudi robot Kismet. Gre za nedolžnega robotka, namenjenega družbeni interakciji, njegov razvoj pa je sofinancirala prav DARPA. Zakaj se agencija za obrambne projekte zanima za razvoj ljubkega družabnega robota na univerzitetnem tehnološkem inštitutu? Ker bodo tehnologijo, s katero deluje ljubki robotek, uporabili za neki drug, po možnosti smrtonosen namen. Ameriške univerze ravno zato v velikem obsegu financira vojska. A težava je pravzaprav veliko globlje: če v kontekstu razvoja družabnih robotov trdimo, da so medosebni odnosi med ljudmi stvar izbire, je to pravzaprav večja katastrofa za človeštvo kot vojaški stroji. Če se dehumanizacija odnosov normalizira, boj proti kakršnemukoli orožju ne bo mogoč, saj ljudje ne bodo imeli nikakršnega sočutja drug do drugega, ne bo jim mar za spremembe v svetu, izolirani bodo, trpeli bodo za depresijo in drugimi duševnimi motnjami.

Že zdaj obstajajo javne hiše v deželah, kot je Nemčija, kjer poleg klasične ponudbe ponujajo še spolne storitve seksualnih robotov. Ustvarjajo popolnoma nov trg, nove vrste bordelov, nove žanre v pornografiji.

Ste se ravno zaradi strahu pred dehumanizacijo človeštva začeli boriti proti seksualnim robotom?

Ker sprva nisem našla očitnega odgovora na vprašanje, zakaj bi ljudje potrebovali robota za lajšanje osamljenosti, sem začela študirati razvojno psihologijo, brala sem študije o otrocih, o zlorabi otrok in o psihozah, da bi ugotovila, kaj lahko kot politično angažiran človek storim v mehaniziranem svetu, kjer smo obkroženi s stroji. V jedru mojih nazorov je prepričanje, da intenzivna mehanizacija okoli nas vodi v objektivacijo ljudi in njihovo razčlovečenje. Spolni roboti obstajajo samo zaradi vseprisotne objektivacije žensk. Obstajajo zato, ker obstaja trg, ki trži zlorabo žensk in njihovih teles, kar seveda izhaja iz normaliziranja objektivacije. Nekateri ljudje na ženske gledajo kot na objekte – kot na nekaj, kar lahko kupiš, kot na nekaj, nad čimer lahko izvajaš nasilje za svoj užitek. Ti vzgibi se nato prenesejo v resnično življenje. Dobro vemo, da pornografija ne prikazuje ljubljenja: prikazuje čedalje nasilnejše in vedno bolj sprevržene prizore, ki vzburjajo občinstvo. To nato takšna dejanja stori v resničnosti. Empirično je dokazano, da je med gledalci pornografije prisotna povečana objektivacija žensk, ko pride do interakcije z ženskami v resničnem življenju. To so dejanske posledice.

Kako kljubujete nekaterim zagovornikom spolnih robotov, ki zagovarjajo misel, da lahko napredni spolni roboti na dolgi rok zmanjšajo povpraševanje po prostituciji?

To je prvotna utemeljitev proizvajalcev. Že zdaj obstajajo javne hiše v deželah, kot je Nemčija, kjer poleg klasične ponudbe ponujajo še spolne storitve seksualnih robotov. Spolne lutke in robote razvijajo po vsem svetu in ustvarjajo popolnoma nov trg, nove vrste bordelov, nove žanre v pornografiji. Velik del tega trga predstavljajo tudi tako sprevržene stvari, kot so spolni roboti, ustvarjeni po podobi otrok. Razvoj spolnih robotov trg širi, namesto da bi ga krčil. Ko v industriji nekatere skrajnosti postanejo norme, mora industrija iskati še večje skrajnosti, podla dejanja dehumanizacije, ki jih bo lahko tržila in z njimi ustvarjala dobiček. Prizadevam si, da bi prostitucijo izkoreninili po vsem svetu, da bi ukinili prakse, pri katerih so ženska telesa objektivirana – torej prakse, kjer se z ženskami ravna kot s proizvodi. To je dolgoročen in izjemno pomemben cilj. Pri svojem aktivističnem delu pa bom spodbujala k spremembi zakonodaje, ki je danes v svojem bistvu prohibicija tega, da lahko podjetja trdijo, da proizvodi, ki jih prodajajo, igrajo človeške vloge. Zakonodaja bi morala delovati kot prepoved tega, da se stroji lahko tržijo kot osebe, družabniki ali partnerji. Gre pač za veliko pomembnejšo zadevo kot zgolj za spolne robote.

Pisma bralcev pošljite na naslov pisma@mladina.si. Minimalni pogoj za objavo je podpis z imenom in priimkom ter naslov. Slednji ne bo javno objavljen.