Koga povoziti?

Tramvajska dilema (angl. Trolley problem) je eden najbolj znanih miselnih etičnih problemov. Ko vidite, da proti skupini petih ljudi drvi tramvaj in da jih v primeru trka čaka gotova smrt, se morate odločiti – boste potegnili ročico kretnice in tramvaj preusmerili na drug tir, na katerem stoji en sam človek, ali boste peterico prepustili njihovi usodi? Boste posegli v situacijo in povzročili smrt enega človeka, da bi rešili pet drugih? Večina ljudi odgovori pritrdilno.

Dilema ima več izpeljank. Bi vam bilo lažje pritisniti gumb kot potegniti za ročico? Bi pred tramvaj porinili debeluha, da bi ga preusmerili? Je bolje žrtvovati stare ljudi, da bi rešili mlado življenje? Kaj če bi na drugem tiru stal vaš bližnji? Tu se lahko razmerja med odločitvami spremenijo.

S podobnim problemom se lahko srečamo v avtomobilu. Če nam pot prekriža mlad pešec – bomo zavili in trčili v avtobusno postajo s petimi čakajočimi starostniki? Bi bila odločitev drugačna, če bi pešec cesto prečkal, kjer ni prehoda za pešce? S takšnimi situacijami se k sreči ne soočimo ravno pogosto, če sploh kdaj. In v resničnem življenju ne bi imeli časa za razmislek, naš odziv bi bil instinktiven.

Ker pa želimo vožnjo v bližnji prihodnosti prepustiti avtomobilom, bo treba samovozečim vozilom vnaprej povedati, kako naj v določeni situaciji ravnajo. Miselni eksperiment ima naenkrat lahko realne posledice. »Naj avto, da se izogne trčenju v pešca, zavije desno in zbije kolesarja?« se je v govoru o prodoru umetne inteligence na internetni konferenci Web Summit v Lizboni prejšnji teden spraševal predsednik uprave Samsunga Young Sohn.

Naj moralne odločitve samovozečih avtomobilov temeljijo na univerzalni globalni etiki? Glede na nedavne ugotovitve ekipe znanstvenikov z več uglednih univerz imamo v različnih državah po svetu v različnih situacijah lahko precej različne poglede. Po vodstvom dr. Iyada Rahwana z ameriške univerze MIT so izdelali spletno računalniško »igro«, ki je ljudem z vsega sveta zastavila več dilem, s katerimi bi se lahko soočili samovozeči avtomobili. Poimenovali so jo ’Moralna mašina’, med uporabniki spleta pa je postala tako priljubljena, da je vprašalnik izpolnilo več milijonov ljudi. S tem so raziskovalci dobili bazo več kot 40 milijonov moralnih odločitev iz vseh držav sveta. Sodelujočim je skupno, da jim je pomembnejše življenje človeka od živali, da jim je pomembno rešiti čim več življenj in da imajo mlajši »prednost« pred starejšimi. Zadnje stališče je v nasprotju s splošno veljavno zapovedjo, po kateri posameznika ni dovoljeno diskriminirati na podlagi osebnih okoliščin.

Med državami obstaja tudi kar nekaj razlik v moralnih preferencah. Prebivalci držav z večjo ekonomsko neenakostjo bi denimo pogosteje prizanesli premožnejšim na račun brezdomcev. Prebivalci držav z zelo regulirano družbo bi se za obvarovanje pešca odločili odvisno od tega, ali cesto prečka na pravilen način. Skratka, če želijo proizvajalci samovozečih avtomobilov pridobiti zaupanje lokalnega prebivalstva, se lahko zgodi, da bodo avtomobili prihodnosti od države do države »razmišljali« različno.

Spopasti se bo treba tudi z vprašanjem sebičnosti. Večina ljudi je, kot je v eni prejšnjih raziskav ugotovil Rahwan, naklonjena varovanju pešcev na račun potnikov v avtomobilu. A hkrati se z avtomobilom, ki mu potniki ne bi bili na prvem mestu, nihče ne bi želel voziti.

»Avtonomna vozila predstavljajo lepo vizijo prihodnosti,« je v svojem nastopu dejal Young Sohn. »A najti moramo odgovore na številne etične in regulatorne dileme. Uvesti samovozeče avtomobile v velemestih, kot sta denimo San Francisco ali Seul, bo težko. Treba bo biti potrpežljiv.« V bližnji prihodnosti bodo po njegovi napovedi samovozeči avtomobili uporabni predvsem na zaključenih območjih s kolikor toliko »nadzorovanimi« pogoji. Dva samovozeča mini avtobusa naj bi denimo prebivalce dunajske soseske Seestadt Aspern v kratkem začela redno voziti do bližnje postaje podzemne železnice.