Človekove pravice v rokah robotov?

Prišel bo dan, ko bodo namesto sodnikov o usodi ljudi odločali računalniški programi, umetna inteligenca, roboti skratka. Nekoč, v daljni prihodnosti, ko bodo roboti opravljali že tudi številne druge človeške in medčloveške dejavnosti? Ne, ponekod je to že realnost, drugod bo jutri ali pojutrišnjem. Kmalu recimo celo na evropskem sodišču za človekove pravice v Strasbourgu.

Domovina »tehnološkega napredka« pri odkrivanju, preiskovanju in dokazovanju kaznivih dejanj oziroma vpeljevanja računalniških programov v odločanje v pravosodju so ZDA, kjer pravica že dolgo ni nekaj absolutnega, pač pa stvar pogajanj. In računalniških programov.

Računalniški algoritmi, ki predvidevajo, kdaj in kje se bo zgodil zločin, ter programi, ki namesto sodnikov odločajo o priporu in celo o višini kazenske sankcije (in ker gre to z roko v roki, dejansko tudi o krivdi), so tam nekaj običajnega. Prvi program, ki je sodnikom »pomagal« določati kazni, je bil uporabljen že leta 1994 v zvezni državi Virginiji, danes v ZDA namesto sodnikov o priporu in pogojnem odpustu iz zapora odločajo računalniški programi že v veliki večini zveznih držav. Vsaj osem zveznih držav pa računalniške programe uporablja za določanje višine kazenske sankcije, ki jo sodnik potem le še izreče. Tak je trend tudi v Kanadi in Veliki Britaniji, ki imata podobno pravno ureditev. Številne druge države pa z zanimanjem pogledujejo k tem, »naprednim« državam.

Umetna inteligenca naj se ne bi bila sposobna naučiti zgolj pravnega znanja, ki ga premorejo evropski sodniki, pač pa tudi vrednostnih komponent njihovega odločanja.

Kdor je že kdaj prisostvoval dogajanju v kaki slovenski sodni dvorani, kjer so do nedavna vse izjave zapisovali po (ponovnem) nareku sodnika oziroma sodnice, se mu vse to lahko zdi kot znanstvena fantastika. A tudi v Sloveniji je bil pred časom že javno predstavljen računalniški program, ki ga razvija tudi skupina računalničarjev z Univerze Stanford, v kateri sodeluje predavatelj na tej univerzi, dr. Jure Leskovec. Gre za program, ki o posameznikovi usodi »odloča« na podlagi socialnodemografskih podatkov tega posameznika oziroma na podlagi statistične verjetnosti, da bi posameznik s temi socialnodemografskimi lastnostmi moral končati v priporu ali pa ne.

Dr. Leskovca je sprejel tudi pravosodni minister Goran Klemenčič, ki je ob tem povedal, da pozdravlja in podpira »inovativne informacijske rešitve v sodstvu, skupaj z uporabo kompleksnih analiz velikega števila podatkov«. Računalniški algoritmi bodo po njegovem mnenju vse bolj uporabni za »ocenjevanje dejanskega stanja, analiziranje sodne prakse in krepitev njene enotnosti in predvidljivosti«. Edino področje, kjer Klemenčič ne podpira moderne tehnologije, je »odločanje o krivdi in odgovornosti. To je nekaj imanentno človeškega in je in bo moralo vedno ostati v rokah sodnika ali porote.« Minister se sicer zaveda, da bo tudi zaradi napredka tehnologije in sistemov umetne inteligence »pravica« čez desetletje ali dve »gotovo zelo drugačna, kot jo poznamo danes. Tega se ni treba bati, če bomo razumeli, da morajo nekatere stvari vedno ostati v domeni človeškega sodnika in razsodnika.«

Prav v tem je težava, v neizbežnosti računalniškega prevzema kazenskopravnega odločanja, ki bi moralo ostati v domeni človeka. Ta prehod se bo namreč zgodil veliko hitreje, kot pa poteka vpeljevanje računalniških algoritmov kot oblike pomoči pravosodnim odločevalcem. In prav zato vsakokratni ustvarjalci računalniških programov posebej poudarjajo, da programov niso ustvarili zato, da bi z njimi zamenjali sodnike oziroma nasploh pravnike, pač pa zgolj njim v pomoč. To je sicer nedavno v intervjuju za Mladino zatrdil tudi dr. Leskovec, ki je izpostavil še eno predvidljivo nevarnost računalniških programov v sodnem odločanju, ki so jo pokazale začetne študije in sicer, da bi sodniki računalniškemu programu preveč slepo zaupali in sledili. Da gre zgolj za pomoč in ne za nadomestilo sodnega odločanja, pa trdijo tudi razvijalci računalniškega programa oziroma umetne inteligence, ki se je iz javno dostopnih sodb evropskega sodišča za človekove pravice naučila odločati kot sodniki.

Program naj bi bil po zagotovilih njegovih ustvarjalcev drugačen oziroma naprednejši od drugih programov za napovedovanje sodnih odločitev. Doslej so se namreč večinoma računalniški programi »učili« in predvidevali sodne odločitve na podlagi narave storjenega zločina in (pravnih) stališč posameznih sodnikov. Aktualni algoritem pa je prvi, ki se uči iz celotne vsebine dosedanjih odločitev evropskega sodišča. Zapomni si besede in izraze, ki so jih sodniki uporabili v odločbah, ter tudi značilnosti in okoliščine primerov, torej dejansko stanje, na podlagi katerega so sodniki odločali. Tako naj bi umetna inteligenca pridobila ne zgolj pravno znanje, ki ga premorejo evropski sodniki, pač pa tudi vrednostno komponento njihovega odločanja, ki ima na vseh sodiščih podobnega tipa vsaj tako pomembno vlogo pri odločanju kot pravni paragrafi.

Trenutno je omenjeni računalniški program 79-odstotno uspešen pri napovedovanju odločitev sodišča, a po zagotovilih njegovih ustvarjalcev se bo z dodatnimi izboljšavami ta odstotek le še povečeval. Program se je namreč učil odločati zgolj na podlagi nekaj manj kot 600 zadev in glede (domnevnih) kršitev le treh členov evropske konvencije o človekovih pravicah – 3. člena oziroma prepovedi mučenja, 6. člena oziroma pravice do poštenega sojenja in 8. člena oziroma pravice do spoštovanja zasebnega in družinskega življenja.

Manevrskega prostora za dodatno učenje in posledično izboljšave umetne inteligence je torej še precej. V prvi vrsti na tisoče preostalih sodb, ki jih bo še mogoče dodati v učno bazo podatkov, ter tudi številna povezana pisanja, izvirni teksti tožb, ugovori, pritožbe in odgovori strank ter povezane sodbe nacionalnih sodišč, ki naj bi jih ustvarjalci programa pridobili od evropskega sodišča, vlad držav članic Sveta Evrope in odvetniških družb, ki zastopajo pritožnike pred evropskim sodiščem.

Vodja ekipe dr. Nikolas Aletras z Univerzitetnega kolidža v London je pojasnil, da »umetne inteligence ne vidimo kot nadomestilo za sodnike in pravnike, menimo pa, da bi zanje bila uporabna za hitro prepoznavanje vzorcev v zadevah, ki vodijo do določenih rešitev. Umetna inteligenca bi lahko bila tudi uporabno orodje za prepoznavo zadev, v katerih je najbolj verjetno, da je prišlo do kršitev konvencije o človekovih pravicah. Pričakujemo, da bi takšno orodje izboljšalo učinkovitost visokih sodišč, ki imajo velik pripad zadev.« In prav za to gre, za učinkovitost. Številna sodišča, med njimi je tudi sodišče v Strasbourgu (ne nazadnje tudi slovensko ustavno sodišče), se že dalj časa spopadajo s preobremenjenostjo. Ker so za pravico vedno na voljo le omejena sredstva, sodne zaostanke rešujejo tako, da večino zadev (tako evropski kot slovenski ustavni sodniki) zavrnejo in vsebinsko odločajo le o najbolj očitnih ali množičnih kršitvah človekovih pravic.

Stanje velikega števila kršitev človekovih pravic ter hkratne finančne in kadrovske podhranjenosti sodišč, ki o njih presojajo, pomeni veliko priložnost za umetno (sodno) inteligenco.

In prav takšno stanje, preveliko število pritožb oziroma kršitev človekovih pravic in finančno ter kadrovsko podhranjena sodišča, pomeni veliko priložnost za ustvarjalce računalniških programov. Ne gre za to, da bi sodniki, pravniki, odvetniki, tožilci ali preiskovalci kaznivih dejanj lahkomiselno in z odprtimi rokami sprejemali tovrsten tehnološki »napredek«, četudi bo na kratki rok dejansko olajšal njihovo delo. Na srednji rok bo namreč gotovo zmanjševal število zaposlitev v tem sektorju, na dolgi rok pa dejansko nadomestil večino teh poklicev. V sprejemanje računalniške »pomoči« bodo prisiljeni. Argumentu, da bodo računalniški programi z razbremenitvijo sodnikov in podpornega osebja dejansko (četudi zgolj začasno) povečali dostopnost pravice za širši krog ljudi, tudi na evropskem sodišču ne bodo mogli nasprotovati.

Precej podoben računalniški program, ki se uči iz preteklih sodnih odločitev in napoveduje prihodnje, sta nedavno izdelala dva študenta s Harvarda, ki ju je finančno podprl ameriški vlagatelj Peter Thiel. Razlika je le v tem, da tisti program, imenovan Legalist, ni namenjen »v pomoč« sodišču, pač pa fizičnim osebam ali še bolj podjetjem. Algoritem izračuna verjetnost fizične ali pravne osebe, da bo uspela z odškodninsko tožbo. Če je ta verjetnost izražena, ustvarjalci programa ponujajo pokritje stroškov tožbe v zameno za do 50 odstotkov dosojenega zneska odškodnine. Dr. Aleš Završnik z ljubljanske Pravne fakultete je pred časom pojasnil, da Legalistovi izračuni temeljijo na preteklih izidih, »računalniki lahko pripravijo le takšne ’induktivne’ napovedi, ki temeljijo na preteklih primerih. To je seveda omejitev dometa in moči takšne analitike. Prihodnost, ki jo napovedo, je nadaljevanje preteklega vedenja oziroma odločanja akterjev, katerih obnašanje šele poskušajo meriti.« Opozoril je, da je to »samouresničujoča se prerokba«, pri kateri gre za »krožno potrjevanje odločitev, algoritem se ujame v pretekle odločitve in ustavi razvoj novih. Zato sam svarim pred prevelikim zanašanjem na algoritme, čeprav je to trend na številnih področjih.«

A ta trend je nezaustavljiv. Nič preroškega ni v tem, če napovemo, da bodo v ne tako oddaljeni prihodnosti namesto sodnikov dejansko sodili računalniški programi. In tudi ni nič preroškega, če napovemo, da se bo človeštvo težav algoritmizacije sodnega odločanja zavedelo šele, ko bo ta globoko zakoreninjena v kazenskopravnem sistemu. Ko pravica ne bo dosti več kot zgolj statistični podatek. Ko bo računalniški program v rokah svetovalnih podjetij ali odvetniških družb na podlagi verjetnostnega računa svetoval, ali se splača vložiti tožbo oziroma preganjati storilca kaznivega dejanja. In ko bo potem neki drug računalniški program na sodišču na podlagi preteklih sorodnih odločitev odločil, ali je bila tožba upravičena ali ne oziroma ali je kdo kriv ali nedolžen.