Verjetno kriv

Na Nizozemskem je sodišče prepovedalo rabo računalniškega programa, nekakšne umetne inteligence za lovljenje prejemnikov socialnih prejemkov, ki naj bi bili izkoriščali sistem. Računalniški program oziroma algoritem, ki ga uporabljajo nizozemske socialne službe, na podlagi različnih parametrov in preteklih izkušenj izračuna verjetnost, da nekdo zlorablja sistem socialne pomoči. Tiste, pri katerih je verjetnost večja, potem država obišče in preveri. Ne, ne gre za to, da bi država sumila, da nekdo zlorablja socialni sistem, in potem opravila nadzor. To stori, ker je algoritem izračunal, kateri upravičenci so »verjetnejši« kršitelji od drugih.

Sodišče je razsodilo, da gre za ukrep, ki glede na posege v človekovo zasebnost ni sorazmeren s koristmi, ki jih prinaša. Država ne izvaja nadzora pri naključno izbranih prejemnikih socialne pomoči ali pa glede na dejanske sume kršitev, pač pa glede na verjetnost, da bo nekdo kršil zakonodajo. Ta verjetnost se izračuna na podlagi podatkov iz številnih zbirk osebnih podatkov prejemnikov socialnih pomoči – kraja bivališča, lastništva nepremičnin in premičnin, davčnih napovedi, prostočasnih aktivnosti … možnosti so brezkončne.

Zadovoljstvo z odločitvijo sodišča so izrazile številne človekoljubne organizacije in tudi Združeni narodi, a gre za dokaj osamljeno dobljeno bitko v siceršnji vojni, v kateri zmagujejo ustvarjalci takšnih računalniških programov in seveda njihovi kupci na čelu z državnimi organi, podjetji in političnimi strankami, ki so zainteresirani za podatek o verjetnosti ravnanja nekega posameznika ali družbene skupine.

Številne podobne programe po svetu že dolga leta uporabljajo policije, tožilstva in celo sodišča. Z njimi si ti organi »pomagajo« ugotavljati, kdo je kršilec zakonodaje in kdo ne. V ZDA si tako pri odločanju o usodi ljudi v kazenskih postopkih pomagajo celo sodniki. Težava je, ponovimo, v tem, da ne gre za odločanje o dejstvih in specifikah posameznika, pač pa odločanje na podlagi verjetnosti, da je nekdo kriv, da bo pobegnil, da bo ponovil kaznivo dejanje … Verjetnost se pač računa glede na pretekle primere že obravnavanih storilcev kaznivih dejanj, ki so po različnih parametrih podobni obravnavanemu primeru oziroma storilcu.

Takšno računalniško pomoč naj bi v kratkem dobili tudi slovenski pravosodni organi. Prvi naj bi jo začeli uporabljati v upravi za probacijo in naj bi tam zaposlenim »pomagala« iskati bolj problematične storilce kaznivih dejanj na pogojnem odpustu. Seveda naj bi tudi ta algoritem izračunal zgolj verjetnost, da bo nekdo sodeloval s probacijskim osebjem in izpolnjeval dane naloge ali pa ne. Verjetnost bo seveda izračunana glede na izkušnje s »podobnimi« osebami v preteklih probacijskih postopkih.

Sčasoma postaja vse manj pomembno, ali posameznik dejansko ravna protizakonito ali ne, in vse pomembneje, ali je glede na množico osebnih in drugih podatkov podoben preteklim kršiteljem zakona ali ne.