Nehumani algoritmi

Pred devetimi leti je nizozemska davčna uprava uvedla avtomatiziran sistem, ki je prek algoritmov in umetne inteligence ugotavljal, kdo predstavlja tveganje za zlorabo socialnih pravic, te osebe pa je na podlagi suma tudi kaznoval. Kaj kmalu se je izkazalo, da je sistem kot tvegane označeval ljudi z nižjimi prihodki in pripadnike manjšin. Sodišče v Haagu je pred dvema letoma odločilo, da je bila uporaba sistema zaradi nesorazmernega dostopa in predolge hrambe podatkov nezakonita, vendar to ni popravilo vseh krivic, ki jih je sistem povzročil. Znani so primeri staršev, ki so prejeli astronomsko visoke zahtevke za vračilo otroških dodatkov – in zato storili samomor ali hudo zboleli, več kot tisoč otrok pa je bilo odpeljanih v rejo.