Kako računalniški algoritmi vplivajo na naše odločitve

Neskončne številke v algoritmih, ki jih uporabljamo vsak dan, veliko bolj vplivajo na naše vsakdanje odločitve kot rezultati iskanja prek Googla ali novic, ki nam jih ponuja Facebook. Napredni algoritmi so danes v uporabi za odločanje o vsem, od kazenskih sodnih postopkov do izobraževanja, na podlagi nekaj zglednih primerov navajajo novinarji spletnega časopisa ProPublica. Ob tem opozarjajo, da je rezultat diskriminacija, ko »veliki podatki uporabljajo slabe podatke«.

Novinarji časopisa Wall Street Journal so decembra 2012 ugotovili, da je spletna stran Staples.com kupcem prek spleta ponujala različne cene. Njihova višina je bila odvisna od tega, kako blizu konkurenčnih trgovin so stanovali. Ponujanje različnih cen kupcem na različnih lokacijah ni nezakonito, toda uporaba lokacije kot orodje za določitev cene lahko tudi povzroči razmah praks, ki naj bi jih spletna trgovina odpravila. To so višje cene v trgovinah na območjih, kjer je manjša konkurenca.

Časopis Chicago Tribune je avgusta 2013 poročal, da je policija v Chicagu prepričana, da lahko zmanjša kriminal z uporabo kombinacije matematičnih analiz in premišljenih intervencij. Na podlagi analize stikov prebivalcev prek socialnih omrežij in njihovih kaznivih dejanj so policisti v Chicagu sestavili »vroč seznam« ljudi, za katere je najbolj verjetno, da bodo v prihodnosti storili kaznivo dejanje ali bodo žrtev kaznivega dejanja.

New York Times je julija letos objavil, da je študija družbe Carnegie Mellon pokazala, da je Google pokazal oglase za dobro plačane službe več moškim kot ženskam. Študija univerze Harward pa je pokazala, da je Google iskalcem imen, ki so značilna za temnopolte, ponujal več zadetkov za strani s kaznivo vsebino kot iskalcem z drugimi imeni. Novinarji New York Timesa ugotavljajo, da algoritmi veljajo za »nevtralne« in »matematične«, toda takšni primeri kažejo, da lahko povzročajo ali spodbujajo predsodke.

San Francisco Cronicle je julija letos poročal, da je internet povzročil jezo, ko so bile fotografije temnopoltih Američanov na Googlovi strani Fotografije (Photos) in na Flickrju avtomatsko označene kot »gorile« ali »opice«. Izvedenci so pojasnili, da se je to lahko zgodilo iz dveh razlogov. Prvi je, da programa niso napolnili z dovolj fotografijami temnopoltih, da bi ta lahko prepoznal, da gre za temnopolto osebo. Drugi pa je, da v testiranje programa ni bilo vključenih dovolj temnopoltih, da bi lahko na ta problem opozorili pravočasno.

Ali naj zaporne kazni temeljijo na kaznivih dejanih, ki še niso bila storjena, so se letos avgusta spraševali pri The Marshall Projectu. Sodniki v ameriški zvezni državi Pennsylvania naj bi namreč o zaporni kazni odločali tudi na podlagi statistične ocene možnosti, da bo obtoženi v prihodnje izvedel dodatna kazniva dejanja. Formule za pripravo te ocene vključujejo starost osebe, zaposlitve in tudi kazniva dejanja družinskih članov.

Po izbruhu Volkswagnovega škandala zaradi goljufij pri merjenju izpustov je New York Times septembra opozoril, da imajo nekateri novi avtomobili vgrajeno programsko opremo, ki je bolj zapletena od tiste v velikem hadronskem trkalniku, zato imajo regulatorji težave pri sledenju.

Los Angeles Times je oktobra objavil, da so raziskovalci analizirali več sto tisoč vojaških podatkov, da bi sestavili algoritem, ki bi ga vojska ZDA lahko uporabljala za iskanje vojakov, za katere je največje tveganje, da bodo storili nasilna kazniva dejanja. Med 24 dejavniki, na podlagi katerih naj bi to ugotavljali so mladost, revščina, pripadnik manjšine nizkega ranga, težave z disciplino, poskus samomora in degradacija pred kratkim.

The Boston Globe je oktobra poročal, da ljudje v sistemu za socialno pomoč otrokom v zvezni državi Massachusetts razmišljajo, da bi začeli porabljati programsko opremo za analize, pri katerih otrocih je največje tveganje zlorabe. »Visoko tveganje« je v teh analizah pripisano ljudem, ki imajo več kaznivih dejanj, so nekdanji uživalci drog, so imeli psihološke težave. Kritiki opozarjajo, da ta programska oprema bistveno večje tveganje, da zlorabljajo svoje otroke, izpostavlja za revne in temnopolte starše.

Analiza FiveThirtyEight je oktobra pokazala, da spletna stran Fandango, prek katere je mogoče kupiti vstopnice, uporablja ocene filmov s petimi zvezdicami, kjer pa nobeden film ne more dobiti nižje ocene kot tri zvezdice. Upravljavci strani so potem, ko so bili na to opozorjeni, pojasnili, da je prišlo do napake v algoritmu, ki jo bodo odpravili.