“Esperimentazio aldian egon arren, irakaskuntza automatikorako algoritmoen erabilera geroz eta ohikoagoa da justizia-sistema penalean”, adierazi du Dunja Mijatović Europako Kontseiluko giza-eskubideen komisarioak kontseiluko webgunean argitaratu duen idatzi baten bidez. Testua baliatu du aipatu algoritmoak darabiltzaten delituak iragartzeko sistemen emaitzak “potentzialki diskriminatzaileak” direla agerian jartzeko.

Mundu mailan aski hedatuak dira delituak iragartzeko sistemak, eta algoritmoak darabiltzate lapurreta bat gertatzeko aukera gehien zein gunetan dagoen aurreikusteko edo epaiketaren zain dagoen norbanako bati behin-behineko espetxealdia ezarri ala ez erabakitzeko, besteak beste. Mijatović-ek ohartarazi duenez, baina, algoritmo horiek diskriminatzaileak izaten dira.

Ter Graciak El Salto bidez jakinarazi duenez, aurretiaz ere sistema hauek jo-puntuan jarri dituenik bada, Big Brother Watch antolakundea kasu. Algoritmo bidezko sistemen ikerketak oinarri hartuta, antolakunde honek informe bat argitaratu zuen, sistemok diskriminazio patroiak indartu bakarrik ez, atzeraelikadura bati ere bide ematen diotela ondorioztatuz. Atzeraelikadura horren ondorioz, krimen-kopurua alde batera, sistemok polizia presentzia altuko guneetara polizia gehiago bidaltzen zutela nabarmendu zuen informeak.