30 / 05 / 2017
#The Verge

Au Royaume-Uni, la police assistée par IA pour décider des mises en détention

share
La police prédictive fait de nouveau parler d’elle, au Royaume-Uni, où la police de la ville de Durham cherche à s’équipe d’un outil « intelligent » évaluant la capacité de nuisance potentielle d’un prévenu, pour l’aider à prendre la décision, ou non, de le maintenir en détention. Les clés du débat, avec The Verge.

Combien des 50 000 habitants de la ville de Durham connaissent-ils Minority Report ? Connaisseurs ou non de la dystopie de Philip K. Dick, ils vont en tout cas connaître, à leur tour, les heurs et malheurs de la lutte prédictive contre la criminalité. Comme le rapporte The Verge, la police de cette ville britannique va en effet tester dans les prochains mois « Hart », pour Harm Assessment Risk Tool (« outil d’évaluation de la capacité potentielle à nuire»), un système permettant de décider le placement ou non en détention d’un suspect.

Pour ce faire, Hart classe les individus – par exemple, des suspects placés en détention provisoire et dont on se demande si leur bail en prison doit être renouvelé – selon qu’ils soient à risque faible, moyen ou élevé. L’algorithme derrière Hart utilise à cette fin des critères tels que le passif criminel du prévenu, la gravité du délit ou du crime pour lequel il est inculpé, le risque potentiel de fuite, mais aussi le genre ou le code postal. Un premier test, mené en 2013, a consisté à collecter, deux ans durant, des données sur des individus ayant commis une infraction et à comparer les prédictions de Hart avec la réalité – récidive ou non . Résultat : des individus correctement classés à faible risque dans 98% des cas, et à haut risque dans 88% des cas.

Alors que la police prédictive n’en est pas à ses premiers pas, la police de Durham a tenu à rassurer ses possibles contempteurs en attestant du caractère consultatif de Hart, du moins dans la phase préliminaire et expérimentale du projet : la décision, finalement, est humaine. Le sujet n’est pas anodin après la publication retentissante, en 2016, d’un rapport de l’organisation de journalistes ProPublica sur les biais inhérents aux logiciels de prédiction de la criminalité. Au Royaume-Uni, un rapport consécutif à une enquête parlementaire sur la prise de décision algorithmique a notamment conclu que le seul code postal ne doit pas avoir d’«impact direct» sur la décision, mais peut être utilisé de manière combinée. Hart, en tout cas, disposera d’un système de contrôle interne, permettant d’auditer les raisons de sa prise de décision.

On peut lire l’article de The Verge ici.