Cette IA prédit la criminalité une semaine à l'avance et met en évidence les biais des services de police

Les efforts visant à utiliser l'IA pour prédire la criminalité ont été semés de controverses en raison de la possibilité de reproduire les biais existants dans les services de police. Mais un nouveau système alimenté par l'apprentissage automatique promet non seulement de faire de meilleures prédictions, mais également de mettre en évidence ces biais.

S'il y a une chose pour laquelle l'apprentissage automatique moderne est bon, c'est de repérer des modèles et de faire des prédictions. Il n'est donc peut-être pas surprenant que de nombreux acteurs du monde de la politique et de l'application de la loi souhaitent mettre ces compétences à profit. Les promoteurs veulent former Modèles AI avec des dossiers criminels historiques et d'autres données pertinentes pour prédire quand et où les crimes sont susceptibles de se produire et utiliser les résultats pour orienter les efforts de maintien de l'ordre.

Le problème est que ce type de données cache souvent toutes sortes de préjugés qui peuvent être trop facilement reproduits lorsqu'ils sont utilisés pour former des algorithmes sans réfléchir. Les approches précédentes incluaient parfois de fausses variables telles que la présence de graffitis ou des données démographiques, qui peuvent facilement conduire les modèles à faire des associations erronées basées sur des critères raciaux ou socio-économiques.

Même les données policières de base sur les crimes signalés ou le nombre d'arrestations peuvent contenir des biais cachés. Le maintien de l'ordre dans certaines zones supposées être à forte criminalité en raison de préjugés préexistants entraînera presque inévitablement davantage d'arrestations. Et dans les zones de grande méfiance à l'égard de la police, les crimes peuvent souvent ne pas être signalés.

Néanmoins, être en mesure d'anticiper les tendances de l'activité criminelle à l'avance pourrait profiter à la société. Ainsi, un groupe de l'Université de Chicago a développé un nouveau système d'apprentissage automatique qui peut prédire quand et où les crimes sont susceptibles de se produire mieux que les systèmes précédents et également être utilisé pour sonder les biais systémiques dans le maintien de l'ordre.

Les chercheurs ont d'abord rassemblé plusieurs années de données de la police de Chicago sur les crimes violents et contre les biens, ainsi que le nombre d'arrestations résultant de chaque incident. Ils ont utilisé ces données pour former une suite de modèles d'IA qui montrent comment les changements dans chacune de ces variables ont un impact sur les autres.

Cela a permis à l'équipe de prédire les niveaux de criminalité dans des zones de 1,000 90 pieds de large de la ville jusqu'à une semaine à l'avance avec une précision de XNUMX%, comme indiqué dans un récent papier dans Comportement humain de nature. Les chercheurs ont également montré que leur approche atteignait une précision similaire lorsqu'ils étaient formés sur les données de sept autres villes américaines. Et lorsqu'ils l'ont testé sur un ensemble de données d'un défi de police prédictive organisé par l'Institut national de la justice, ils ont surpassé la meilleure approche dans 119 des 120 catégories de test.

Les chercheurs attribuent leur succès à l'abandon des approches qui imposent des contraintes spatiales au modèle en supposant que la criminalité apparaît dans les points chauds avant de se propager aux zones environnantes. Au lieu de cela, leur modèle a pu capturer des connexions plus complexes qui pourraient être médiatisées par des liaisons de transport, des réseaux de communication ou des similitudes démographiques entre différentes régions de la ville.

Cependant, reconnaissant que les données utilisées pour l'étude étaient susceptibles d'avoir été entachées de préjugés existants dans les pratiques policières, les chercheurs ont également étudié comment leur modèle pourrait être utilisé pour découvrir comment ces préjugés pourraient déformer la façon dont les forces de l'ordre déploient leurs ressources.

Lorsque l'équipe a augmenté artificiellement les niveaux de crimes violents et de crimes contre les biens dans les quartiers les plus riches, les arrestations ont bondi, tandis que celles des quartiers les plus pauvres ont chuté. En revanche, lorsque les niveaux de criminalité ont augmenté dans les zones pauvres, il n'y a pas eu d'augmentation des arrestations. L'implication, disent les chercheurs, est que les quartiers les plus riches sont priorisés par la police et peuvent détourner les ressources des plus pauvres.

Pour valider leurs conclusions, les chercheurs ont également analysé les données brutes de la police, en utilisant l'augmentation saisonnière de la criminalité pendant les mois d'été pour étudier l'effet des taux de criminalité élevés dans différentes régions. Les résultats reflétaient les tendances identifiées par leur modèle.

Malgré son exactitude, le responsable de l'étude, Ishanu Chattopadhyay, a déclaré dans un communiqué de presse que l'outil ne devrait pas être utilisé pour déterminer directement l'allocation des ressources policières, mais plutôt comme un outil pour étudier de meilleures stratégies de maintien de l'ordre. Il décrit le système comme un «jumeau numérique des environnements urbains» qui peut aider la police à comprendre les effets des différents niveaux de criminalité ou d'application dans différentes parties de la ville.

Il reste à voir si la recherche peut aider à orienter le domaine de la police prédictive dans une direction plus consciencieuse et responsable, mais tout effort visant à équilibrer le potentiel de sécurité publique de la technologie par rapport à ses risques considérables est un pas dans la bonne direction.

Crédit image: David de Diemar / Unsplash