Les robots de police IA seraient-ils une alternative plus sûre à l'avenir ?

L'intelligence artificielle (IA) devient rapidement un outil précieux dans la plupart des industries. Ces systèmes logiciels peuvent trier d'énormes quantités de données en une fraction du temps qu'il faudrait à un analyste humain pour faire la même chose.

Les systèmes d'IA sont devenus essentiels dans les soins de santé et la recherche pharmaceutique, la vente au détail, le marketing, la finance, etc. Certains partisans ont même envisagé l'utilisation de cette technologie dans l'application de la loi. Les robots de police IA seraient-ils une alternative plus sûre à l'avenir ?

"L'utilisation la plus courante de l'IA dans le travail de la police à l'heure actuelle est la reconnaissance faciale - surveiller les visages des individus dans les zones très fréquentées comme les gares ou les événements importants." 

Avantages de l'IA dans le travail policier

Le monde entier est imprégné de technologie. Tout, du téléphone portable dans une poche ou un sac à main à la technologie intelligente qui facilite la vie à la maison, repose sur l'un des nombreux langages de programmation qui alimentent le monde. Le travail de la police moderne ne fait pas exception. L'utilisation la plus courante de l'IA dans le travail de la police en ce moment est la reconnaissance faciale – surveiller les visages des individus dans les zones très fréquentées, comme les gares ou les événements importants.

Les caméras corporelles collectent d'énormes quantités de séquences vidéo, qui peuvent toutes être utilisées comme preuve d'un crime. Bien qu'il soit possible de revoir manuellement ces séquences vidéo, ce n'est pas une option efficace. Un système d'IA peut trier les images, rechercher des modèles ou identifier des informations en une fraction du temps qu'il faudrait à un analyste humain pour effectuer la même tâche.

« Les robots pourraient devenir des outils précieux pour la collecte de preuves. Les robots n'ont pas de cheveux ou de cellules cutanées qui pourraient contaminer une scène de crime, assurant une meilleure chaîne de garde » 

Axon, le plus grand producteur de caméras corporelles de la police du pays, a piloté un tel programme en 2014, affirmant que son IA pouvait décrire avec précision les événements montrés dans les images de caméras corporelles. En 2019, ils décidé de ne pas commercialiser la programmation. Les tests ont montré que les programmes fournissaient une identification peu fiable et inégale entre les différentes races et ethnies.

Les robots pourraient devenir des outils précieux pour la collecte de preuves. Les robots n'ont pas de cheveux ou de cellules cutanées qui pourraient contaminer une scène de crime, assurer une meilleure chaîne de contrôle. Cela signifie également moins d'erreurs qui pourraient empêcher une condamnation ou laisser un innocent en prison accusé d'un crime qu'il n'a pas commis.

Malheureusement, les robots de sécurité ne sont pas actuellement les outils les plus intelligents de la cabane à outils. Un robot de sécurité nommé Steve a été programmé pour patrouiller dans le complexe riverain du port de Washington à Washington, DC. il a dévalé les escaliers et a tenté de se noyer dans une fontaine.

"Une surveillance complète serait nécessaire pour introduire n'importe quel robot de police alimenté par l'IA dans la force" 

Dangers des robots de police IA

Le risque le plus important réside dans le fait que les humains programment encore ces appareils et, en tant que tels, sont soumis à des biais humains. Comment les programmeurs peuvent-ils créer un système d'IA impartial lorsqu'ils enseignent à ces réseaux comment penser et accomplir leurs tâches ? C'est le même problème que les voitures autonomes face au problème du chariot exercice de réflexion. Apprennent-ils au système à tuer une personne pour en sauver cinq, ou ne décident-ils tout simplement pas ?

Une surveillance complète serait nécessaire pour introduire tout robot de police alimenté par l'IA dans la force. Sans cette surveillance, rien ou presque n'empêche quelqu'un de programmer ces systèmes pour cibler les individus BIPOC. Les outils conçus pour sauver des vies et prévenir le crime pourraient facilement être transformés en outils d'oppression.

Google a déjà montré que c'était une possibilité en 2017 avec l'une des premières incarnations de son IA de traitement du langage naturel. L'homophobie était écrit dans sa programmation de base, donnant des notes négatives à toutes les recherches impliquant le mot "gay". Google a depuis résolu le problème et s'est excusé pour le biais programmé. Pourtant, cette erreur montre à quel point il serait facile d'abuser de cette technologie, même si le biais n'est pas conscient.

L'intelligence artificielle a longtemps été l'antagoniste privilégié du divertissement futuriste. Le public l'a vu figurer dans de nombreuses franchises au fil des ans, et presque tous ces antagonistes ont une chose en commun : l'IA détermine que les humains ne sont plus capables de prendre soin d'eux-mêmes, alors ils prennent des mesures extrêmes - y compris détruire la race humaine - pour « protéger » l'humanité d'elle-même.

Les robots de police IA n'iraient probablement pas aussi loin, mais ce n'est pas l'IA qui suscite la peur - c'est la crainte que la technologie puisse être exploitée, laissant les communautés vulnérables en danger.

Créer un avenir plus sûr

L'intelligence artificielle et les outils qu'elle prend en charge font désormais partie de notre vie quotidienne, mais cela ne signifie pas que la technologie est sans risques. L'IA pourrait aider à protéger les personnes en prévenant ou en résolvant des crimes, mais elle pourrait facilement être exploitée pour nuire au BIPOC et aux communautés.

Les robots de police IA sont probablement la vague du futur, mais ils ont besoin de beaucoup de travail avant que les communautés puissent leur faire confiance pour protéger tout le monde, quelle que soit la couleur ou la croyance.

Lisez aussi L'avenir de la robotique dans le domaine domestique