Le service de police du Queensland (QPS) en Australie lancera un essai d'intelligence artificielle (IA) pour déterminer le risque futur que certains sujets signalés se livrent à des violences domestiques.
Les auteurs identifiés comme « à haut risque » (sur la base d’un signalement antérieur, d’un casier judiciaire ou autre) recevront une visite à leur domicile par la police avant que la violence domestique ne dégénère et qu’un crime ne soit commis.
Violences conjugales : mieux vaut prévenir, mais...
Je le dis tout de suite : nous devons trouver de meilleurs moyens d'améliorer la sécurité des femmes victimes de violence domestique. Cependant, l’utilisation de la technologie de l’IA dans ce contexte peut avoir des conséquences inattendues, et le plan proposé soulève de sérieuses questions sur le rôle de la police dans la prévention des incidents de violence domestique.
L’approche repose sur un algorithme développé à partir de données existantes. Tous les algorithmes statistiques doivent évaluer le risque sur la base des données disponibles. Cela signifie à son tour qu’ils sont « seulement » aussi bons que les données qui les soutiennent. Ce n’est pas un hasard si les experts critiquent les outils d’évaluation des risques basés sur les données dans le domaine policier, soulignant le manque de transparence dans les types spécifiques de données analysées.
Méfiez-vous de jouer à "Pré Crime"
Comme mentionné, les données clés les plus régulièrement collectées sont les informations sur les situations passées où la police a été appelée et les données sur les casiers judiciaires. Utiliser ces informations pour entraîner un algorithme d’IA pourrait renforcer les préjugés existants dans le système de justice pénale. Cela pourrait créer une boucle de rétroaction sans fin, un cercle vicieux sans issue entre la police et les citoyens qui ont plus de contacts avec la police.
Si la discrimination ethnique vous vient aussi à l'esprit, vous n'êtes pas loin de la vérité. En Australie, par exemple, les personnes qui entrent le plus en contact avec la police sont les Aborigènes. Il n'est pas difficile d'imaginer que sous ce nouveau régime « anti-violence domestique », les Aborigènes seront davantage visités par la police.
La police tient à dire que pour ce projet pilote, les attributs d'ethnicité et de localisation géographique ont été supprimés avant de former le modèle d'IA. Malgré cela, il est encore probable que les Aborigènes continueront d'être ciblés de manière disproportionnée, car ils sont surreprésentés dans tous les types de contacts avec la police.
Le risque de criminalité est-il une bonne approche ?
Le but de ces stratégies policières basées sur la criminalitél'intelligence artificielle il s'agit de prévenir ou de réduire la criminalité, grâce à une évaluation du risque de crimes futurs. En théorie, cela signifie que la police interviendrait tôt pour empêcher qu'un crime ne se produise. Qui se souvient du « Pré crime » susmentionné de « Minority Report » ?
Je dis qu'avec cette approche, il y a des risques que la police puisse même créer du crime. Un programme « préventif » de ce type peut augmenter les mécanismes de résistance et de contournement : cela ne m'étonnerait pas que cela conduise à d'autres délits.
En résumé, le plan proposé par la police australienne présente un risque évident. Celle d'élargir le réseau de criminalisation tant pour les auteurs que pour les victimes (qui peuvent être identifiées à tort comme auteurs). Comment ? Par exemple, les victimes qui ont eu recours à la violence pour se défendre étaient parfois arrêtées à la place de l'agresseur.
Cela pourrait-il nuire davantage aux victimes de violence domestique?
Le rôle de la victime dans un tel programme est également préoccupant. Tout programme qui approfondit la surveillance des auteurs approfondit également la surveillance des victimes.
Les victimes ne veulent pas toujours que la police intervienne dans leur vie. Dans certains cas, cette forme de police proactive peut ressembler à une extension du contrôle plutôt qu’à une aide. Que se passe-t-il lorsque la police se rend sur place et constate qu'un agresseur et une victime à haut risque cohabitent à nouveau ?
Les risques sont là
Les victimes peuvent craindre que les autorités de protection de l'enfance ne soient impliquées et se sentent obligées de cacher le fait qu'elles sont toujours avec l'agresseur. Et une fois qu’une victime a été forcée de mentir, elle peut hésiter à appeler la police la prochaine fois qu’elle aura besoin de l’intervention de la police. Dans d’autres cas, l’agresseur ou la victime peut décider de ne pas suivre les conseils de sécurité des policiers en visite. On ne sait pas exactement ce que la police pourrait faire dans une situation où elle demande à un agresseur de partir ou tente de mettre une victime en sécurité, mais elle refuse.
La mission de toute intervention de violence domestique devrait être de redonner le pouvoir aux victimes. Mais nous savons que les interventions n'aident pas toutes les femmes (ou hommes) de la même manière. Les inégalités structurelles, y compris la race et la classe, signifient que les interventions sont vécues différemment par différentes personnes.
