Le service de police du Queensland (QPS) en Australie va lancer un essai sur l'intelligence artificielle (IA) pour déterminer le risque futur que certains sujets signalés se livrent à des violences domestiques.
Les auteurs identifiés comme «à haut risque» (sur la base de rapports antérieurs, de casiers judiciaires ou autres) recevront la visite de la police à domicile avant que la violence domestique ne s'intensifie et qu'un crime ne soit commis.
Violences conjugales : mieux vaut prévenir, mais...
Je le dis tout de suite: nous devons trouver de meilleures façons d'améliorer la sécurité des femmes victimes de violence conjugale. Cependant, l'utilisation de la technologie de l'IA dans ce contexte peut avoir des conséquences inattendues, et ce plan proposé soulève de sérieuses questions sur le rôle de la police dans la prévention des incidents de violence domestique.
L'approche est basée sur un algorithme qui a été développé à partir de données existantes. Tous les algorithmes statistiques doivent évaluer le risque sur la base des données disponibles. Cela signifie à son tour qu'ils sont "seulement" aussi bons que les données qui les soutiennent. Ce n'est pas un hasard si les experts critiquent les outils d'évaluation des risques basés sur les données dans les activités de la police, soulignant le manque de transparence dans les types spécifiques de données analysées.
Méfiez-vous de jouer à "Pré Crime"
Comme mentionné, les données clés acquises le plus régulièrement sont des informations sur des situations passées dans lesquelles la police a été appelée et des données sur les antécédents criminels. L'utilisation de ces informations pour former un algorithme d'intelligence artificielle pourrait renforcer les préjugés existants dans le système de justice pénale. Cela pourrait créer une boucle de rétroaction sans fin, un cercle vicieux sans issue entre la police et les citoyens qui ont plus de contacts avec la police.
Si la discrimination ethnique vous vient aussi à l'esprit, vous n'êtes pas loin de la vérité. En Australie, par exemple, les personnes qui entrent le plus en contact avec la police sont les Aborigènes. Il n'est pas difficile d'imaginer que sous ce nouveau régime « anti-violence domestique », les Aborigènes seront davantage visités par la police.
La police tient à dire que pour ce projet pilote, les attributs d'ethnicité et de localisation géographique ont été supprimés avant de former le modèle d'IA. Malgré cela, il est encore probable que les Aborigènes continueront d'être ciblés de manière disproportionnée, car ils sont surreprésentés dans tous les types de contacts avec la police.
Le risque de criminalité est-il une bonne approche ?
L'objectif de ces stratégies policières fondées surintelligence artificielle il s'agit de prévenir ou de réduire la criminalité, grâce à une évaluation du risque de crimes futurs. En théorie, cela signifie que la police interviendrait tôt pour empêcher qu'un crime ne se produise. Qui se souvient du « Pré crime » susmentionné de « Minority Report » ?
Je dis qu'avec cette approche, il y a des risques que la police puisse même créer du crime. Un programme « préventif » de ce type peut augmenter les mécanismes de résistance et de contournement : cela ne m'étonnerait pas que cela conduise à d'autres délits.
En résumé, le plan proposé par la police australienne présente un risque évident. Celui d'élargir le réseau de la criminalisation tant pour les auteurs que pour les victimes (qui peuvent être identifiées à tort comme des auteurs.) Comment ? Par exemple, les victimes qui ont utilisé la violence en état de légitime défense ont parfois été arrêtées à la place de l'agresseur.
Cela pourrait-il nuire davantage aux victimes de violence domestique?
Le rôle de la victime dans un tel programme est également préoccupant. Tout programme qui approfondit la surveillance des auteurs approfondit également la surveillance des victimes.
Les victimes ne veulent pas toujours que la police intervienne dans leur vie. Dans certains cas, cette forme de police proactive peut sembler être une extension de l'examen plutôt qu'une aide. Que se passe-t-il lorsque la police se rend sur place et constate qu'un agresseur et une victime à haut risque cohabitent à nouveau ?
Les risques sont là
Les victimes peuvent craindre que les autorités de protection de l'enfance soient impliquées et se sentent obligées de cacher le fait qu'elles sont toujours avec l'agresseur. Et une fois qu'une victime a été forcée de mentir, elle peut être réticente à appeler la police la prochaine fois qu'elle aura besoin d'une intervention policière. Dans d'autres cas, l'agresseur ou la victime peut décider de ne pas suivre les conseils de sécurité des policiers qu'ils visitent. On ne sait pas ce que la police pourrait faire dans une situation où elle demande à un agresseur de partir ou tente de secourir une victime, mais elle refuse.
La mission de toute intervention de violence domestique devrait être de redonner le pouvoir aux victimes. Mais nous savons que les interventions n'aident pas toutes les femmes (ou hommes) de la même manière. Les inégalités structurelles, y compris la race et la classe, signifient que les interventions sont vécues différemment par différentes personnes.
