Lors du vote de mercredi au Parlement européen, 377 députés ils ont soutenu une résolution ce qui limite l’utilisation de la reconnaissance faciale par les forces de l’ordre. 248 ont voté contre et 62 se sont abstenus, pour mémoire.
« Les systèmes d’identification basés sur l’IA identifient déjà à tort les groupes ethniques minoritaires, les personnes LGBTI, les personnes âgées et les femmes dans des proportions plus élevées. Ceci est particulièrement inquiétant dans le contexte de la surveillance exercée par les forces de l’ordre et le pouvoir judiciaire », peut-on lire dans un communiqué du Parlement.
Algorithmes opaques, surveillance inquisitoriale
Pour garantir le respect des droits fondamentaux lors de l'utilisation de ces technologies, les algorithmes doivent être transparents, traçables et suffisamment documentés. Dans la mesure du possible, les pouvoirs publics devraient utiliser des logiciels open source pour être plus transparents.
Déclaration du Parlement européen
C’est une bonne nouvelle que la plupart des représentants politiques de l’UE aient fait cette évaluation. Qui ne veut pas de l’utilisation de la reconnaissance faciale dans la surveillance automatique de masse des personnes en public ? La surveillance devrait être limitée aux seules personnes soupçonnées d'avoir enfreint la loi. Les ensembles de données accumulés par des entreprises privées devraient également être interdits, comme IA Clearview, pour identifier les citoyens. En vérité, il serait également utile d'empêcher les systèmes qui permettent aux policiers de prévoir les infractions du comportement et des antécédents des gens.
Voici ce que le Parlement européen a dit à propos de la reconnaissance faciale et de la surveillance de masse :
« Les droits fondamentaux sont inconditionnels », dit-il Pierre Vitanov, député européen représentant le Parti socialiste bulgare. « Pour la première fois, nous appelons à un moratoire sur le déploiement de systèmes de reconnaissance faciale à des fins de surveillance et de maintien de l’ordre, car cette technologie s’est révélée inefficace et conduit souvent à des résultats discriminatoires. »
Nous sommes clairement contre une police prédictive basée sur l’utilisation de l’intelligence artificielle et tout traitement de données biométriques conduisant à une surveillance de masse. C'est une grande victoire pour tous les citoyens européens.
Pierre Vitanov, député européen
Le vote n’est pas contraignant et ne peut donc conduire directement à aucun changement législatif. Il a été promu pour "prendre le pouls" du Parlement européen et comprendre si les membres pourraient soutenir les lois à venir telles que la loi sur l'IA. Parmi les intentions figure également l'interdiction des données biométriques aux contrôles aux frontières pour suivre les voyageurs en Europe.
Les échecs d'une technologie encore incomplète
La croissance de ces algorithmes de surveillance s’est produite très rapidement et avec un ensemble de données incomplet, ce qui est généreux. La discrimination par reconnaissance faciale est monnaie courante (pensez à la personne identifiée comme un « singe » par un algorithme de Facebook). Les personnes de couleur sont actuellement beaucoup plus susceptibles d’être identifiées à tort par le mécanisme d’authentification par reconnaissance faciale. Et il y en a un qui est chaud et froid : c’est l’algorithme Uber.
Un chauffeur Black Uber au Royaume-Uni, qui a perdu son emploi après avoir été bloqué de l'application de covoiturage lorsque son système de reconnaissance faciale n'a pas réussi à l'identifier, engage une action en justice contre le géant de la technologie. Il sera soutenu par le Syndicat indépendant des travailleurs de Grande-Bretagne (IWGB), qui a appelé à une grève de 24 heures pour exiger des changements dans le mode opératoire.
"L'utilisation continue par Uber d'un algorithme de reconnaissance faciale inefficace sur les personnes de couleur est discriminatoire", a-t-il déclaré. Henri Chango Lopez, secrétaire général de l'IWGB.
