Lors du vote de mercredi au Parlement européen, 377 députés ils ont soutenu une résolution qui restreint l'utilisation de la reconnaissance faciale par les forces de l'ordre. 248 ont voté contre et 62 se sont abstenus, pour mémoire.
"Les systèmes d'identification basés sur l'IA identifient déjà à tort les groupes ethniques minoritaires, les personnes LGBTI, les personnes âgées et les femmes à des taux plus élevés. Ceci est particulièrement préoccupant dans le contexte de l'application de la loi et de la surveillance judiciaire", lit-on dans une déclaration du parlement.
Algorithmes opaques, surveillance inquisitoriale
Pour garantir le respect des droits fondamentaux lors de l'utilisation de ces technologies, les algorithmes doivent être transparents, traçables et suffisamment documentés. Dans la mesure du possible, les pouvoirs publics devraient utiliser des logiciels open source pour être plus transparents.
Déclaration du Parlement européen
C'est une bonne nouvelle que la plupart des représentants politiques de l'UE aient fait cette évaluation. Qui ne veut pas utiliser la reconnaissance faciale dans la surveillance automatique de masse des personnes en public. La surveillance devrait être limitée uniquement à ceux qui sont soupçonnés d'avoir enfreint la loi. Ensembles de données accumulés par des entreprises privées, telles que IA Clearview, pour identifier les citoyens. En vérité, il serait également utile d'empêcher les systèmes qui permettent aux policiers de prévoir les infractions du comportement et des antécédents des gens.
Voici ce que le Parlement européen a dit à propos de la reconnaissance faciale et de la surveillance de masse :
« Les droits fondamentaux sont inconditionnels », dit-il Pierre Vitanov, député européen représentant le parti socialiste bulgare. "Pour la toute première fois, nous appelons à un moratoire sur la mise en place de systèmes de reconnaissance faciale à des fins de surveillance et d'application de la loi, car la technologie s'est avérée inefficace et conduit souvent à des résultats discriminatoires."
Nous sommes clairement contre la police prédictive basée sur l'utilisation de l'intelligence artificielle et tout traitement de données biométriques qui conduit à une surveillance de masse. C'est une grande victoire pour tous les citoyens européens.
Pierre Vitanov, député européen
Le vote n'est pas contraignant et ne peut donc pas conduire directement à des modifications législatives. Il a été promu pour "prendre le pouls" du Parlement européen, et pour comprendre si les députés pouvaient soutenir des lois à venir comme la loi sur l'IA.Parmi les intentions, même celle d'interdire les données biométriques aux contrôles aux frontières pour suivre les voyageurs en Europe.
Les échecs d'une technologie encore incomplète
La croissance de ces algorithmes de surveillance s'est produite très rapidement, et avec un ensemble de données incomplet, pour être généreux. La discrimination par reconnaissance faciale est à l'ordre du jour (pensez à la personne identifiée comme un "singe" par un algorithme de Facebook). Les personnes de couleur sont actuellement beaucoup plus susceptibles d'être mal identifiées par le mécanisme d'authentification par reconnaissance faciale. Et il y en a un qui le fait cuit et cru : c'est l'algorithme d'Uber.
Un chauffeur noir Uber au Royaume-Uni, qui a perdu son emploi après avoir été bloqué par l'application d'appel en cours d'exécution lorsque son système de reconnaissance faciale n'a pas réussi à l'identifier, intente une action en justice contre le géant de la technologie. Il sera soutenu par l'Union des travailleurs indépendants de Grande-Bretagne (IWGB), qui a appelé à une grève de 24 pour exiger des changements de modus operandi.
"L'utilisation continue par Uber d'un algorithme de reconnaissance faciale qui est inefficace sur les personnes de couleur est discriminatoire", a-t-il déclaré. Henri Chango Lopez, secrétaire général de l'IWGB.
