Avez-vous déjà vu l'épisode de Black Mirror intitulé « Arkangel » ? Il raconte l'histoire d'une mère trop inquiète qui implante une puce dans le cerveau de sa fille pour suivre chacun de ses mouvements.
Mais il le met également à jour avec quelques fonctionnalités, comme la possibilité de voir tout ce que votre fille voit et de lui imposer une censure visuelle automatique. Fondamentalement, il bloque les images de tout ce qui pourrait être considéré comme « choquant » pour sa fille. Sa fille ne peut tout simplement pas voir ce que sa mère censure. Inutile de dire que cet épisode de Black Mirror ne va pas bien se passer. C'est une prérogative du Série dystopique anglaise, d'autre part.
Une technologie est en cours de développement qui pourrait effectivement être utilisée pour censurer automatiquement les images en temps réel.
In ce clip par TEDx Talks, le spécialiste des interfaces informatiques Lonni Besançon présente une technologie qui pourrait faire exactement cela.
Le système de censure visuelle automatique fonctionne légèrement différemment de la version vue dans Black Mirror, visant à préserver des informations supplémentaires sur l'image masquée.
Au lieu de simplement pixeliser les images « offensantes », la technologie de traitement appliquerait des filtres pour rendre l’image moins choquante. Le cas d’utilisation expliqué ici est celui où une image chirurgicale pourrait être rendue moins répulsive, tout en conservant suffisamment de détails pour comprendre ce qui se passait.
Le cœur de cette technologie particulière consiste davantage à réduire la nature choquante d'images ou de séquences spécifiques, plutôt que de prendre des décisions sur ce qui est considéré comme offensant ou choquant.
Cela dit, l'équipe de Besançon a construit un prototype d'extension Chrome capable d'identifier automatiquement la violence, la nudité ou les images médicales et d'appliquer des filtres visuels.
Censure visuelle automatique: quand c'est vrai et quand non.
Il peut certainement y avoir des utilisations légitimes à cette censure basée sur l’IA. Protection pour les enfants, les modérateurs de réseaux sociaux ou les enquêteurs de police contre le visionnage d'images dérangeantes.
Certes, cependant, elle pourrait également être utilisée pour imposer une censure indésirable si elle est utilisée de manière inappropriée ou imposée aux masses.
