Avez-vous déjà vu l'épisode de Black Mirror intitulé "Arkangel" ? Il raconte l'histoire d'une mère trop inquiète qui implante une puce dans le cerveau de sa fille pour suivre chacun de ses mouvements.
Mais il le met également à jour avec quelques fonctionnalités, comme la possibilité de voir tout ce que votre fille voit et de la forcer à avoir une censure visuelle automatique. Fondamentalement, il bloque les images de tout ce qui pourrait être considéré comme "choquant" pour sa fille. Sa fille ne peut tout simplement pas voir ce que sa mère censure. Il va sans dire que cet épisode de Black Mirror ne va pas bien paraître. C'est une prérogative du Série dystopique anglaise, d'autre part.
Une technologie est en cours de développement qui pourrait effectivement être utilisée pour censurer automatiquement les images en temps réel.
In ce clip par TEDx Talks, le spécialiste des interfaces informatiques Lonni Besançon présente une technologie qui pourrait faire exactement cela.
Le système de censure visuelle automatique fonctionne légèrement différemment de la version vue dans Black Mirror, dans le but de préserver des informations supplémentaires de l'image masquée.
Au lieu de simplement pixelliser des images "offensantes", la technologie de traitement appliquerait des filtres pour rendre l'image moins choquante. Le cas d'utilisation expliqué ici est celui où une image chirurgicale pourrait être rendue moins répulsive, tout en conservant suffisamment de détails pour comprendre ce qui se passait.
Le cœur de cette technologie particulière consiste davantage à réduire la nature choquante d'images ou de séquences spécifiques, plutôt que de prendre des décisions sur ce qui est considéré comme offensant ou choquant.
Cela dit, l'équipe de Besançon a construit un prototype d'extension Chrome capable d'identifier automatiquement la violence, la nudité ou les images médicales et d'appliquer des filtres visuels.
Censure visuelle automatique: quand c'est vrai et quand non.
Il peut certainement y avoir des utilisations légitimes de cette censure basée sur l'IA. Protection pour les adolescents, les modérateurs des médias sociaux ou les enquêteurs de police contre la visualisation d'images dérangeantes.
Certes, cependant, elle pourrait également être utilisée pour imposer une censure indésirable si elle est utilisée de manière inappropriée ou imposée aux masses.
