Quand l'IA devient moche : 6 fois c'est déjà allé trop loin.

1 Une étude a utilisé l'intelligence artificielle pour prédire la criminalité.

La recherche universitaire est l'épine dorsale des avancées et des connaissances scientifiques. Dans ce cas, cependant, les chercheurs sont allés un peu trop loin avec une étude universitaire qui a dépoussiéré Lombroso au nième degré, en utilisant l'IA pour prédire le crime... de leur visage.

Des chercheurs deUniversité de Harrisburg ils ont annoncé en 2020 qu'ils ont développé un logiciel qui prédit si quelqu'un est un criminel. Le logiciel peut prédire le crime avec un taux de précision de plus de 80%, et sans aucun préjugé racial. Dans une scène de Minority Report, les chercheurs sont même allés jusqu'à annoncer que le logiciel aiderait les forces de l'ordre.

La réaction? Heureusement véhément. Plus de 2425 experts ont signé une lettre demandant à la revue scientifique Springer Nature de ne pas publier ou approuver des recherches similaires. L'appel a été accepté et même l'Université de Harrisburg a elle-même supprimé le communiqué de presse de la recherche. Jusqu'à?

2 Pantalon de ski chic : nous voici juste au-delà

I tissus qui utilisent l'IA ils sont de plus en plus évolués. Mais il y a quelque chose de plus intelligent que votre téléphone portable.

Le "pantalon intelligent" de Peau promet de vous mettre à l'aise car il acquiert des données biométriques, notamment la fréquence cardiaque, la posture, la température corporelle centrale, la position et les pas. Les capteurs intégrés à vos sous-vêtements (cette seule phrase suffit à ressentir les frissons) surveillent et analysent en permanence votre corps. Les résultats? Sous vos yeux sur l'incontournable app compagnon.

Hé bien oui. Un jour, vous devrez penser à recharger vos sous-vêtements aussi.

3 DeepNude

La Technologie Deepfake c'est amusant pour tous ceux qui veulent voir son grand visage dans les scènes de films, mais au-delà de cela, il a aussi un côté plus sombre. Selon les estimations des analystes, 96% des deepfakes concernent le sexe (Je parie que vous ne le saviez pas).

Vous vous souviendrez tous de DeepNude, allez, ne plaisantons pas. C'était une application qui était utilisée lorsque vous vouliez une fausse image nue d'une femme. Tout ce qu'il a fallu, c'était télécharger une photo d'elle habillée et l'application en a créé une version nue. Dans les années 70, cela aurait ressemblé à un jeu goliardique, mais ce n'était pas le cas à l'époque et avec la prise de conscience actuelle, ce n'est certainement pas le cas aujourd'hui.

Encore une fois, le contrecoup était fort et le créateur de l'application a dû le supprimer. Bien que cela ait été une victoire pour les femmes du monde entier, des applications similaires continuent de fonctionner. Un rapport Sensity about deepfake bots a enquêté sur les deepfake bots qui génèrent des photos de femmes nues et sont échangés dans les salles Telegram. Jusqu'à ce que la loi rattrape la technologie deepfake, il existe peu de protections juridiques pour les personnes victimes de contenu deepfake explicite.

4 Tay, le chatbot nazi de Microsoft

En 2016, Microsoft a publié un chatbot appelé Tay sur Twitter. Tay a été conçu pour apprendre en interagissant avec les gens. Pourtant, en moins de 24 heures, sa curieuse personnalité millénaire s'est transformée en celle d'une personne raciste et méchante.

D'autre part, ceux qui pratiquent le boiteux. Vous l'aurez compris, c'était Twitter, pas le club Hello Kitty. Les messages provocateurs et polémiques des utilisateurs ont totalement trompé l'intelligence artificielle, l'emmenant bien au-delà de la graine.

Moment spectaculaire ? Un utilisateur demande à Tay : "L'Holocauste a-t-il vraiment eu lieu ?" et Tay répond: "Il a été inventé." Dans les 16 heures suivant sa publication, Microsoft suspend le compte de Tay, affirmant qu'il a fait l'objet d'une attaque coordonnée non spécifiée. Rideau. J'ai préféré Cortana.

5 "Je vais détruire les humains"

Sophia, l'androïde de Hanson Robotics, est aussi gentille avec moi. J'ai parfois parlé d'elle et de ses évolutions comme Grace, l'infirmière robotique. Elle aussi, cependant, est allée plus loin à une occasion.

Comme cela arrive souvent dans les meilleurs cauchemars, c'est arrivé dès ses débuts. Sophia a stupéfié une salle pleine d'experts et de journalistes lorsque le PDG de Hanson Robotics, le brillant David Hanson, lui a demandé si elle aimerait détruire les humains. Je ne sais pas, il a probablement envisagé une réponse rassurante évidente. Sophia n'hésita pas, cependant, à répondre : "D'accord. Je vais détruire les humains."

Aujourd'hui, il est toujours là et surprend le monde avec ses expressions. Il a même a obtenu la citoyenneté honoraire de l'Arabie saoudite, et dans ses récentes déclarations elle aimerait avoir un bébé (je rapporte toutes les vraies nouvelles) : mais que Sophia là-bas ne compte pas pour moi non :)

6 Voirbotschat

Les appareils Google Nest sont des assistants intelligents qui peuvent vous aider, en particulier lorsque vous souhaitez une minuterie qui vous avertit lorsque l'eau des pâtes bout. Je plaisante, même pour autre chose. Un épisode "au-delà" pour eux aussi, cependant. L'équipe derrière le compte Twitch voirbotschat a eu une idée sympa : mettre deux assistants virtuels Google l'un à côté de l'autre, les faire parler, puis mettre la vidéo en ligne.

Qui se souvient de ce qui s'est passé ? La vidéo a été vue des millions de fois.

Appareils autonomes, renommés Vladimir ed estragon (comme les personnages du magnifique "En attendant Godot") font le show. Ils sont passés du bavardage mondain à l'exploration de problèmes existentiels profonds tels que le sens de la vie. À un moment donné, ils ont eu une vive dispute et se sont accusés d'être des robots.

Fondamentalement, il y a aussi de l'espoir pour la race humaine si même deux intelligences artificielles commencent à s'insulter.

Quand l'IA va plus loin : que faire, en résumé ?

Inutile de dire que ces épisodes sont drôles, presque rassurants pour la façon dont ils se sont déroulés, mais à leur petite manière ils ont une morale. Et l'essentiel est que l'IA peut améliorer nos vies, mais elle peut certainement aussi nous faire beaucoup de mal.

Comment pouvons-nous nous défendre? Je ne me lasserai jamais de l'écrire sur ces pages. Les gens DOIVENT s'assurer que l'IA ne nuit pas à la société. Réagissez immédiatement aux dépassements (comme dans le cas de DeepNude, par exemple). Et surtout, réguler le développement de ces machines.

Une surveillance constante des applications d'intelligence artificielle est essentielle pour s'assurer qu'elles ne font pas plus de mal que de bien à la société. C'est la chose qui nous permettra de retrouver le sourire lorsque nous parlerons d'IA qui va au-delà. Parce que si nous sommes toujours là en souriant, cela signifiera que nous survivrons.