La vie de George Orwell telle que décrite en 1984 "pourrait devenir réalité en 2024" si les législateurs ne protègent pas le public de l'intelligence artificielle, a prévenu le président de Microsoft, Brad Smith. Et il sera « difficile de rattraper son retard », compte tenu des progrès rapides de cette technologie.
"Si nous ne mettons pas en place des lois qui protègent le public d'un avenir comme celui-ci, nous découvrirons très vite que la technologie est allée trop loin pour être remise sous contrôle", a déclaré sans détour Smith.
Je me souviens constamment des leçons de George Orwell dans son livre de 1984. Il parlait d'un gouvernement qui pouvait voir tout ce que tout le monde faisait et entendre tout ce que tout le monde disait à tout moment. Cela ne s'est pas produit en 1984, mais si nous ne faisons pas attention, cela arrivera en 2024.
Si Orwell avait été à Pékin
Dans certaines parties du monde, la réalité se rapproche de plus en plus de la vision dystopique de George Orwell.
L’ambition de la Chine est de devenir le leader mondial de l’IA d’ici 2030, et nombreux sont ceux qui considèrent que ses capacités dépassent largement celles de l’Europe.
- En 2019, la Chine a battre les États-Unis en nombre de brevets garanti par les institutions académiques pour l’innovation dans les technologies de l’IA.
- Selon une étude de Comparitech, le 54% des 770 millions de caméras de vidéosurveillance dans le monde sont situées en Chine.
Le docteur Lan Xue, un conseiller du gouvernement chinois, a déclaré que la reconnaissance faciale pourrait s'avérer « extrêmement utile » pour identifier les personnes participant à des rassemblements de masse en cas d'« incident grave ». Et je peux vous assurer que le développement de cette technologie c'est déjà assez avancé.
Réactions chinoises au j'accuse des Américains
Eric Schmidt, ancien PDG de Google et aujourd'hui président de la Commission américaine de sécurité nationale sur l'intelligence artificielle, a averti qu'il était impératif de battre la Chine dans le domaine de l'intelligence artificielle.
« Nous sommes dans un conflit stratégique géopolitique avec la Chine », a-t-il déclaré. « La manière de gagner est de mettre en commun nos ressources pour élaborer des stratégies nationales et mondiales permettant aux démocraties de gagner dans l’IA. Si nous ne le faisons pas, nous nous retrouverons face à un avenir dans lequel d’autres valeurs nous seront imposées. » Valeurs orwelliennes.
Le Dr Xue ne le pense pas. « La Chine ne cherche pas à exporter ses valeurs. Bien entendu, ils ont effectivement réalisé d’énormes progrès en matière de développement technologique, et les États-Unis estiment qu’il s’agit d’une menace. C’est pourquoi ils ont déclenché une sorte de guerre froide contre la technologie » (et pas seulement ça, je dirais).
Bien que la Chine ait d'énormes différences avec les États-Unis dans ses valeurs et sa politique, sa vision du monde n'est pas la convergence mais la coexistence.
Keyu Jin, professeur agrégé à la London School of Economics.
Project Maven
En ce qui concerne le contrôle orwellien, cependant, les États-Unis montrent qu'ils ont des ambitions qui ne sont pas tout à fait différentes de celles de la Chine. Le Dr Schmidt est devenu conseiller du Pentagone en 2016, tout en conservant le poste de président exécutif d'Alphabet, la société mère de Google. Au cours des années suivantes, Google a conclu un contrat avec le Pentagone ce qui lui permet d'utiliser certaines de ses technologies de reconnaissance d'images dans le cadre d'un projet militaire.
Le projet, appelé Maven, a utilisé l'apprentissage automatique pour distinguer les personnes et les objets dans les vidéos de drones.
« À l’époque, Maven était… un moyen de remplacer les yeux humains par la vision artificielle pour les images de drones utilisées dans divers conflits arabes », explique Schmidt. Orwell ne me vient pas à l’esprit, je suppose. "J'ai vu l'utilisation de cette technologie comme un avantage net pour la sécurité nationale et un bon partenariat pour Google." J'aimerais comprendre pourquoi une technologie entre les mains des Chinois devient immédiatement « répressive », et pourquoi la même technologie entre les mains des Américains devient immédiatement « positive pour la sécurité nationale », et tant pis.
Et je ne suis pas le seul à me poser cette question. Même les employés de Google eux-mêmes l'ont fait, critiquant le projet, déposant des pétitions pour s'y opposer et même démissionnant.
"Google ne devrait pas se lancer dans la guerre", a déclaré l'ingénieur logiciel. Laura Nolan qui a démissionné en 2018, lorsqu'elle a découvert la nature du projet. "J'avais l'impression d'avoir du sang sur les mains."
Inutile de dire que Google a déclaré que son IA ne serait utilisée qu'à des fins non offensives, avant de se retirer complètement (?) du projet Maven en juin 2018. Dr Orwell, désolé, Schmidt a déclaré qu'il pensait que la technologie pourrait aider l'armée à « faire les bonnes décisions", et de croire que c'est une "bonne chose".
Wannabe Orwell, la course aux armements de l'IA
Bref, il est facile de dire « Orwell », mais la vérité est que les citoyens du monde sont confrontés à un risque potentiel plutôt bipartisan. Le ministère de la Défense continuer à chercher des partenariats dans la Silicon Valley, pour tenter de remporter la course mondiale avec la Chine pour les armes à intelligence artificielle.
Parce que nous sommes dans une course, parce que nous sommes dans cette compétition, c'est vraiment de ça qu'il s'agit. Vont-ils nous aider à gagner cette course ou seront-ils essentiellement contre nous ? La Chine n’a pas le même système de gouvernement que nous. La course aux armements en matière d’IA pourrait-elle conduire à un conflit avec la Chine ? Absolument."
Seth Moulton, président du groupe de travail américain sur l'avenir de la défense, exhorte les entreprises technologiques à soutenir le ministère de la Défense.
Dr Orwell, désolé, Xue (je vois Orwell partout maintenant) a convenu qu'il y avait un conflit potentiel. Mais sournoisement, et dans le style doux qui caractérise la mise en place du Céleste Empire, il dit "mais ce n'est pas une fatalité : les Etats-Unis et la Chine devraient vraiment collaborer pour éviter que cela n'arrive".
