La vie telle que George Orwell la décrivait en 1984 "pourrait se réaliser en 2024" si les législateurs ne protégeaient pas le public de l'intelligence artificielle, a prévenu le président de Microsoft, Brad Smith. Et il sera "difficile de rattraper son retard" compte tenu de l'avancée rapide de cette technologie.
"Si nous ne mettons pas en place les lois qui protègent le public d'un tel avenir, nous constaterons bientôt que la technologie est allée trop loin pour le reprendre sous contrôle", a déclaré Smith sans ambages.
Je me souviens constamment des leçons de George Orwell dans son livre de 1984. Il parlait d'un gouvernement qui pouvait voir tout ce que tout le monde faisait et entendre tout ce que tout le monde disait à tout moment. Cela ne s'est pas produit en 1984, mais si nous ne faisons pas attention, cela arrivera en 2024.
Si Orwell avait été à Pékin
Dans certaines parties du monde, la réalité se rapproche de plus en plus de la vision dystopique de George Orwell.
L'ambition de la Chine est de devenir le leader mondial de l'IA d'ici 2030, et beaucoup considèrent ses capacités bien au-delà de celles de l'Europe.
- En 2019, la Chine a battre les États-Unis en nombre de brevets garanti par les institutions académiques pour l'innovation dans les technologies de l'IA.
- Selon une étude de Comparitech, le 54% des 770 millions de caméras de vidéosurveillance dans le monde sont situées en Chine.
Le docteur Lan Xue, un consultant du gouvernement chinois, a déclaré que la reconnaissance faciale pourrait s'avérer "extrêmement utile" pour identifier les personnes lors de rassemblements de masse en cas d'"accident grave". Et je peux vous assurer que le développement de cette technologie c'est déjà assez avancé.
Réactions chinoises aux accusations américaines
Eric Schmidt, ancien PDG de Google et maintenant président de la Commission de sécurité nationale des États-Unis sur l'intelligence artificielle, a averti qu'il était impératif de battre la Chine en matière d'IA.
"Nous sommes dans un conflit géopolitique stratégique avec la Chine", a-t-il déclaré. "La façon de gagner est de mettre en commun nos ressources pour avoir des stratégies nationales et mondiales pour que les démocraties gagnent en IA. Si nous ne le faisons pas, nous nous tournerons vers un avenir dans lequel d'autres valeurs nous seront imposées ». Des valeurs à la Orwell.
Le Dr Xue n'est pas du même avis. "La Chine n'essaie pas d'exporter ses valeurs. Bien sûr, elle a effectivement fait d'énormes progrès dans le développement technologique, et les États-Unis estiment que c'est une menace. C'est pourquoi ils ont déclenché une sorte de guerre froide contre la technologie" (et pas seulement ça, je dirais).
Bien que la Chine ait d'énormes différences avec les États-Unis dans ses valeurs et sa politique, sa vision du monde n'est pas la convergence mais la coexistence.
Keyu Jin, professeur agrégé à la London School of Economics.
Project Maven
En ce qui concerne le contrôle orwellien, cependant, les États-Unis montrent qu'ils ont des ambitions qui ne sont pas tout à fait différentes de celles de la Chine. Le Dr Schmidt est devenu conseiller du Pentagone en 2016, tout en conservant le poste de président exécutif d'Alphabet, la société mère de Google. Au cours des années suivantes, Google a conclu un contrat avec le Pentagone ce qui lui permet d'utiliser certaines de ses technologies de reconnaissance d'images dans le cadre d'un projet militaire.
Le projet, appelé Maven, a utilisé l'apprentissage automatique pour distinguer les personnes et les objets dans les vidéos de drones.
"Maven à l'époque était ... un moyen de remplacer les yeux humains par une vision automatique pour les images de drones qui étaient utilisées dans divers conflits arabes", explique Schmidt. Orwell ne me vient pas à l'esprit, je suppose. "J'ai vu l'utilisation de cette technologie comme un net positif pour la sécurité nationale et un bon partenariat pour Google." J'aimerais comprendre pourquoi une technologie aux mains des Chinois devient immédiatement "répressive", et la même technologie aux mains des Américains devient immédiatement "positive pour la sécurité nationale", et tant pis.
Et je ne suis pas le seul à me poser la question. Même les employés de Google l'ont fait, critiquant le projet, le contestant et même démissionnant.
"Google ne devrait pas être impliqué dans le commerce de la guerre", a déclaré l'ingénieur logiciel Laura Nolan qui a démissionné en 2018, lorsqu'elle a découvert la nature du projet. "J'avais l'impression que mes mains étaient tachées de sang."
Inutile de dire que Google a déclaré que son IA ne serait utilisée qu'à des fins non offensives, avant de se retirer complètement (?) Du projet Maven en juin 2018. Dr Orwell, désolé, Schmidt a déclaré qu'il croyait que la technologie pourrait aider les militaires à "prendre les bonnes décisions", et de croire que c'est une "bonne chose".
Wannabe Orwell, la course à l'armement de l'IA
En bref, il est facile de dire "Orwell", mais la vérité est que les citoyens du monde sont confrontés à un risque potentiel plutôt bipartite. Le ministère de la Défense continuer à chercher des partenariats dans la Silicon Valley, pour tenter de remporter la course mondiale avec la Chine pour les armes à intelligence artificielle.
Parce que nous sommes dans une compétition, parce que nous sommes dans cette compétition, c'est vraiment de cela qu'il s'agit. Vont-ils nous aider à gagner cette course ou seront-ils essentiellement contre nous ? La Chine n'a pas le même système de gouvernement que nous. La course aux armements de l'IA pourrait-elle conduire à un conflit avec la Chine ? Absolument."
Seth Moulton, président du groupe de travail américain sur l'avenir de la défense, exhorte les entreprises technologiques à soutenir le ministère de la Défense.
Dr Orwell, désolé, Xue (je vois Orwell partout maintenant) a convenu qu'il y avait un conflit potentiel. Mais sournoisement, et dans le style doux qui caractérise l'establishment du Céleste Empire, il dit "mais ce n'est pas une fatalité : les États-Unis et la Chine devraient vraiment travailler ensemble pour empêcher que cela ne se produise".
