La vie telle que George Orwell l'a décrite en 1984 "pourrait devenir réalité en 2024" si les législateurs ne protègent pas le public de l'intelligence artificielle, a averti le président de Microsoft, Brad Smith. Et il sera "difficile de rattraper son retard", compte tenu des progrès rapides de cette technologie.
"Si nous n'appliquons pas les lois qui protègent le public d'un tel avenir, nous découvrirons bientôt que la technologie est allée trop loin pour la reprendre sous contrôle", a déclaré Smith sans ambages.
Je me souviens constamment des leçons de George Orwell dans son livre de 1984. Il parlait d'un gouvernement qui pouvait voir tout ce que tout le monde faisait et entendre tout ce que tout le monde disait à tout moment. Cela ne s'est pas produit en 1984, mais si nous ne faisons pas attention, cela arrivera en 2024.
Si Orwell avait été à Pékin
Dans certaines parties du monde, la réalité se rapproche de plus en plus de la vision dystopique de George Orwell.
L'ambition de la Chine est de devenir le leader mondial de l'IA d'ici 2030, et beaucoup considèrent ses capacités bien au-delà de celles de l'Europe.
- En 2019, la Chine a battre les États-Unis en nombre de brevets garanti par les institutions académiques pour l'innovation dans les technologies de l'IA.
- Selon une étude de Comparitech, le 54% des 770 millions de caméras de vidéosurveillance dans le monde sont situées en Chine.
Le docteur Lan Xue, un consultant du gouvernement chinois, a déclaré que la reconnaissance faciale pourrait s'avérer "extrêmement utile" pour identifier les personnes dans les rassemblements de masse en cas d'"accident grave". Et je peux vous assurer que le développement de cette technologie c'est déjà assez avancé.
Réactions chinoises aux accusations des Américains
Eric Schmidt, ancien PDG de Google et aujourd'hui président de la Commission de sécurité nationale sur l'intelligence artificielle des États-Unis, a averti qu'il était impératif de battre la Chine en matière d'IA.
"Nous sommes dans un conflit géopolitique stratégique avec la Chine", a-t-il déclaré. « La façon de gagner est de mettre nos ressources en commun pour avoir des stratégies nationales et mondiales pour que les démocraties gagnent en IA. Si nous ne le faisons pas, nous nous tournerons vers un avenir dans lequel d'autres valeurs nous seront imposées ». Des valeurs à la Orwell.
Le Dr Xue n'est pas du même avis. « La Chine ne cherche pas à exporter ses valeurs. Bien sûr, il a en fait fait d'énormes progrès dans le développement technologique, et les États-Unis estiment qu'il s'agit d'une menace. C'est pourquoi ils ont donné lieu à une sorte de guerre froide sur la technologie" (et pas seulement ça, je dirais).
Bien que la Chine ait d'énormes différences avec les États-Unis dans ses valeurs et sa politique, sa vision du monde n'est pas la convergence mais la coexistence.
Keyu Jin, professeur agrégé à la London School of Economics.
Project Maven
En ce qui concerne le contrôle orwellien, cependant, les États-Unis montrent qu'ils ont des ambitions qui ne sont pas tout à fait différentes de celles de la Chine. Le Dr Schmidt est devenu conseiller du Pentagone en 2016, tout en conservant le poste de président exécutif d'Alphabet, la société mère de Google. Au cours des années suivantes, Google a conclu un contrat avec le Pentagone ce qui lui permet d'utiliser certaines de ses technologies de reconnaissance d'images dans le cadre d'un projet militaire.
Le projet, appelé Maven, a utilisé l'apprentissage automatique pour distinguer les personnes et les objets dans les vidéos de drones.
« À l'époque, Maven était… un moyen de remplacer les yeux humains par une vision automatique pour les images de drones utilisées dans divers conflits arabes », explique Schmidt. Orwell ne me vient pas à l'esprit, je suppose. "J'ai vu l'utilisation de cette technologie comme un élément positif distinct pour la sécurité nationale et un bon partenariat pour Google." J'aimerais comprendre pourquoi une technologie aux mains des chinois devient immédiatement "répressive", et la même technologie aux mains des américains devient immédiatement "positive pour la sécurité nationale", et tant pis.
Et je ne suis pas le seul à me poser la question. Même les employés de Google l'ont fait, critiquant le projet, pétitionnant contre lui et même démissionnant.
"Google ne devrait pas être impliqué dans les affaires de guerre", a déclaré l'ingénieur logiciel Laura Nolan qui a démissionné en 2018, lorsqu'elle a découvert la nature du projet. "J'avais l'impression que mes mains étaient tachées de sang."
Inutile de dire que Google a déclaré que son IA ne serait utilisée qu'à des fins non offensives, avant de se retirer complètement (?) du projet Maven en juin 2018. Dr Orwell, désolé, Schmidt a déclaré qu'il pensait que la technologie pourrait aider l'armée à "prendre les bonnes décisions", et croire que c'est une "bonne chose".
Wannabe Orwell, la course aux armements de l'IA
Bref, il est facile de dire "Orwell", mais la vérité est que les citoyens du monde sont confrontés à un risque potentiel plutôt bipartite. Le ministère de la Défense continuer à chercher des partenariats dans la Silicon Valley, pour tenter de remporter la course mondiale avec la Chine pour les armes à intelligence artificielle.
Parce que nous sommes dans une compétition, parce que nous sommes dans cette compétition, c'est vraiment de cela qu'il s'agit. Vont-ils nous aider à gagner cette course ou seront-ils essentiellement contre nous ? La Chine n'a pas le même système de gouvernement que nous. La course aux armements de l'IA pourrait-elle conduire à un conflit avec la Chine ? Absolument."
Seth Moulton, président du groupe de travail américain sur l'avenir de la défense, exhorte les entreprises technologiques à soutenir le ministère de la Défense.
Dr Orwell, désolé, Xue (je vois Orwell partout maintenant) a convenu qu'il y a un conflit potentiel. Mais sournoisement, et dans le style doux qui caractérise l'establishment de l'Empire céleste, il dit "mais ce n'est pas inévitable : les États-Unis et la Chine devraient vraiment travailler ensemble pour empêcher que cela se produise".
