L’intelligence artificielle révolutionne de nombreux secteurs, et le domaine militaire ne fait pas exception. La capacité croissante des machines à prendre des décisions autonomes sans avoir recours aux humains soulève des questions cruciales sur la nature de la guerre dans un avenir proche.
Paul Scharré, vice-président de Centre pour une nouvelle sécurité américaine et expert dans le domaine de l'IA appliquée à la défense, met en avant les défis et opportunités potentiels de cette évolution. Dans le contexte de cette discussion, le récent film « The Creator », bien qu'il s'agisse d'un produit de divertissement, représente une réflexion culturelle sur les mêmes questions. Pensons-y ensemble.
Dans le film « The Creator », qui se déroule lors d'une future guerre entre les humains et l'intelligence artificielle, l'ex-agent des forces spéciales Joshua, bouleversé par la disparition de sa femme, est recruté pour retrouver et tuer le « Creator », l'architecte du IA avancée. En réalité, cette tâche pourrait être bien plus compliquée.
Le premier duel (perdu par les humains) ? Dans les cieux
Plusieurs exemples récents mettent en évidence le potentiel de l’IA dans le secteur militaire. D'un (celui des drones militaires déjà autonomes également dans leurs choix) nous avons parlé ici. Vous avez certainement entendu parler de l'autre. Je fais référence auDéfi AlphaDogfight de la DARPA, qui a vu un pilote humain affrontez une IA dans un simulateur d'avion. Le résultat? L'IA a dominé le pilote sur un score de 15 à zéro, affichant des capacités presque surhumaines, comme des tirs de précision en une fraction de seconde que les pilotes humains ne pourraient jamais réaliser.
Dans un véritable combat aérien, une IA pourrait déjà avoir le dessus. Mais qu’est-ce que tout cela signifie pour l’avenir de la guerre ?
L'IA sur le champ de bataille
L’idée selon laquelle des machines prennent des décisions de vie ou de mort soulève des questions éthiques complexes. Même si de telles machines visent une précision bien supérieure, « presque » infaillible, toute action hors piste constituerait un crime de guerre : mais qui en serait directement responsable ? Selon Scharre, établir la responsabilité et le contrôle direct d’une IA n’est peut-être pas si simple.
Dans un avenir proche, cependant, l’IA sera probablement utilisée par les humains principalement à des fins tactiques et d’analyse. L’IA peut traiter les informations plus efficacement, rendant les armées plus efficaces. Mais cela pourrait également conduire à un recours croissant à l’IA pour la prise de décision, dans la mesure où l’avantage concurrentiel dans un environnement militaire pourrait être trop tentant pour être ignoré.
Pour Scharre, en résumé, les humains construisent des systèmes qu’ils ne comprennent pas entièrement et qu’ils ne sont peut-être pas en mesure de contrôler, nous plaçant ainsi face à des menaces sans précédent.
La course aux armements en matière d’IA semble désormais inévitable
Les experts ont depuis longtemps levé leurs réserves sur le sujet : nous assisterons à une sorte de course aux armements pour l’intelligence artificielle, semblable à celle pour les armes nucléaires.
Quelques chercheurs chinois ils ont émis l’hypothèse d’une « singularité du champ de bataille »: un point où la vitesse des décisions basées sur l’IA dépasse la capacité de compréhension des humains. Dans un tel scénario, nous devrons peut-être « remettre les clés » des systèmes autonomes.
Scharre n’est pas optimiste quant à l’issue d’une hypothétique guerre entre les humains et une intelligence artificielle échappant à notre contrôle. Et il le précise avec une comparaison provocatrice et flagrante : pourrions-nous un jour perdre une hypothétique guerre contre les singes ? Tirez vos propres conclusions.
