Depuis 1950, nous diffusons involontairement notre position dans l'univers grâce aux radars. De même, depuis 2022, nous apprenons involontairement à l'IA à créer des armes biologiques grâce à des modèles génératifs. Kathleen McMahon Il a compris que si l’intelligence artificielle peut devenir un risque existentiel, elle peut aussi devenir la dernière ligne de défense. Valthos, sa start-up de biosécurité, vient de recevoir 30 millions de dollars de OpenAI Développer une IA protégeant contre les IA malveillantes. Un jeu d'échecs où chaque faux pas pourrait coûter des millions de vies. Et où le bioterrorisme dépasse le cadre des hypothèses les plus pessimistes pour devenir une possibilité concrète.
Valthos : L'IA qui combat l'IA
McMahon, qui dirigeait la division des sciences de la vie de Palantir Technologies, il n'est pas du genre à être alarmiste. Mais quand il a vu ça Des chercheurs de Stanford ont créé les premiers virus entièrement artificiels grâce à l'IA, avec un taux de réussite de 5 %, a réalisé que la donne avait changé. Sur les 302 virus créés par l'IA et produits en laboratoire, seuls 16 ont réussi à infecter leur cible. Un chiffre modeste, mais qui marque néanmoins un premier pas vers la bio-ingénierie virale artificielle. Mieux vaut prévenir que guérir.
Valthos, fondée avec Tess van Stekelenburg (partenaire de Capitale luxembourgeoise (diplômé en neurosciences computationnelles et en biologie), développe des logiciels qui collectent des données biologiques auprès de sources commerciales et gouvernementales. Surveillance de l'air et des eaux usées, surveillance épidémiologique. L'IA analyse tout en temps réel pour identifier les menaces émergentes et caractériser leurs risques. C'est un peu comme un système immunitaire numérique : elle reconnaît les anomalies avant qu'elles ne se transforment en épidémies.
Le paradoxe du bioterrorisme moderne
La véritable ironie ? Aucun bioterroriste n’a jamais réussi à tuer quelqu’un en utilisant des armes biologiques à base de protéines.La secte japonaise Aum Shinrikyo, malgré des tentatives d'attaques à la toxine botulique, n'a réussi qu'à infliger des pertes en utilisant des agents chimiques traditionnels comme le gaz sarin. Mais le bioterrorisme renforcé par l'IA représente une menace d'un autre ordre.
Comme le Centre pour la sécurité de l'IA Dans un rapport récent, un scénario catastrophe imagine un terroriste sans formation scientifique utilisant l'intelligence artificielle pour concevoir un supervirus. Combiner la période d'incubation du VIH, la contagiosité de la rougeole et le taux de mortalité de la variole : tel est le scénario catastrophe pour la révolution de l'IA. Une perspective qui a suscité OpenAI, Fondateurs e Capitale luxembourgeoise d'investir 30 millions de dollars dans Valthos.
La seule défense contre le bioterrorisme de l’IA est la rapidité de réaction. Valthos développe des systèmes d’IA qui mettent à jour automatiquement les contre-mesures médicales en fonction de l’évolution des menaces.
L’objectif est de détecter une attaque biologique et de disposer d’un antidote avant qu’elle ne devienne une pandémie. C'est une course où celui qui arrive deuxième perd tout.
Quand la défense rencontre l'attaque
Jason Kwon, Chief Strategy Officer Kwon, PDG d'OpenAI, a été clair : « Il est nécessaire de mettre en place un système de technologies concurrentes pour garantir la robustesse de l'ensemble. » Il s'agit du premier investissement annoncé publiquement par OpenAI dans la biosécurité, mais Kwon suggère que d'autres pourraient suivre. La logique est simple : si l'on développe des outils permettant de créer des superbactéries, il faut également financer la conception d'antidotes.
Le paradoxe est évident. Une simulation de la Rand Corporation a montré qu'il n'y a pas de différence significative Entre une attaque biologique planifiée avec des modèles linguistiques avancés et une attaque basée sur de simples recherches Google. Mais cela était vrai pour les modèles du « lointain » 2024. L’IA de nouvelle génération change déjà l’équation.
McMahon, fort de son expérience en PalantirIl sait que le gouvernement sera le principal client de la technologie Valthos. « Nous devons aller à la rencontre des opérateurs là où ils se trouvent », dit-il. C'est la même philosophie qui a rendu Palantir indispensable aux agences de renseignement américaines : créer des outils qui fonctionnent dans le monde réel, et non en laboratoire.
Bioterrorisme : le temps est primordial
Le véritable défi du bioterrorisme moderne n’est pas technologique, il est temporel. Comme nous le savons déjà à partir d’autres scénarios de criseUn plan détaillé fait toute la différence entre le chaos et le contrôle. Valthos construit précisément cela : un système qui n'attend pas une attaque, mais l'anticipe.
Leurs algorithmes d'apprentissage automatique analysent les séquences génétiques pour identifier les mutations suspectes, tandis que des modèles prédictifs examinent les tendances épidémiologiques afin de déceler les anomalies dans la propagation des maladies. Il s'agit d'une surveillance biologique à l'échelle mondiale, mais avec un objectif précis : distinguer une grippe saisonnière d'une attaque coordonnée.
Délian Asparouhov di Fondateurs Il admet qu'investir dans Valthos « n'aurait eu aucun sens, ni même été possible » il y a quelques années. Mais les progrès de l'IA ont accru la capacité de créer des armes biologiques et les possibilités de les prévenir. C'est une course à l'équilibre où l'avantage revient à ceux qui parviennent à s'adapter le plus rapidement.
McMahon a une vision simple : « La seule façon de dissuader une attaque est de savoir quand elle se produit, de mettre à jour les contre-mesures et de les déployer rapidement. » Trois étapes qui semblent simples sur le papier, mais qui nécessitent de l'intelligence artificielle. capable de traiter des milliards de points de données en temps réel et de prendre des décisions sans supervision humaine.
Le secteur des technologies de défense devient un enjeu majeur pour le capital-risque de la Silicon Valley. Mais si tous investissent dans les drones autonomes et les systèmes nucléaires avancés, le bioterrorisme reste un territoire inexploré. Valthos pourrait être la première d'une longue série à se concentrer sur ce secteur, selon les estimations. Brandon Reeves di Capitale luxembourgeoise:
« Nous n'en sommes qu'aux prémices. Nous pensons que le bioterrorisme devrait être considéré comme une menace au même titre que le nucléaire. »
Le jeu ne fait que commencer. D'un côté, une IA de plus en plus sophistiquée pourrait démocratiser la création d'armes biologiques. De l'autre, des systèmes de défense intelligents promettent d'arrêter toute menace avant qu'elle ne dégénère en catastrophe.
Au milieu, neuf personnes dans un bureau de New York construisent ce qui pourrait être le système immunitaire ultime de l'humanité.
Espérons que cela suffira.
