Au cœur de Manhattan, trois mots gravés sur des douilles d’obus (« nier, défendre, déposer ») révèlent une histoire encore plus profonde que le meurtre brutal du PDG d’UnitedHealthcare. Lequel? Celui d'un algorithme de soins de santé que a refusé des soins vitaux à des milliers de personnes âgées, ignorant dans presque tous les cas les conseils des médecins.
Une histoire qui part de l'actualité de ces derniers jours et soulève des questions inquiétantes sur le rôle de la technologie dans les décisions concernant la vie et la mort.
Qu'est-il arrivé?
Brian Thompson, 50 ans, PDG d'UnitedHealthcare, un géant américain de l'assurance maladie, a été tué mercredi matin à Manhattan. Un tueur masqué l'attendait devant l'hôtel Hilton et lui a tiré une balle dans le dos.
Son entreprise, avec un chiffre d'affaires de 280 milliards de dollars, a été mêlé à un certain nombre de controverses, de
enquêtes antitrust à l'accusation d'avoir utilisé un algorithme pour
refuser l'aide à la réadaptation à des patients gravement malades plus tôt cette année.
L’algorithme de soins de santé qui décide qui traiter
Lorsque l’intelligence artificielle intervient dans les décisions concernant la vie des gens, la frontière entre efficacité et inhumanité devient ténue. L'algorithme de soins de santé nH Prédire, mis en œuvre par UnitedHealthcare, a été conçu pour rationaliser les décisions de remboursement médical. En réalité, il s'est transformé en un système automatisé de refus de traitement, avec un taux d'erreur de 90%.
La poursuite intentée des familles de deux patients décédés ont révélé comment cet algorithme de soins de santé ignorait systématiquement les évaluations des médecins. La prise de conscience est encore plus troublante que UnitedHealthcare était au courant de ces erreurs mais continuait à utiliser le système.
La technologie, qui devrait être un outil de soutien, est devenue un juge implacable de la santé des autres, avec des conséquences dévastatrices pour des milliers de patients âgés.
Vengeance contre le système
Le meurtre du PDG Brian Thompson a suscité des réactions mitigées sur les réseaux sociaux. Le tueur, toujours non identifié, est parti un message inquiétant sur les douilles: un manifeste de colère contre un système qui fait passer les algorithmes avant l'humanité.
Si pour comprendre un meurtre il faut une arme, un mobile et un coupable, nous avons déjà presque tout (y compris une photo du tueur probable). Mais quant au motif, comme signalé The American Prospect, environ 50 millions de clients auraient pu avoir des raisons d’en vouloir à UnitedHealthcare. 50 millions de tueurs potentiels et 50 millions de victimes à la fois.
C’est pourquoi la réaction étonnamment enthousiaste du public face à ce meurtre révèle une profonde crise de confiance dans le système de santé américain. Les trois mots sur les coquilles racontent une histoire de frustration systémique, où la technologie est utilisée comme bouclier pour des décisions qui ont un impact cruel sur la vie des gens.
L’avenir des soins de santé automatisés
Cette histoire, comme nous l’avons mentionné, soulève des questions cruciales sur l’avenir des soins de santé. Intégration de l'intelligence artificielle dans le secteur médical c'est inévitable, mais comment faire en sorte qu'il reste un outil au service de l'humanité et non l'inverse ?
Un algorithme de soins de santé peut traiter d’énormes quantités de données et potentiellement améliorer l’efficacité du système. Mais le cas de UnitedHealthcare démontre également les énormes dangers liés à la délégation totale des décisions médicales à l’automatisation.
Le défi de l’avenir sera de trouver un équilibre entre innovation technologique et contrôle humain, en veillant à ce que l’efficacité ne prévale jamais sur l’éthique et la compassion.
Surveillance et contrôle dans les soins de santé modernes
L’utilisation d’algorithmes de santé soulève également des questions sur la confidentialité et le contrôle des données médicales. Lorsqu'un système automatisé a le pouvoir de décider du sort médical d'une personne (ou sur sa capacité de conduite), qui contrôle ce système ? Qui garantit la transparence de ses décisions ?
La création de NH Predict démontre comment un manque de surveillance peut conduire à des abus systémiques. La technologie des soins de santé du futur devra être accompagnée de freins et contrepoids rigoureux.
Cette histoire tragique doit servir d’avertissement pour l’avenir des soins de santé numériques. L’intégration de la technologie dans le système de santé est nécessaire, mais doit être guidée par des principes éthiques clairs et une surveillance humaine constante.
