Parmi (presque) toutes les technologies futures et effrayantes qui pourraient avoir un impact négatif sur le monde, il n'y en a que quelques-unes absolument terrifiantes que nous ne voudrions jamais voir fabriquées. En voici quelques-uns (sans ordre particulier):
Nanotechnologie de guerre
Rien ne pourrait provoquer la fin de l’humanité plus rapidement que la nanotechnologie moléculaire militarisée. Il s’agit d’une menace qui peut s’appuyer sur deux facteurs dévastateurs : une croissance exponentielle et une réplication incontrôlée. Un gouvernement cynique, une entité non gouvernementale ou même un groupe terroriste peuvent créer des machines microscopiques capables de se reproduire, consommant ainsi rapidement les ressources de la planète. De minuscules engins qui, avec la férocité d'un feu, transforment la terre en bave grise.
Robert Freitas, expert et théoricien des nanotechnologies, a spéculé sur plusieurs variantes possibles de nanotechnologies mortelles. Certaines machines aéro-mangeuses pourraient capter toute la lumière du soleil, d’autres seraient avides de carbone ou de biomasse, ou pourraient « se nourrir » d’organismes particuliers.
Dans le pire des cas, appelé « écophagie globale », la planète serait complètement détruite en seulement 20 mois. Dans le peu de temps dont il dispose, l'homme doit contrer des machines apparemment imparables, en identifiant les moyens d'interrompre leur réplication.
C'est pourquoi, conclut l'expert, les nanotechnologies doivent être strictement réglementées en imposant un moratoire sur leur utilisation à des fins militaires.
Machines sensibles
Il est communément admis que l’humanité assistera tôt ou tard à la naissance de machines artificielles dotées de conscience. Il faut cependant prendre des précautions bien à l’avance pour considérer toutes les conséquences éthiques possibles de l’affaire. Un thème également brillamment abordé dans la série télévisée « Westworld », si vous voyez de quoi je parle.
Déjà en 2003, le philosophe Thomas Metzinger observait qu'il serait terriblement cruel de développer des logiciels qui peuvent souffrir.
« Que diriez-vous si quelqu'un sortait et disait 'hé, je veux créer des enfants génétiquement perturbés !' Pour des raisons de progrès, nous avons besoin de personnes manquant un élément ou présentant des déficits émotionnels ou cognitifs spécifiques. Trouvez-vous cela absurde ou pas ? De plus. Nous trouverions cela dangereux. Une machine sensible, si elle est réellement sensible, peut en effet souffrir de toutes sortes de déficits. Et sans avoir aucun comité d’éthique, aucune représentation pour sa défense.
Selon le futurologue Louie Helm, l'une des meilleures choses à propos d'un ordinateur est que vous pouvez lui faire faire des choses ennuyeuses sans l'ennuyer. Depuis que nous avons décidé d'utiliser un AI au lieu d'être humain pour certaines tâches, il peut être immoral de le programmer exprès pour qu'il soit conscient de soi. Piéger une conscience dans une machine et la forcer à travailler pour vous ressemble très, très étroitement au pire esclavage qui soit.
Sans compter qu'une hypothétique intelligence artificielle générée afin de recréer la structure biologique du cerveau, le résultat d'une bonne programmation pourrait être le fait que cette intelligence perdrait la tête si elle était soumise à une charge injuste et considérable sur sa psyché.
C'est une raison pour porter une attention particulière au développement de technologies effrayantes basées sur l'intelligence artificielle qui ont pour vocation de prendre conscience.
Lecteurs d'esprit
Le danger de technologies effrayantes lié à cette possibilité existe naturellement dans le cas des machines capables de lire à distance et sans son consentement les pensées et les souvenirs d'une personne. Cela sera très difficile tant que le cerveau humain ne sera pas connecté à un réseau ou à toute forme de communication.
Le développement de la télépathie mais ça va vite. L’année dernière, une équipe néerlandaise a utilisé des scanners cérébraux et l’apprentissage automatique pour déterminer quelles lettres une personne regardait à ce moment-là. La révolution ouvre la possibilité de reconstruire les pensées humaines à un niveau de détail jamais vu auparavant : il sera possible de savoir ce que nous regardons, ce que nous pensons, ce dont nous nous souvenons. Voici. Imaginez maintenant quelque chose comme celui-ci utilisé par n'importe quel régime totalitaire et repensez au concept de « procès des intentions ».
Les commentaires sont fermés.