Ce nouveau siècle a vu une accélération des sciences NBIC (Nanotechnologie, Biotechnologie, Informatique Sciences cognitives) notamment celle de l’intelligence artificielle où le mot vivant est de plus en plus galvaudé du fait de son attribution aux machines. On dit que les objets électroniques deviennent « intelligents » s’ils s’adaptent à l’utilisateur et même « vivants » quand ils communiquent avec nous de manière naturelle. Nous devons définir ce que c’est un objet vivant qu’il ne faut pas confondre avec un robot automate aussi sophistiqué soit-il. Le terme s’oppose alors à « vivant » : les objets ne sont pas animés, ils ne sont pas en vie.
(...) Toute médaille a son revers. Un site intéressant liste les technologies dangereuses pour l’humanité. Nous les résumons ici sans oublier naturellement l’intelligence artificielle : « Tout d’abord l’armement nanotechnologique. S’il y a bien une chose qui pourrait détruire la race humaine sur Terre, c’est l’utilisation des nanotechnologies à des fins militaires. Le risque vient de deux facteurs importants : l’auto-réplication incontrôlée et la croissance exponentielle. Que ce soit les aérovores (qui bloqueraient les rayons du soleil), le plancton gris (qui dévorerait l’écologie sous-marine), le lichen gris (qui détruirait la géologie terrestre) ou les destructeurs de biomasse (qui s’attaqueraient à divers organismes), il ne faudrait pas plus de 20 mois pour une "écophagie globale". La seul défense possible serait de créer un système qui perturberait les mécanismes internes des nanorobots. La plupart des experts sont donc d’accord pour instaurer un moratoire sur les nanotechnologies utilisées comme arme ».(5)
« Ensuite et dans l’ordre : « des machines conscientes C’est l’un des rêves des scientifiques : intégrer une conscience artificielle dans une machine. Cependant, il faut absolument réfléchir à ce sujet avant de se lancer. Selon le philosophe Thomas Metzinger, "aucun comité éthique dans un monde démocratique n’acceptera que de tels recherches soient lancées" ». Une super-intelligence artificielle Comme le disais Stephen Hawking l’intelligence artificielle pourrait être la plus grande erreur de notre histoire . Les voyages dans le temps N’importe quel film de SF traitant de voyages dans le temps nous montre les potentiels dégâts que cela pourrait générer, en particulier les paradoxes temporels. Un dispositif de lecture de l’esprit L’idée que des machines puissent lire les pensées et les souvenirs des gens sans leur consentement n’est pas complètement farfelue (…) L’année dernière, aux Pays-Bas, des scientifiques ont croisé des imageries mentales avec des algorithmes informatiques pour déterminer quelles lettres une personne regardait. L’idée est de reconstruire la pensée humaine à un niveau sans précédent, permettant de montrer ce que vous avez vu, pensé ou enregistré » (5)
En sixième position propose l’auteur : « Un dispositif de piratage cérébral .Par extension, il serait également possible d’altérer nos esprits sans que nous le sachions, de la même façon que dans le jeu Remember Me. (...)
« En septième position : « Des robots autonomes conçus pour tuer les humains. L’idée que des machines puissent tuer des humains sans que personne n’appuie sur la détente est effrayante. (…) Le plus grand danger se cache dans une hypothétique course à l’armement. Après quelques cycles d’amélioration, le développement de robots pourrait franchir un seuil dans lequel la dernière génération serait en mesure de dépasser tout système militaire contrôlée par l’homme. (…) Ensuite nous avons d’après l’auteur : « Les armes bactériologiques Un autre sujet perturbant... (...)
Les progrès de l’intelligence artificielle menacent la survie de l’espèce. C’est en tout cas les avis autorisés de Bill Gates, Stephen Hawking et Elon Musk. Quel est le point commun entre Stephen Hawking, Bill Gates et Elon Musk ? Le scientifique, le co-fondateur de Microsoft, et celui de Tesla et SpaceX pensent que l’intelligence artificielle constitue une menace pour l’humanité. « Je ne comprends pas dit Bill Gates pourquoi les gens ne sont pas inquiets. » « Je suis de ceux qui s’inquiètent de la super-intelligence. Dans un premier temps, les machines accompliront de nombreuses tâches à notre place et ne seront pas super-intelligentes. Cela devrait être positif si nous gérons ça bien. Plusieurs décennies plus tard cependant, l’intelligence sera suffisamment puissante pour poser des problèmes. Je suis d’accord avec Elon Musk et d’autres, et je ne comprends pas pourquoi les gens ne sont pas inquiets ». » (8)
« Elon Musk joue depuis quelque temps le rôle du Cassandre de l’intelligence artificielle. ’Je pense que nous devrions être très prudents. Si je devais deviner ce qui représente la plus grande menace pour notre existence, je dirais probablement l’intelligence artificielle. Je suis de plus en plus enclin à penser qu’il devrait y avoir une régulation, à un niveau national ou international, simplement pour être sûr que nous ne sommes pas en train de faire quelque chose de stupide. Avec l’intelligence artificielle, nous invoquons un démon’’. » (8)
« Le célèbre physicien Stephen Hawking, se montre lui aussi pessimiste. « Réussir à créer une intelligence artificielle serait le plus grand événement dans l’histoire de l’homme. Mais ce pourrait aussi être le dernier », prévient-il. (...)
Face à ces dangers, la communauté scientifique se mobilise. A la suite d’une conférence internationale organisée par l’Institut du Futur de l’Humanité, le 2 janvier 2015, l’Institut a publié une lettre ouverte pour inciter le monde de la recherche à ne pas se concentrer uniquement sur le développement des capacités de l’intelligence artificielle, mais aussi sur ses bénéfices pour la société et la constitution de garde-fous. Ces technologies sont à l’évidence utiles mais demandent un temps pour accepter de les intégrer dans l’environnement. L’assistance à l’humain dans des tâches répétitives et usantes ou pour accompagner moralement des personnes isolées est positive. (...)
Les trans-humanistes nous promettent le téléchargement d’un disque dur de tout ce qui existe dans le cerveau. Bienvenu dans le monde d’Orwell où les biens nés, les riches et les puissants resteront immortels. Les autres resteront esclaves et serviront continuellement de variable d’ajustement. Ainsi ira le monde que nous promet une science prométhéenne à moins d’une prise d conscience universelle où l’égoïsme fait place à l’empathie d’autant plus nécessaire que nous sommes embarqués sur le même vaisseau. A trop jouer avec le feu, on risque de perdre ce qui est notre patrimoine le plus précieux ; notre humanité.