ENTRETIEN AVEC ÉMILE TORRES
Émile Torres est un philosophe, historien intellectuel et journaliste dont les travaux portent sur l’éthique des technologies émergentes, en particulier en ce qui concerne l’IA et l’extinction humaine.
NTERVIEW PAR DOUG HENWOOD
Doug Henwood est rédacteur en chef du Left Business Observer et animateur de l’émission Behind the News. Son dernier ouvrage s’intitule My Turn.
Dire que les géants de la technologie sont indifférents à l’humanité n’est pas seulement une figure de style. De Peter Thiel à Elon Musk, nombreux sont ceux qui adhèrent à une vision du monde selon laquelle les êtres humains seront remplacés par des post-humains numériques, ce qu’ils considèrent comme un progrès.
En voyant les magnats de la technologie jeter toute prudence dans la course à l’armement de l’IA ou se dérober sur la question de savoir si l’humanité doit continuer d’exister, il est naturel de se demander s’ils se soucient des vies humaines.
La réponse sincère et approfondie à cette question est tout aussi sombre que la réponse simpliste. Comme l’affirme le philosophe moral Émile Torres, de nombreux dirigeants de la Silicon Valley adhèrent à une vision d’un avenir transhumaniste dans lequel les êtres humains biologiques seront remplacés par des êtres numériques dotés d’une superintelligence. Cette vision explique leur obsession pour l’intelligence artificielle complète (AGI) et elle est au cœur de ce que Torres décrit comme les préférences extinctionnistes humaines.
En 2023, Torres et son collègue Timnit Gebru ont inventé l’acronyme TESCREAL pour décrire une constellation d’idéologies — transhumanisme, extropianisme, singularitarisme, cosmisme, rationalisme, altruisme efficace, longtermisme — qui sont devenues très influentes dans la Silicon Valley. Torres est un philosophe, historien et journaliste dont les travaux portent sur l’éthique des technologies émergentes, en particulier l’IA et l’extinction humaine.
Dans cette conversation avec le journaliste Doug Henwood enregistrée pour le podcast Behind the News de Jacobin, Torres explique la vision du monde TESCREAL, ses liens avec l’eugénisme et le réalisme du QI, et pourquoi des personnalités telles qu’Elon Musk, Peter Thiel et Sam Altman adhèrent à la vision d’un avenir post-humain.
DOUG HENWOOD. TESCREAL est un mot compliqué. Que signifie-t-il ?
ÉMILE TORRES Je n’ai jamais prétendu que c’était un joli mot. Ce n’est pas le cas. Mais il est utile.
L’idée centrale de la vision du monde TESCREAL est cette vision techno-utopique de l’avenir dans laquelle nous développons des technologies avancées qui nous permettent de repenser radicalement l’organisme humain afin de créer une nouvelle espèce post-humaine, ce qu’on appelle le transhumanisme. Nous nous étendrons au-delà de la Terre, coloniserons Mars puis le reste de la galaxie, et finirons par créer de vastes simulations informatiques remplies de trillions et de trillions de personnes numériques.
Et la raison pour laquelle nous faisons cela est que la vision du monde TESCREAL nous enseigne à maximiser la valeur totale de l’univers. Les êtres humains sont les conteneurs ou les substrats de la valeur. Ainsi, plus il y a d’êtres humains, plus la valeur totale que vous pouvez potentiellement créer est grande.
DOUG HENWOOD Cette valeur, qu’est-ce que c’est exactement ? Et qui en profite ?
ÉMILE TORRES C’est une excellente question. Le TESCREALisme a été fortement influencé par une théorie éthique appelée « utilitarisme totaliste ». L’utilitarisme totaliste considère la valeur comme une chose impersonnelle. La valeur n’a pas d’importance parce qu’elle profite à une personne en particulier. L’idée est que l’univers lui-même est simplement meilleur s’il contient plus de valeur.
Si l’on pense en termes d’argent ou de richesse, c’est comme dire que plus il y a d’argent ou de richesse, mieux c’est. Il ne s’agit pas nécessairement d’argent. Une autre interprétation de la valeur serait qu’il s’agit de quelque chose comme le plaisir ou le bonheur. Ainsi, plus l’univers contient de bonheur ou d’expériences agréables, mieux il devient — pas nécessairement pour quelqu’un en particulier, mais simplement du point de vue de ce que les utilitaristes totalistes appellent le cosmos. Il y a cet œil cosmique désincarné qui regarde l’univers et qui juge que plus il contient de valeur, mieux c’est, et moins il en contient, pire c’est.
DOUG HENWOOD Il y a là un aspect étrangement religieux.
ÉMILE TORRES C’est vrai. Et je dirais qu’il y a aussi une sorte d’influence capitaliste, l’idée que les êtres humains n’ont pas d’importance en soi. Dans cette vision du monde, nous avons de l’importance pour la valeur, plutôt que la valeur ait de l’importance pour nous.
DOUG HENWOOD Cela me transforme en un humaniste vraiment sentimental. J’aime à penser que je suis un peu plus discipliné que cela, mais bon sang, cela va me rendre très sentimental à propos de la valeur des êtres humains. (...)
Le raisonnement est le suivant : si nous disposons d’une superintelligence, alors nous disposons d’un super-ingénieur. Si nous disposons d’un super-ingénieur, alors nous pouvons concevoir le paradis.
(...)
Peut-être que notre espèce n’est, en quelque sorte, pas digne de réaliser la vision à long terme du TESCREALisme. Et ce dont nous avons besoin, c’est d’une population d’êtres « plus intelligents » qui puissent réellement partir coloniser l’espace et réorganiser ou redessiner les galaxies afin d’exploiter toute l’énergie qu’elles contiennent pour maximiser leur valeur. (...)
L’impératif transhumaniste de repenser radicalement l’humanité est vraiment au cœur de toutes les autres revendications des TESCREAListes. Nous ne serons probablement pas en mesure de coloniser l’espace si nous ne nous repensons pas radicalement, si nous ne téléchargeons pas notre esprit dans des ordinateurs ou si nous ne créons pas simplement une nouvelle espèce d’AGI pour remplacer complètement l’humanité. Est-ce que cela a du sens ? (...)
Plus nous sommes rationnels, mieux nous sommes placés pour créer ces successeurs post-humains qui partiront coloniser l’espace. Le rationalisme consiste à identifier les biais cognitifs afin de les neutraliser. Il s’agit de développer de nouvelles théories dans un domaine appelé théorie de la décision, qui est censé nous permettre de prendre des décisions de la manière la plus rationnelle possible. (...)
Le fondateur, Yudkowsky, a publié un article sur son site web communautaire, Less Wrong, qui est le centre névralgique en ligne de toute la communauté rationaliste, dans lequel il demandait aux lecteurs d’imaginer une situation dans laquelle ils étaient contraints de choisir entre deux options. La première est qu’un seul individu soit torturé sans pitié pendant cinquante ans. L’autre est qu’un nombre incalculable de personnes souffrent d’un inconfort presque imperceptible causé par un grain de poussière qui se trouve brièvement dans leur œil. Laquelle de ces deux options est la pire ? Son argument était que la deuxième, le scénario du grain de poussière, est bien pire si l’on fait le calcul…
DOUG HENWOOD C’est complètement fou.
ÉMILE TORRES Oui, un éclat de rire est la réponse appropriée dans ce cas. Son slogan est « Tais-toi et multiplie-toi », ce qui signifie « oublie tes émotions, tes sentiments moraux. Utilise ta tête, fais le calcul, et tu verras que le deuxième scénario est bien pire que quelqu’un qui est torturé pendant cinquante ans. Tu devrais donc choisir l’option de la torture.
DOUG HENWOOD Un autre aspect de cette vision du monde est le culte du QI élevé, qui nous amène sur le terrain de l’eugénisme. Pouvez-vous nous parler du QI et de l’eugénisme ?
ÉMILE TORRES Le QI est très important pour beaucoup de personnes au sein du mouvement TESCREAL. Beaucoup d’entre elles sont, comme elles le disent elles-mêmes, des « réalistes du QI ». Elles pensent que le QI mesure quelque chose de réel dans l’esprit humain, et que cette chose est très importante.
Beaucoup de psychologues, de philosophes, etc. pensent que le QI est une absurdité totale. (...)
Il existe une continuité très claire entre le mouvement eugéniste du XXe siècle et l’émergence du mouvement TESCREAL. Les figures de proue du mouvement TESCREAL ont tiré la sonnette d’alarme sur la possibilité de pressions dysgéniques, « dysgénique » signifiant le contraire d’eugénique, où eugénique signifie littéralement « bonne naissance ». L’idée est que l’intelligence est héréditaire, ce qui est très discutable d’un point de vue scientifique. (...)
Le transhumanisme est incontestablement une forme d’eugénisme. En fait, le transhumanisme a été initialement introduit par certains eugénistes de premier plan du XXe siècle, tels que Julian Huxley, un biologiste qui a publié plusieurs ouvrages sur ce sujet. Le transhumanisme est une forme d’eugénisme dopée aux stéroïdes. Les eugénistes de la vieille école voulaient simplement améliorer l’espèce humaine. Le transhumanisme dit : pourquoi s’arrêter à l’amélioration de l’humanité ? Pourquoi ne pas créer une espèce post-humaine entièrement nouvelle et « supérieure » ? (...)
Musk se considère comme une figure messianique qui va jouer un rôle central non seulement dans l’histoire de l’humanité, mais aussi dans l’histoire cosmique. Car s’il est celui qui inaugure l’ère de l’AGI avec son entreprise xAI, cela constituera un changement monumental. Selon lui, cela nous donnerait une capacité entièrement nouvelle pour réaliser la vision techno-utopique de la conception du monde TESCREAL.
SpaceX joue également un rôle dans cette histoire. Pour Musk, Mars est le tremplin vers le reste de la galaxie, qui est lui-même le tremplin vers le reste de l’univers (...)
Peter Thiel a une vision quelque peu unique, minoritaire dans la Silicon Valley, selon laquelle les post-humains qui devraient finalement nous remplacer devraient être des extensions de nos corps biologiques. Il a donc explicitement déclaré qu’il voulait vivre éternellement, mais qu’il voulait aussi conserver son corps. Il ne veut pas télécharger son esprit dans un ordinateur pour devenir un être numérique.
Cela contraste avec une version légèrement différente du pro-extinctionnisme, défendue par un plus grand nombre de personnes dans la Silicon Valley, selon laquelle l’avenir est numérique. On peut faire la distinction entre le transhumanisme biologique de Peter Thiel et ce qu’on pourrait appeler l’eugénisme numérique. L’eugénisme numérique est une version du pro-extinctionnisme qui affirme que les futurs post-humains qui nous remplaceront devraient tous être de nature numérique. (...)
C’est également profondément élitiste et extrêmement antidémocratique. À l’heure actuelle, avec leurs milliards et leurs billions de dollars, ils essaient de créer un nouveau monde dirigé par des post-humains sans jamais avoir demandé l’avis et les préférences du reste de l’humanité. Ils le font sans notre consentement et se moquent complètement de ce que nous avons à dire. (...)