Nous, membres de l’enseignement supérieur et de la recherche (ESR) et de l’éducation nationale (EN), déclarons adopter une posture d’objection de conscience face au déploiement des technologies d’IA générative[1] (IAg) dans nos institutions.

L’objection de conscience désigne le refus individuel, mais aussi collectif en tant qu’il est publiquement partagé, de prendre part à une activité que l’on perçoit comme incompatible avec des valeurs fondamentales.

Dans le cas présent, nous considérons que le déploiement de l’IAg dans les institutions de l’ESR et de l’EN est incompatible avec les valeurs de rationalité et d’humanisme que nous sommes censé·es représenter et diffuser.

Trois considérations majeures justifient cette position. Pour des raisons de concision, ce manifeste ne les développe pas mais on trouve dans la littérature scientifique de quoi les étayer solidement[2].

Considération 1.

L’IAg est un gouffre énergétique et matériel tel que personne ne peut prétendre qu’elle soit compatible avec les grands engagements internationaux tels que l’Accord de Paris sur le climat, et plus généralement avec la protection du vivant. Accepter le déploiement de l’IAg, c’est amplifier le dépassement des limites planétaires. Ceci est une attitude résolument anti-humaniste eu égard à la gravité de la situation. Le caractère écocidaire de l’IAg est en soi une raison suffisante pour en refuser le déploiement au sein de nos institutions.

Considération 2.

L’IAg représente un choix technologique qui agit comme un accélérateur des infrastructures industrielles sur lesquelles repose le secteur du numérique : mines, datacenters, centrales électriques, usines de matériel électronique, etc. Ainsi, outre les problèmes de pollution massive déjà évoqués, ce sont les lourds dégâts sociaux associés à ce système qui se voient renforcés : travail prolétarisé dans les usines de fabrication et ultraprolétarisé dans le « travail du clic », non-respect des droits humains, conflits d’usage (eau, métaux, énergie), rapports extractivistes et néo-coloniaux entre pays du Nord et du Sud, déstabilisation géopolitique des régions minières, etc. Dans tous ces domaines, la compétition effrénée à laquelle se livrent les acteurs de l’IAg mènera aux méthodes les plus sauvages et prédatrices. Il nous semble inacceptable de contribuer à une telle dynamique par nos pratiques pédagogiques et scientifiques.

Considération 3.

La banalisation des IAg dans le grand public alimente des usages qui ouvrent la voie à un futur dystopique – qui est, pour partie, déjà là : multiplication des vidéos deepfake, désinformation à grande échelle par des « usines à trolls », dépendance affective aux compagnies virtuelles, intensification du marketing digital et des escroqueries, etc. Plus généralement, il permet à des mégafirmes d’accumuler un pouvoir démiurgique, mégafirmes dont les dirigeants ne font pas mystère de leurs projets mégalomaniaques, eugénistes et de leur détestation de la démocratie. Nos institutions ne peuvent soutenir de telles techno-oligarchies, y compris de manière indirecte.

***

Le support principal de l’objection de conscience est le refus de participer à une activité qui contrevient à des valeurs fondamentales. Dans le cas de l’IAg, les trois considérations ci-dessus permettent d’assurer cette posture au regard de nos missions d’éducation et de diffusion des savoirs. (...)

l’effet de « verrouillage sociotechnique » empêchant tout retour en arrière n’est pas encore pleinement là avec les IAg et il est encore effectivement possible d’exercer un refus.

Engagements

Nous, membres de l’ESR et de l’EN signataires de ce manifeste nous engageons à :

– adopter face au déploiement des IAg dans nos institutions une posture d’objection de conscience. Face à un phénomène qui nous dépasse mais dont nous savons qu’il est mortifère, nous choisissons d’opposer un refus net, indiscutable, et politique parce qu’il est partagé : nous ne les utiliserons pas, à moins d’y être expressément contraint·es, dans nos cours, dans nos communications, dans nos recherches, dans nos activités administratives. Nous refuserons, autant que nos situations individuelles nous le permettent, de participer à des projets ou à des activités qui les mobilisent (enregistrement et compte-rendu automatique de réunion ; activité pédagogique ; formation à l’usage, fût-il qualifié de raisonné ou éthique, etc.). À tout le moins, nous exprimerons publiquement notre malaise profond face à ces pratiques. Nous sommes par ailleurs conscient·es que le terme « IAg » recouvre des applications très diverses, dont certaines sont déjà largement intégrées à nos pratiques, telles que la traduction ou la transcription automatique. S’il n’est pas réaliste de tout remettre en cause, il s’agit au moins de stopper ce qui peut encore l’être.

– afficher dans nos activités, nos signatures mails, nos publications, nos diaporamas, etc. notre ralliement à ce manifeste via un logo et/ou le lien vers le présent texte. L’enjeu est de ne jamais laisser l’IAg apparaître dans nos milieux professionnels « comme si de rien n’était » et d’afficher partout dans nos sphères d’activité que « cela ne va pas de soi ». Parvenir à ouvrir des discussions sur le sujet par cet affichage permettrait déjà d’éviter une banalisation qui, dans des institutions prescriptrices comme les nôtres, se confond avec de la promotion.

– promouvoir autant que possible une réflexion collective sur la place du numérique dans nos institutions. Si les arguments que nous opposons au déploiement de l’IAg nous permettent en effet de refuser une nouvelle « escalade numérique », nous savons également que le système sociotechnique du numérique dans son ensemble est sujet aux mêmes questionnements. Le « stop » opposé à l’IAg pourrait ainsi être l’ouverture d’une séquence d’évaluation de nos dépendances plus générales à un système problématique, qui permette de s’engager vers la « sobriété numérique »[4] en vue d’aboutir à un numérique effectivement soutenable. (...)

Ce manifeste a été écrit collectivement par des membres de l’Atelier d’Ecologie Politique de Toulouse, qui regroupe des scientifiques réfléchissant en interdisciplinarité aux enjeux socio-écologiques et au rôle de l’ESR dans ce contexte.