À la surprise d’absolument personne, les nouvelles capacités développées par l’intelligence artificielle sont presque aussitôt intégrées à l’appareil répressif et de censure de pays autoritaires.
Un rapport de l’ONG Freedom House, qui suit les évolutions de la démocratie dans le monde, a récemment pointé l’adoption rapide par des pays comme la Chine ou la Russie de technologies à base d’intelligence artificielle pour étendre un peu plus encore le contrôle sur leur population. Ces derniers développent d’ailleurs leurs propres modèles, qui répondent aux mêmes règles de contrôle de l’information que les médias traditionnels.
Mais il n’est pas nécessaire d’aller dans des pays totalitaires pour trouver des usages au pire à visée autoritaire, au mieux dont le but est de tordre la vérité. Des personnalités politiques dans les démocraties occidentales, notamment aux États-Unis, ont également commencé à utiliser les deepfakes, sans réellement s’en cacher, pour discréditer leurs opposants.
Le PCC pour ouvrir la voie
Bien avant l’éclosion et le succès de ChatGPT, il était bien établi que le gouvernement chinois utilisait la reconnaissance faciale pour suivre et contrôler ses citoyens. (...)
Ainsi, lorsque ChatGPT a fait son apparition dans le pays, il répondait aux questions de ses utilisateurs, Chinois ou autres, sans respecter la vérité officielle, notamment sur le massacre de Tiananmen de 1989 qui n’a officiellement jamais eu lieu selon les autorités du pays.
En juillet, le PCC a clarifié la situation en contraignant les IA du pays à respecter les mêmes règles de censure que les médias traditionnels et à se conformer aux « valeurs socialistes ». Ainsi, quand on lui demande, Ernie n’a par exemple pas d’informations à délivrer concernant la persécution des Ouïghours.
De la même manière, le gouvernement russe a également publié son propre règlement concernant le développement de modèles d’IA. (...)
Enfin, la pratique qui consiste à générer des vidéos de présentateurs blancs parlant anglais et discréditant les gouvernements occidentaux comme s’il s’agissait de réelles émissions d’actualité semble également en pleine croissance. (...)
Les démocraties occidentales loin d’être à l’abri
Dès le début, et parfois même à la demande des principaux intéressés, les pays occidentaux ont de leur côté pris très au sérieux le développement de l’IA, tentant d’y apposer des garde-fous légaux. Un processus qui semble déjà avoir pris du retard puisque l’IA, sans être mise directement au service de l’État, a déjà fait une entrée remarquée dans la sphère politique.
Le meilleur exemple est probablement les États-Unis, où les candidats à la primaire républicaine Trump et Desantis tentent de se discréditer à coup de vidéos deepfakes. (...)