Les États membres et le Parlement européen se sont entendus pour interdire les services d’IA permettant de « dénuder » des personnes sans leur consentement. Une réponse à la multiplication des deepfakes sexuels, qui ciblent massivement les femmes. Ces contenus touchent de nombreuses victimes anonymes, mais lorsqu’ils visent des journalistes, militantes ou élues, ils peuvent aussi devenir une arme contre leur parole publique.

Quand les attaques ont commencé, Nika Kovac était sous le feu des projecteurs. La militante slovène de 33 ans, coordinatrice de l’initiative citoyenne européenne My Voice, My Choice, défend depuis plusieurs années un mécanisme européen pour soutenir l’accès à l’avortement dans l’Union européenne. La campagne a pris de l’ampleur, poussant le Parlement puis la Commission européenne à se prononcer. C’est là que des vidéos et des photos à caractère sexuel, générées par l’IA et la représentant nue, sont apparues sur différents réseaux sociaux, raconte-t-elle à RFI.

Sa première pensée : « Que va-t-il se passer si ma mère ou mon père les voient, si mes grands-parents les voient ? » Certains proches ont d’ailleurs cru que l’une de ces vidéos était réelle.

Pour Nika Kovac, le message est clair. « Je pense que c’était une forme d’intimidation, destinée à me mettre mal à l’aise et à m’empêcher de continuer à parler des droits des femmes. Ce genre de contenu est une autre manière de réduire les femmes au silence », résume la fondatrice de l’Institut du 8 mars, une ONG de défense des droits humains très active en Slovénie.

Son cas illustre une dimension de plus en plus documentée des deepfakes sexuels. Ces contenus à caractère sexuel, générés par intelligence artificielle à partir de l’image d’une personne sans son consentement, touchent de nombreuses victimes anonymes. Mais les femmes exposées médiatiquement sont particulièrement ciblées. (...)

Dans une enquête consacrée à « la menace croissante » que représentent les deepfakes pour les journalistes, en particulier les femmes, Reporters sans frontières évoque le cas de Julia Mengolini, fondatrice de la radio Futurock et cible régulière de l’extrême droite argentine. La journaliste a dénoncé un deepfake pornographique la mettant en scène dans une relation incestueuse avec son frère afin de la dénigrer. Elle a porté plainte contre « le président Javier Milei qui a contribué à l’amplification de cette campagne en partageant une publication se moquant des tentatives de la journaliste de faire stopper ce harcèlement ».

Le phénomène dépasse le cas des journalistes et des militantes. (...)

Des violences très genrées (...)

Les femmes visibles dans l’espace public sont particulièrement exposées. Dans un rapport publié fin avril, ONU Femmes indique que sur plus de 600 femmes engagées dans la vie publique, 6% déclarent avoir été victimes de deepfakes, 12% disent avoir subi le partage non consenti d’images personnelles, y compris intimes ou sexuelles, et 41% affirment s’autocensurer sur les réseaux sociaux pour éviter les abus. (...)

« Torture psychologique »

Les deepfakes sexuels ne résument donc pas à eux seuls les cyberviolences sexistes, mais ils en constituent une forme particulièrement violente. (...)

Pour les victimes, le caractère artificiel de l’image n’atténue pas la violence. (...)

L’effet peut être directement politique. En Irlande du Nord, l’élue Cara Hunter a raconté au Guardian qu’une vidéo pornographique deepfake diffusée avant une élection avait failli mettre fin à sa carrière. Face à l’absence d’outils juridiques efficaces, son parti lui avait conseillé de garder le silence pour ne pas amplifier l’affaire. Ce qui montre aussi le dilemme imposé aux victimes.

L’IA comme accélérateur et amplificateur (...)

Face à cette massification, la réponse judiciaire reste souvent insatisfaisante. Moins de la moitié des pays disposent de lois traitant des abus en ligne. Encore moins ont adopté une législation couvrant spécifiquement les contenus deepfake générés par IA, souligne l’ONU.

De lentes avancées législatives (...)

« Le droit est au rendez-vous. La question, c’est son application, c’est quels moyens on se donne pour les enquêtes », résume Rachel-Flore Pardo, avocate spécialisée dans le cyberharcèlement et les violences sexistes et sexuelles. Mais pour les victimes, les obstacles restent nombreux : identifier l’auteur, constituer des preuves, faire enregistrer la plainte, obtenir des réponses des plateformes et le retrait complet des publications. Ce dernier point reste l’un des plus difficiles (...)

Dans le sillage de l’affaire Grok, les États membres et le Parlement européen se sont entendus le 6 mai dernier pour interdire dans l’UE les services d’intelligence artificielle permettant de « dénuder » des personnes sans leur consentement. Une avancée dont se « réjouit beaucoup » Nika Kovac, rendue possible selon elle par des femmes eurodéputées mobilisées au-delà des clivages politiques. À partir du 2 décembre prochain, les IA devront donc être dotées de mesures de sécurité les empêchant de générer ce genre de contenus. Reste à savoir comment cette interdiction sera appliquée.