L’article 50 de l’AI Act oblige les fournisseurs et exploitants de contenus (textes, images, sons, vidéos) synthétiques générés par IA à les marquer comme tels, de façon indélébile et « de manière claire et identifiable » au premier coup d’œil, afin de lutter contre la désinformation. Dans une consultation, ouverte jusqu’au 3 juin, la Commission européenne propose cela dit que les contenus générés par IA ayant « fait l’objet d’une vérification humaine ou d’un contrôle éditorial » soient exemptés de cette obligation de transparence.

L’objectif est de permettre aux personnes physiques de distinguer les contenus (audio et donc aussi musicaux, images, textes et vidéos, y compris en réalité virtuelle ou « augmentée ») générés ou modifiés par IA (y compris agentique) des autres contenus (« par exemple, ceux créés par des humains ») et d’en vérifier l’origine.

Sont également concernés les contenus mixés avec du contenu généré par des humains, (...)

Les fournisseurs et déployeurs d’IA devront dès lors informer les utilisateurs lorsqu’ils interagissent avec des « systèmes interactifs synthétiques » ou consultent des contenus générés ou manipulés par l’IA, « à moins que cette utilisation ne soit liée à une activité purement personnelle et non professionnelle ». (...)

L’AI Act valide in fine l’extension GenAI que Next a développé

Cette obligation de transparence vise, in fine, à lutter contre « les risques de désinformation et de manipulation à grande échelle, de fraude, d’usurpation d’identité et de tromperie des consommateurs », « contribuant ainsi à renforcer l’intégrité et la confiance dans l’écosystème de l’information ». (...)