Après trois jours de négociations intenses entre les Etats membres de l’Union européenne (UE) et le Parlement européen, un « accord politique » a été trouvé, vendredi 8 décembre, pour une législation inédite au niveau mondial pour réguler l’intelligence artificielle (IA) et éviter de possibles dérives. (...)

L’accord politique trouvé vendredi soir doit être complété par un travail technique pour finaliser le texte. (...)

Sur les IA génératives, le compromis prévoit une approche à deux vitesses. Des règles s’imposeront à tous pour s’assurer de la qualité des données utilisées dans la mise au point des algorithmes et pour vérifier qu’ils n’enfreignent pas la législation sur les droits d’auteur. Les développeurs devront par ailleurs s’assurer que les sons, les images et les textes produits soient bien identifiés comme artificiels.

Des contraintes renforcées s’appliqueront aux systèmes les plus puissants (...)

Ces systèmes seront soumis à une série d’obligations : contrôle humain sur la machine, établissement d’une documentation technique, mise en place d’un système de gestion du risque (...)

Interdictions rares

La législation prévoit un encadrement particulier des systèmes d’IA qui interagissent avec les humains. Elle les obligera à informer l’utilisateur qu’il est en relation avec une machine.

Les interdictions seront rares. Elles concerneront les applications contraires aux valeurs européennes, comme les systèmes de notation citoyenne ou de surveillance de masse utilisés en Chine, ou encore l’identification biométrique à distance des personnes dans les lieux publics pour éviter une surveillance de masse des populations. Sur ce dernier point, les Etats ont toutefois obtenu des exemptions pour certaines missions des forces de l’ordre, comme la lutte contre le terrorisme. (...)

la législation européenne sera dotée de moyens de surveillance et de sanctions, avec la création d’un office européen de l’IA, au sein de la Commission européenne. (...)