Un traité international des droits de l’homme et de la démocratie sur l’IA est en train d’être négocié entre une cinquantaine de pays dont l’UE, les États-Unis et le Canada. Il vise à garantir que les développeurs d’outils d’intelligence artificielle comme OpenAI ou Mistral respectent un minimum de droits fondamentaux et d’éthique. Voici ce qu’il faut retenir de ce texte.

C’est un texte sur l’intelligence artificielle qui a pour l’instant été éclipsé de la scène par « l’AI Act », le règlement européen sur l’IA, mais qui devrait mériter toute notre attention. Le 14 mars dernier, la cinquantaine de pays qui s’était réunie à Strasbourg pour discuter de la « Convention cadre sur l’IA », est parvenue à trouver un accord provisoire, sur ce qui est considéré comme le tout premier traité international sur l’IA.

Au sein du Conseil de l’Europe — une institution qui n’a rien à voir avec l’Union européenne — les États-Unis, le Canada, le Japon, l’Union européenne et bien d’autres pays – tentaient depuis près de deux ans et demi de se mettre d’accord sur quatorze pages qui ont trait aux droits de l’homme, et à ce qu’on pourrait appeler une « IA éthique ».

« Certaines activités liées à l’IA pourraient porter atteinte à la dignité humaine et à l’autonomie individuelle, aux droits de l’homme, à la démocratie et à l’État de droit », écrivent-ils en préambule. Il existe en effet des « risques de discrimination », de « mauvaise utilisation de l’IA » – à l’image de ces systèmes « utilisés à des fins répressives, de surveillance arbitraire ou illégale, et de censure », ajoutent-ils.

C’est quoi ce nouveau texte sur l’IA ? (...)

À la différence de la récente résolution des Nations Unies qui appelle à réguler l’intelligence artificielle, ce texte sera à terme contraignant. Mais il devra suivre un long processus pour devenir applicable : il devra être ratifié par chaque État signataire, puis être transposé dans chaque droit national. Il pourrait s’appliquer, une fois toutes ces étapes franchies, à l’Union européenne, mais aussi aux États-Unis, à l’Australie, au Canada, au Japon, au Mexique, au Costa Rica, à l’Argentine… Et à tous les pays qui le souhaitent. (...)

Quelle différence avec l’AI Act ? (...)

Contrairement au règlement européen sur l’IA, il s’agit d’un traité international. (...)

Sera-t-il applicable au secteur privé ?

Sur le papier, on comprend l’intention du traité, mais en pratique, les entreprises privées qui développent les outils d’IA seraient-elles réellement tenues d’appliquer ce texte ? Ce point a justement été âprement discuté au sein de l’institution. Dans la version initiale, les rédacteurs proposaient d’appliquer la convention au secteur privé et au secteur public sans distinction, avec des exceptions pour la défense nationale. Mais dans la version publiée en décembre dernier, les lignes ont bougé. Une exception pour le secteur privé a été introduite.

De quoi mettre vent debout les défenseurs des droits, à l’image de ces ONG comme la Ligue des droits de l’Homme, Reporters sans frontières, Féministes contre le cyberharcèlement, Access Now, ou Public Eye. Dans une lettre ouverte, elles déploraient cette possible exclusion des Big Tech et entreprises du secteur de l’IA. Cela reviendrait à « vider la convention de sa substance » (...)

L’accord provisoire du 14 mars a finalement opté pour un entre-deux (...)

L’exclusion du secteur de la défense a aussi été source de tensions. (...)

Les activités liées à la protection de la sécurité nationale ne seront pas tenues de respecter la Convention cadre, mais elles devront être menées en conformité avec le droit international. (...)