Alors qu’Elisabeth Borne vient de nommer un nouveau « comité de l’intelligence artificielle », la présidente de la CNIL, Marie-Laure Denis, donnait, le 11 septembre devant la Commission des lois de l’Assemblée nationale, le regard de son institution sur les enjeux de protection des données personnelles. Elle a plaidé pour un rôle important de la CNIL dans la régulation de ces systèmes.

(...) La présidente de la CNIL, Marie-Laure Denis, a été consultée par la Commission des lois de l’Assemblée nationale le 11 septembre. Si cet entretien avec les élus s’est effectué à huis clos, la CNIL a mis en ligne [PDF] le propos liminaire que sa présidente avait préparé et qui brosse son regard sur le sujet de la régulation de l’intelligence artificielle. Elle y plaide « pour que la CNIL ait un rôle important à jouer dans la régulation de ces systèmes ».
Comprendre le fonctionnement pour bien réguler

Selon Marie-Laure Denis, « il nous faut d’abord comprendre le fonctionnement d’une IA car on ne peut bien réguler un objet que [si on le ] comprend. Cette connaissance des systèmes d’IA est d’autant plus cruciale que ces systèmes sont sujets à des défaillances, à des attaques, ou peuvent avoir des impacts encore insoupçonnés sur les individus et sur la société ».

Elle appuie sur ce besoin de compréhension de leur fonction « d’autant plus cruciale que ces systèmes sont sujets à des défaillances, à des attaques, ou peuvent avoir des impacts encore insoupçonnés sur les individus et sur la société » et sur « les sources d’erreur et de biais [qui] peuvent être multiples » étant donné la complexité de ces systèmes. (...)

Mais la présidente de la CNIL insiste sur la différence avec d’autres systèmes informatiques : « Là où les systèmes d’intelligence artificielle se distinguent de systèmes informatisés plus classiques, c’est dans les difficultés que pose l’identification du problème, à nouveau en raison de leur nature statistique : c’est l’enjeu d’explicabilité des décisions proposées ou faites par l’IA ».

Émergence d’un cadre légal

Mais pour Marie-Laure Denis, « aujourd’hui, le stade de l’identification des difficultés juridiques et éthiques semble dépassé ». La présidente de l’autorité rappelle d’ailleurs qu’au jeu des rendus de rapports, la CNIL s’est saisie dès 2017 du sujet de l’IA « au service de l’homme ». Elle insiste pour passer à l’étape d’après et « l’émergence d’un cadre légal et opérationnel permettant à l’innovation de se déployer dans le respect des libertés publiques et individuelles ».

Elle rappelle d’ailleurs que la Commission européenne a déjà entamé le chantier dès 2021 en proposant un règlement sur le sujet, dont la phase d’adoption progresse. Elle a expliqué aux députés français qu’« à ce stade, les institutions européennes convergent sur une classification des systèmes de l’IA en fonction de leur niveau de risque. En pratique, les systèmes sont classés comme inacceptables, à haut risque, risque limité et risque minimal en fonction de leurs caractéristiques et finalités ». (...)

la présidente de l’autorité explique aux députés que pour avoir « une capacité à auditer les technologies d’IA en concevant des méthodologies d’audit et de contrôle des systèmes pour assurer le respect de la vie privée [...] il faut disposer de moyens, développer une expertise particulière et définir une méthodologie. Il nous faut un outillage permettant d’auditer les systèmes d’IA, tant a priori qu’a posteriori ». (...)

Elle insiste aussi pour qu’il y ait une vraie coordination au niveau européen et rappelle le groupe de travail lancé par le Comité européen de la protection des données (CEPD) en avril dernier.

Marie-Laure Denis insiste pour que la CNIL prenne une place importante dans la régulation de ces systèmes en appuyant sur « la très forte adhérence entre la régulation des systèmes d’IA et celle des données, en particulier des données à caractère personne ».

Avec la création de plusieurs comités par le gouvernement, il est effectivement difficile de savoir si les institutions comme la CNIL auront réellement leur place dans la confection de cette régulation et si la présidente de la CNIL a des raisons de s’inquiéter d’une possible éviction de son institution, alors que le sujet touche aussi beaucoup d’enjeux industriels.