Pourquoi l’ODAP ?
Les administrations utilisent de plus en plus d’algorithmes, dans des domaines incontournables et essentiels : éducation, santé, prestations sociales, immigration…
Ces algorithmes restent opaques, mal évalués et mal encadrés.
Mieux connaître ces systèmes et leurs conséquences est indispensable pour garantir que les services publics restent accessibles, justes et égalitaires. C’est un enjeu démocratique : les administrations doivent être responsables et redevables des politiques publiques qu’elles mettent en œuvre via les algorithmes.
Que fait l’ODAP ?
L’ODAP contribue à la transparence et l’évaluation indépendante des algorithmes publics et outille les associations et les collectifs engagés pour l’égalité des droits et la justice sociale.
Son premier projet : un inventaire des algorithmes utilisés par les administrations françaises. (...)
L’ODAP regroupe des spécialistes et chercheur·euses en sciences sociales, politiques publiques, droit, design et ingénierie. Il a été fondé par : Camille Girard-Chanudet
Camille est sociologue, chercheuse postdoctorale au Centre d’Études de l’Emploi et du Travail (CNAM). (...)
Lire aussi :
– (Next Inpact)
Algorithmes surveillés
Parcoursup et Mon master dans l’éducation, Foncier Innovant du côté de l’administration fiscale, algorithmes utilisés par la CAF pour détecter les indus… Les systèmes algorithmiques déployés par le service public se multiplient au fil des années, suscitant au passage un nombre croissant de questionnements.
Fin octobre, la Cour des comptes regrettait le manque de pilotage des projets d’IA au sein du ministère de l’Économie et des finances. Mi-novembre, la Défenseure des droits signait un rapport s’inquiétant du respect des droits des usagers des services publics et appelant les administrations à faire preuve de plus de transparence.
Mais dans le détail, quels algorithmes utilise le service public ? Pour quels usages ? Pour répondre à ces questions, trois chercheuses viennent de lancer l’Observatoire des algorithmes publics (ODAP). Dans sa première version, leur inventaire (téléchargeable sur data.gouv.fr) contient 72 systèmes différents, dont 3 en conception, 7 qui ont été abandonnés, 11 en expérimentation, et 48 déployés. (...)
Next a rencontré les trois fondatrices de l’ODAP : la sociologue Camille Girard-Chanudet, la designer Estelle Hary, qui prépare une thèse sur la conception des algorithmes dans le secteur public, et la consultante Soizic Penicaud, chercheuse indépendante sur les effets de l’intelligence artificielle sur les droits humains.
Quel est l’objectif de cet observatoire ?
Camille Girard-Chadunet : Nous avons lancé l’ODAP sur la base d’un constat : celui qu’il y a extrêmement peu d’informations sur les algorithmes utilisés et déployés par les administrations publiques, malgré l’obligation de transparence qui leur est faite dans la loi (notamment par la Loi pour une République Numérique de 2016, qui a intégré des exigences de transparence dans le Code des relations entre le public et l’administration, CRPA, ndlr).
Notre objectif est donc double : il s’agit d’une part de centraliser des informations qui sont difficilement accessibles, donc de créer une plateforme sur laquelle tous ces éléments seraient accessibles. La seconde raison est de montrer la variété de ce qui se cache derrière le terme d’ « algorithmes publics », montrer que ça peut aussi bien être des algorithmes sophistiqués que des algorithmes par règles, qui automatisent pour autant aussi la décision publique.
Il s’agit autant de visibiliser les outils qu’il y a derrière le développement d’algorithmes publics que de donner des ressources à divers acteurs. (...)