Construire des registres publics d'algorithmes (FR0094)

Quel est le problème public auquel l'engagement s'attaquera ? ● Les algorithmes jouent un rôle croissant dans le secteur public, qu'ils soient utilisés pour calculer l'impôt sur le revenu, déterminer qui reçoit une greffe cardiaque ou identifier le risque de faillite des entreprises ● Les administrations et les utilisateurs n'ont qu'une image partielle et incomplète des systèmes algorithmiques utilisés , malgré le fait que les rendre visibles est la première étape vers l'amélioration de leur gouvernance

Quel est l'engagement ? ● Aider les ministères et les administrations centrales à créer un registre public d'algorithmes ● Ce registre est mandaté par les règles de transparence des algorithmes décrites dans le Code régissant les relations entre les administrations et le public (CRPA) (voir https://guides.etalab.gouv.fr/algorithmes/, en français) ● Les briques sont là, comme le prototype de registre d'algorithmes proposé par Etalab en concertation avec les ministères et les collectivités (voir https://guides.etalab.gouv.fr/algorithmes/invent aire/ [en français], un article sur l'approche d'Etalab publié sur le blog de l'OGP au 164 https://www.opengovpartnership.org/stories/bui lding-public-algorithm-registers-lessons-learnedfrom-the-french-approach/, et un article à venir sur un atelier international collaboratif qui s'est tenu en juin 2021 lors de RightsCon, un sommet annuel sur les droits de l'homme à l'ère numérique, qui a réuni des chercheurs , gouvernements et membres de la société civile)

Comment l'engagement contribuera-t-il à résoudre le problème public ? ● Les administrateurs ministériels des données sont associés à la création du registre, les algorithmes relevant désormais de leur compétence. ● Etalab coordonnera un groupe de travail pour aider les ministères à utiliser les outils existants (prototype de registre) et fournir un niveau de soutien de base. L'idée est également que les ministères partagent les meilleures pratiques. ● La création de ce registre présente plusieurs avantages : o Pour les administrations : Se familiariser avec les systèmes algorithmiques et leurs impacts est la première étape pour établir une gouvernance sur ces systèmes. o Pour les citoyens : la loi française impose que les citoyens soient informés de l'utilisation des algorithmes à des fins décisionnelles. Le registre rend visibles les systèmes algorithmiques.

Pourquoi cet engagement est-il pertinent pour les valeurs OGP ? Cet engagement illustre les valeurs suivantes du PGO : ● Transparence : en fournissant à la société civile un aperçu des algorithmes utilisés par le gouvernement, cet engagement contribue directement à rendre les politiques publiques plus transparentes, tout en compilant un registre des algorithmes publics 165 actuellement utilisés par ministères et divulguer ouvertement les principales utilisations de ces données. ● Participation citoyenne : A l'heure actuelle, il est difficile de publier ces registres, mais ils permettront aussi à la société civile d'identifier des algorithmes qui pourraient être améliorés ou d'autres qui présentent des risques pour certaines couches de la population. ● Responsabilité publique : L'élaboration d'un premier ensemble de registres, qui a impliqué la participation volontaire des ministères, a révélé le simple fait que l'élaboration de ces registres les a amenés à réévaluer leurs procédures. De plus, ces registres sont considérés comme le socle d'autres obligations de divulgation (aux niveaux local et national) dont les services sont responsables (comme le prévoit la CRPA).

Informations complémentaires ● La France est internationalement connue pour son cadre juridique précurseur sur les algorithmes publics (loi pour une République numérique de 2016). Il a été l'un des premiers pays à intégrer un engagement sur les algorithmes dans son plan d'action OGP 2018-2020. De plus, il est membre de l'OGP's Open Algorithms Network, qui comprend également des représentants des gouvernements du Canada, du Royaume-Uni, des Pays-Bas et de la Nouvelle-Zélande (voir les articles de blog : https://www.opengovpartnership.org/stories/op fr-expériences-d-algorithmes-de-la-france-des-pays-bas-et-de-la-nouvelle-zelande/ et https://www.opengovpartnership.org/stories/refl ections-sur-la-mise-en-œuvre-de-la-politique-gorithmique-publique-sectorielle/). 166 ● Cet engagement s'appuie sur le plan d'action 2018-2020 du PGO. De plus, un ensemble d'organisations gouvernementales et de la société civile avec lesquelles la France est en contact explorent actuellement le sujet des registres (au Royaume-Uni, au Chili, en Nouvelle-Zélande, ainsi que les associations Access Now et AlgorithmWatch), soulevant en notamment la question des normes. Par cet engagement, la France continuera à se positionner comme un leader mondial sur les algorithmes publics et à participer aux réflexions sur ce sujet.

Activité jalon avec un livrable vérifiable Date de début Date de fin Début de la mise en œuvre des registres 01/09/2021 01/03/2022 Évaluation intermédiaire de l'initiative 01/03/2022 31/12/2022

Examen du plan d'action

Engagement 44. Construire des registres publics d'algorithmes

● Vérifiable : Oui

● A-t-il une optique de gouvernement ouvert ? Non

● Potentiel de résultats : peu clair