Ignorer la navigation

Création de registres publics d'algorithmes: leçons tirées de l'approche française

Soizic Pénicaud|

Cet article fait partie de la «série de blogs sur les algorithmes ouverts» de l'OGP. Lire les autres articles de la série ici.

infos ces dernières années, l'utilisation d'outils décisionnels automatisés par les gouvernements a considérablement grandi. Il est essentiel de rendre ces outils transparents et visibles pour s'assurer qu'ils ne sont pas utilisés à mauvais escient et pour responsabiliser les gouvernements. Il y a eu un appel croissant de la société civile pour que les gouvernements établissent des registres publics des systèmes de prise de décision automatisés qu'ils utilisent. Plusieurs agences centrales des gouvernements nationaux et des villes, telles que New York, Amsterdam, Helsinkiet villes françaises Nantes et Antibes, ont déjà répondu à l'appel. 

Une approche collaborative 

En France, le Loi République numérique mandats transparence d'algorithmes publics. Entre autres obligations, elle oblige les agences publiques à répertorier publiquement les principaux outils algorithmiques d'aide à la décision et à publier leurs règles. Cependant, dans la pratique, les agences ont du mal à se conformer à cette obligation, en partie à cause d'un manque de conseils sur la manière d'inventorier les algorithmes, les informations à inclure et la manière de les présenter.

À l'été 2020, Etalab, le groupe de travail du gouvernement français pour la politique des données, a lancé un groupe de travail avec des fonctionnaires de l'administration centrale (ministère de Éducation et la Direction des Douanes) et des collectivités territoriales (notamment les villes d'Antibes et de Lyon) pour approfondir ce sujet. Sélectionnés sur une base volontaire, chaque fonctionnaire avait à cœur la transparence et le gouvernement ouvert et se trouvait à une étape différente de la construction d'un registre algorithmique dans son agence, de l'exploration à la quasi-mise en œuvre. 

L'objectif était de créer une communauté de pratique et de produire des conseils pratiques publics sur les registres. Le groupe s'est réuni régulièrement jusqu'en décembre 2020, partageant les progrès, les obstacles et les retours d'expérience. 

La première version du registre en pratique

Le travail du groupe a abouti à la première version d'un document d'orientation (en français) en février 2021.

Le document propose quatre catégories d'informations qui peuvent être collectées pour chaque algorithme sur: 

  • Responsable de l'agence
  • Contexte global et intégration de l'algorithme dans le processus décisionnel
  • Impact de la décision
  • Fonctionnement technique de l'algorithme 

Extrait des documents d'orientation fournis par Etalab

La portée et le type d'informations de ce registre ont été conçus pour trouver un équilibre entre un niveau maximal de transparence et les ressources des agences pour constituer des registres. Ces algorithmes sont utilisés dans une variété de décisions allant de l'attribution de aide à la fiscalité, aux admissions dans l'enseignement supérieur et plus encore. L'objectif est qu'il soit suffisamment complet pour pouvoir également être utilisé pour répondre aux demandes d'information des citoyens. 

Grâce aux commentaires et aux discussions des réunions du groupe de travail, le document va au-delà de la liste des informations et souligne également comment démarrer le processus, y compris qui contacter, comment mettre en place un système de gouvernance et quels algorithmes prioriser. Par exemple, la ville de Lyon a décidé de cibler d'abord ses services des affaires sociales car elle prend des décisions cruciales au quotidien sur les populations vulnérables. 

Leçons apprises 

Tout au long de leur travail collaboratif, le groupe de travail et Etalab ont beaucoup appris. Voici quelques points à retenir pour les réformateurs qui cherchent à créer des registres d'algorithmes publics: 

  • La définition d'algorithmes peut être difficile. Commencez par demander aux agences quelles décisions elles prennent au quotidien et travailler à rebours pour déterminer si le processus contient des étapes algorithmiques.  
  • La mise en place d'une bonne gouvernance est essentielle. Les algorithmes publics sont à la croisée des chemins données ouvertes, protection des données, open source et accès aux documents administratifs. Les fonctionnaires devront impliquer de nombreuses personnes dans leur organisation, des responsables de la protection des données aux équipes juridiques, aux équipes techniques et aux experts du domaine. 
  • Avoir un mandat d'un parrain donne une légitimité à l'officier en charge de la construction du registre. 
  • Construire le registre est l'occasion de rappeler que les algorithmes ne sont pas un simple sujet technique. La plupart des informations sont entre les mains d'experts du domaine qui utilisent les outils. 
  • Les ressources sont rares et l'établissement de priorités est essentiel. Concentrez-vous sur les domaines où la transparence peut être la plus utile.

Prochaines étapes

Une ville, Antibes, a déjà utilisé cette V1 pour publier son inventaire, avec sept algorithmes.

Etalab prévoit maintenant d'obtenir des commentaires sur le registre des propositions, en particulier de la part des organisations de la société civile qui pourraient utiliser ces informations pour rendre les gouvernements plus responsables. Le point final serait que la liste d'informations devienne un schéma de données. 

De nombreuses questions restent à régler. Où publier ce registre: sur un site dédié, sur le portail open data de l'agence, ailleurs? Quels outils faut-il utiliser pour rassembler et présenter les informations? Notre objectif est d'essayer de répondre à ces questions avec les communautés françaises et la communauté internationale, notamment à travers les OGP. Réseau d'algorithmes ouverts.

Pas encore de commentaires

Soyez sympa! Laissez un commentaire

Votre adresse email n'apparaitra pas. Les champs obligatoires sont marqués *

Open Government Partnership