Création de registres publics d'algorithmes: leçons tirées de l'approche française
Cet article fait partie de la «série de blogs sur les algorithmes ouverts» de l'OGP. Lire les autres articles de la série ici.
infos ces dernières années, l'utilisation d'outils décisionnels automatisés par les gouvernements a considérablement grandi. Il est essentiel de rendre ces outils transparents et visibles pour s'assurer qu'ils ne sont pas utilisés à mauvais escient et pour responsabiliser les gouvernements. Il y a eu un appel croissant de la société civile pour que les gouvernements établissent des registres publics des systèmes de prise de décision automatisés qu'ils utilisent. Plusieurs agences centrales des gouvernements nationaux et des villes, telles que New York, Amsterdam, Helsinkiet villes françaises Nantes et Antibes, ont déjà répondu à l'appel.
Une approche collaborative
En France, le Loi République numérique mandats transparenceSelon les articles de gouvernance de l'OGP, la transparence se produit lorsque "les informations détenues par le gouvernement (y compris sur les activités et les décisions) sont ouvertes, complètes, opportunes, librement accessibles au public... Plus d'algorithmes publics. Entre autres obligations, elle oblige les agences publiques à répertorier publiquement les principaux outils algorithmiques d'aide à la décision et à publier leurs règles. Cependant, dans la pratique, les agences ont du mal à se conformer à cette obligation, en partie à cause d'un manque de conseils sur la manière d'inventorier les algorithmes, les informations à inclure et la manière de les présenter.
À l'été 2020, Etalab, le groupe de travail du gouvernement français pour la politique des données, a lancé un groupe de travail avec des fonctionnaires de l'administration centrale (ministère de ÉducationLa responsabilité au sein du système d'éducation publique est essentielle pour améliorer les résultats et la réussite, et la responsabilité est presque impossible sans des politiques transparentes et des opportunités de participation ... et la Direction des Douanes) et des collectivités territoriales (notamment les villes d'Antibes et de Lyon) pour approfondir ce sujet. Sélectionnés sur une base volontaire, chaque fonctionnaire avait à cœur la transparence et le gouvernement ouvert et se trouvait à une étape différente de la construction d'un registre algorithmique dans son agence, de l'exploration à la quasi-mise en œuvre.
L'objectif était de créer une communauté de pratique et de produire des conseils pratiques publics sur les registres. Le groupe s'est réuni régulièrement jusqu'en décembre 2020, partageant les progrès, les obstacles et les retours d'expérience.
La première version du registre en pratique
Le travail du groupe a abouti à la première version d'un document d'orientation (en français) en février 2021.
Le document propose quatre catégories d'informations qui peuvent être collectées pour chaque algorithme sur:
- Responsable de l'agence
- Contexte global et intégration de l'algorithme dans le processus décisionnel
- Impact de la décision
- Fonctionnement technique de l'algorithme
La portée et le type d'informations de ce registre ont été conçus pour trouver un équilibre entre un niveau maximal de transparence et les ressources des agences pour constituer des registres. Ces algorithmes sont utilisés dans une variété de décisions allant de l'attribution de aideDes informations plus nombreuses et de meilleure qualité sur l'aide aident les pays partenaires et les institutions donatrices à planifier et à gérer plus efficacement les ressources d'aide, les parlements et la société civile à tenir les gouver... à la fiscalité, aux admissions dans l'enseignement supérieur et plus encore. L'objectif est qu'il soit suffisamment complet pour pouvoir également être utilisé pour répondre aux demandes d'information des citoyens.
Grâce aux commentaires et aux discussions des réunions du groupe de travail, le document va au-delà de la liste des informations et souligne également comment démarrer le processus, y compris qui contacter, comment mettre en place un système de gouvernance et quels algorithmes prioriser. Par exemple, la ville de Lyon a décidé de cibler d'abord ses services des affaires sociales car elle prend des décisions cruciales au quotidien sur les populations vulnérables.
Leçons apprises
Tout au long de leur travail collaboratif, le groupe de travail et Etalab ont beaucoup appris. Voici quelques points à retenir pour les réformateurs qui cherchent à créer des registres d'algorithmes publics:
- La définition d'algorithmes peut être difficile. Commencez par demander aux agences quelles décisions elles prennent au quotidien et travailler à rebours pour déterminer si le processus contient des étapes algorithmiques.
- La mise en place d'une bonne gouvernance est essentielle. Les algorithmes publics sont à la croisée des chemins données ouvertesEn ouvrant les données et en les rendant partageables et réutilisables, les gouvernements peuvent permettre un débat éclairé, une meilleure prise de décision et le développement de nouveaux services innovants. Spécifications techniques : Police..., protection des données, open source et accès aux documents administratifs. Les fonctionnaires devront impliquer de nombreuses personnes dans leur organisation, des responsables de la protection des données aux équipes juridiques, aux équipes techniques et aux experts du domaine.
- Avoir un mandat d'un parrain donne une légitimité à l'officier en charge de la construction du registre.
- Construire le registre est l'occasion de rappeler que les algorithmes ne sont pas un simple sujet technique. La plupart des informations sont entre les mains d'experts du domaine qui utilisent les outils.
- Les ressources sont rares et l'établissement de priorités est essentiel. Concentrez-vous sur les domaines où la transparence peut être la plus utile.
Prochaines étapes
Une ville, Antibes, a déjà utilisé cette V1 pour publier son inventaire, avec sept algorithmes.
Etalab prévoit maintenant d'obtenir des commentaires sur le registre des propositions, en particulier de la part des organisations de la société civile qui pourraient utiliser ces informations pour rendre les gouvernements plus responsables. Le point final serait que la liste d'informations devienne un schéma de données.
De nombreuses questions restent à régler. Où publier ce registre: sur un site dédié, sur le portail open data de l'agence, ailleurs? Quels outils faut-il utiliser pour rassembler et présenter les informations? Notre objectif est d'essayer de répondre à ces questions avec les communautés françaises et la communauté internationale, notamment à travers les OGP. Réseau d'algorithmes ouverts.
Soyez sympa! Laissez un commentaire