Ignorer la navigation
France

Transparence des algorithmes publics (FR0035)

Vue d'ensemble

D'un coup d'œil

Plan d'action: Plan d’Action France 2018-2020

Cycle du plan d'action : 2018

Statut:

Institutions

Institution chef de file : Secrétaire d'Etat chargé du Numérique, auprès du Premier Ministre

Institution(s) d'appui : Tous les ministères

Domaines politiques

E-gouvernement

Revue IRM

Rapport IRM: Rapport de résultats de la transition France 2018-2020

Favoris : examen IRM en attente

Premiers résultats : pas de données IRM

Efficace i

Vérifiable : Oui

Pertinent pour les valeurs OGP : accès à l'information

Impact potentiel:

Implémentation i

Achèvement:

Description

Améliorer la transparence des algorithmes publics et des codes sources
Institution (s) principale (s):
Ministre délégué chargé du secteur numérique, adjoint au Premier ministre
Autres parties prenantes:
NA
Nouvel engagement
Principes OGP auxquels l'engagement est associé:
Accès à l'information, responsabilité
Défis
Les algorithmes ont un rôle de plus en plus important à jouer dans la mise en œuvre des politiques publiques - dans les domaines de l’éducation et des finances publiques, par exemple. Leur transparence est essentielle pour informer les citoyens sur les décisions administratives.
La loi pour une république numérique, promulguée le 7 d'octobre 2016, a introduit deux dispositions principales favorisant une plus grande transparence dans le Code sur les relations entre le public et l'administration. Le premier étend le principe de l’information au traitement algorithmique: toute personne faisant l’objet d’une décision administrative individuelle prise sur la base d’un algorithme doit en être informée et peut demander l’accès aux principales règles de fonctionnement de cet algorithme utilisé, etc.). La seconde inclut les codes source dans la liste des documents administratifs transmissibles.
En outre, l'article 16 de la même loi prévoit que les administrations encouragent l'utilisation de logiciels libres et de formats ouverts lors du développement, de l'achat et de l'utilisation de tout ou partie de ces systèmes d'information.
Ambitions
Accompagner l'ouverture d'algorithmes publics et de codes sources
La mise en œuvre de ces nouvelles dispositions nécessite un accompagnement des administrations et, plus généralement, une meilleure compréhension des enjeux, des potentialités et des risques liés à l'utilisation d'algorithmes dans la gestion de l'action publique.
C'est pour cette raison qu'Etalab s'est engagé à développer une méthodologie en collaboration avec les administrations pour ouvrir des algorithmes et des codes contenus dans leurs systèmes d'information. Une telle assistance est déjà en cours avec la Direction générale des finances publiques (DGFiP) (ouverture du code source du calculateur d’impôts) et le Ministère de l’enseignement supérieur, de la recherche et de l’innovation (mission sur les conditions d’ouverture du système Admission Post-Bac). En outre, la Direction interministérielle des systèmes d'information et de communication (DINSIC) a entrepris la rédaction d'un guide sur la manière d'ouvrir les codes sources des administrations, en commençant par une consultation sur une version initiale du guide réalisée de décembre 2017 à janvier 2018.
Les questions spécifiques liées aux algorithmes d'apprentissage seront également prises en compte dans les travaux sur l'utilisation des algorithmes dans l'action publique.
La carte routière en détail

Production de 5 monographies d'algorithmes publics afin d'identifier les problèmes techniques, juridiques et organisationnels. Faire participer la société civile à leur étude. 2019
Faire des recommandations aux administrations sur les informations essentielles sur les algorithmes publics, dans le respect du principe de transparence algorithmique 1er semestre 2018
Rédaction d'un guide d'ouverture des codes sources publics à l'usage des administrations 1er semestre 2018
Organisation de hackathons basés sur l'ouverture d'algorithmes publics 2e semestre 2018 - 2e semestre 2019
Un cas d'application de l'ouverture des modèles et des codes sources: OpenFisca
Depuis 2014, Etalab développe et met OpenFisca à la disposition des administrations publiques et de la société civile. OpenFisca est un moteur de calcul ouvert et une API. Il permet de modéliser le système socio-fiscal, de simuler l'impact des réformes et de développer des services orientés vers le citoyen.
OpenFisca a permis de construire my-aides.gouv.fr, une plateforme de simulation d'assistance sociale, grâce à laquelle plus de simulations 100,000 sont effectuées chaque mois.
Aujourd'hui, OpenFisca est utilisé par de nombreux acteurs - parlementaires, agents publics, chercheurs - pour évaluer l'impact des réformes futures. Par exemple, dans 2018, une équipe du groupe de travail "Accès aux droits et aux services, lutte contre le sans recours" a utilisé OpenFisca pour simuler différents scénarios permettant de simplifier le calcul des avantages sociaux et leur impact sur des situations familiales typiques.
OpenFisca utilise la calculatrice d’impôt sur le revenu mise à disposition au format 2016 par le DGFIP pour effectuer certaines de ces simulations.
OpenFisca illustre les opportunités créées par l'ouverture et le partage d'algorithmes et de code source de l'administration.
Il permet aux citoyens et aux décideurs publics de comprendre, d’évaluer et d’améliorer les décisions publiques en matière sociale et fiscale.
Il permet également de mutualiser des modèles de calcul qui coexistent au sein de plusieurs administrations, et a fortiori, pour améliorer leur qualité et réduire leurs coûts.
Pour poursuivre ces actions dans le domaine de la transparence sociale et fiscale, le DINSIC s'engage à:
Encourager l'ouverture des modèles existants, des données et des codes sources dans le domaine socio-fiscal, afin d'accompagner les administrations dans l'évaluation des réformes. Ce travail sera
être menées en concertation avec les administrations productrices (direction du budget, direction du trésor, direction des finances publiques, organismes de sécurité sociale, etc.) et éventuellement associer celles impliquées dans la rédaction et le suivi de réformes (assemblées parlementaires, cour des comptes, etc.) ;
Améliorer la compréhension par les citoyens des règles sociales et fiscales afin de stimuler la création de services basés sur OpenFisca, comme c'est le cas de la plateforme mes-aides.gouv.fr. Ces services pourraient être développés à la fois par les administrations et par la société civile;
Développer des collaborations avec les pays partenaires pour les soutenir dans leurs initiatives d'ouverture de données et d'algorithmes autour de la transparence socio-fiscale et de la participation des citoyens aux réformes.
Outre ces actions transversales, les ministères suivants ont pris leurs propres engagements:
LE MINISTÈRE DE L’ÉDUCATION NATIONALE ENGAGE
Ouvrez divers de ses algorithmes et codes sources.
L’AGENCE NATIONALE POUR LA SÉCURITÉ DU SYSTÈME D’INFORMATION (ANSSI) ENGAGE
Participer à la rédaction d'un guide d'ouverture des codes de source publics à l'usage des administrations et plus particulièrement des questions liées aux meilleures pratiques de développement et de sécurité.
Ouvrez le code source du système d’exploitation sécurisé CLIP (système d’exploitation CLIP).

Résumé du statut à mi-parcours de l'IRM

6. Améliorer la transparence des algorithmes publics et des codes sources

Langue de l'engagement telle qu'elle apparaît dans le plan d'action:

Les algorithmes ont un rôle de plus en plus important à jouer dans la mise en œuvre des politiques publiques - dans les domaines de l’éducation et des finances publiques, par exemple. Leur transparence est essentielle pour informer les citoyens sur les décisions administratives.

La loi pour une république numérique, promulguée le 7 d'octobre 2016, a introduit deux dispositions principales favorisant une plus grande transparence dans le Code sur les relations entre le public et l'administration. Le premier étend le principe de l’information au traitement algorithmique: toute personne faisant l’objet d’une décision administrative individuelle prise sur la base d’un algorithme doit en être informée et peut demander l’accès aux principales règles de fonctionnement de cet algorithme utilisé, etc.). La seconde inclut les codes source dans la liste des documents administratifs transmissibles.

En outre, l'article 16 de la même loi prévoit que les administrations encouragent l'utilisation de logiciels libres et de formats ouverts lors du développement, de l'achat et de l'utilisation de tout ou partie de ces systèmes d'information.

La mise en œuvre de ces nouvelles dispositions nécessite un accompagnement des administrations et, plus généralement, une meilleure compréhension des enjeux, des potentialités et des risques liés à l'utilisation d'algorithmes dans la gestion de l'action publique.

C'est pour cette raison qu'Etalab s'est engagé à développer une méthodologie en collaboration avec les administrations pour ouvrir des algorithmes et des codes contenus dans leurs systèmes d'information. Une telle assistance est déjà en cours avec la Direction générale des finances publiques (DGFiP) (ouverture du code source du calculateur d’impôts) et le Ministère de l’enseignement supérieur, de la recherche et de l’innovation (mission sur les conditions d’ouverture du système Admission Post-Bac). En outre, la Direction interministérielle des systèmes d'information et de communication (DINSIC) a entrepris la rédaction d'un guide sur la manière d'ouvrir les codes sources des administrations, en commençant par une consultation sur une version initiale du guide réalisée de décembre 2017 à janvier 2018. Les questions spécifiques liées aux algorithmes d'apprentissage seront également prises en compte dans les travaux sur l'utilisation des algorithmes dans l'action publique. [26]

Milestones

6.1 Produire des monographies d’algorithmes publics 5 afin d’identifier les problèmes techniques, juridiques et organisationnels. Faire participer la société civile à leur étude.

6.2 Recommandations aux administrations concernant les informations essentielles sur les algorithmes publics, dans le respect du principe de transparence algorithmique

6.3 Rédaction d’un guide pour l’ouverture des codes sources publics à l’usage des administrations

6.4 Organiser des hackathons basés sur l'ouverture d'algorithmes publics

Date de début: 2018

Date de fin: 2019

Contexte et objectifs

Les algorithmes sont de plus en plus utilisés dans les relations entre le public et l'administration publique, pour l'inscription dans l'enseignement supérieur et pour l'attribution de subventions ou le calcul de taxes. Le projet de loi 2016 Digital Republic a introduit deux dispositions principales favorisant une plus grande transparence dans le Code sur les relations entre le public et l’administration. Cependant, à la fin de 2017, les agences gouvernementales n'étaient pas encore conformes. [27] Un rapport parlementaire publié en février 2018 souligne l’utilité des algorithmes. Les rapporteurs ont considéré les algorithmes comme des améliorations du service public. Ils ont fait valoir que le problème des algorithmes se posait lorsque la loi n'était pas suffisamment claire, obligeant l'administration à prendre une décision et à la publier. [28]

Toutefois, plusieurs plaintes du public concernant l'utilisation d'algorithmes ont été formulées au cours des dernières années. Algorithmes d'inscription dans l'enseignement supérieur - Admission post-bac et plus tard Parcoursup [29]- ont été particulièrement critiqués par les utilisateurs. Une association d'étudiants a remporté un procès contre l'Université des Antilles après avoir refusé de rendre public l'algorithme de sélection des candidats. [30] Plusieurs élus ont fait appel à l'ombudsman concernant la transparence des algorithmes après que des étudiants eurent dénoncé l'opacité et l'injustice du système. Cela a amené le médiateur à demander que tous les critères intégrés dans les algorithmes aux niveaux national et local soient rendus publics. [31]

Cet engagement vise à résoudre le problème de la transparence insuffisante des algorithmes en apportant un soutien aux différents organismes chargés de diffuser des informations sur les algorithmes et les codes sources. L'engagement est considéré comme pertinent pour l'accès à l'information. Il vise à améliorer l'accès à l'information sur les règles et critères opérationnels de l'algorithme. Néanmoins, il ne s'engage pas dans la publication d'aucun nouvel algorithme ou code source.

Le chercheur de l'IRM considère que le texte d'engagement est suffisamment spécifique pour pouvoir être vérifié. Chaque jalon contient des informations concrètes sur les livrables prévus. Toutefois, les jalons 1, 2 et 4 pourraient bénéficier d'une plus grande précision du format et des nombres.

Cette initiative, telle que formulée, pourrait avoir un effet potentiel mineur. L'engagement n'exige pas la publication d'informations sur les algorithmes existants qui affectent la vie des citoyens. L'un des problèmes identifiés par le rapport parlementaire est qu'il existe des problèmes techniques, juridiques et organisationnels liés à l'utilisation des algorithmes qui constituent des obstacles à la transparence. Ainsi, la production de monographies pouvant servir d’études de cas à des organismes gouvernementaux chargés de fournir des informations sur leur algorithme, ainsi qu’un guide de l’utilisateur et des recommandations, pourrait constituer un pas en avant positif.

Prochaines étapes

Le prochain plan d'action pourrait porter sur la transparence des algorithmes et des codes sources, en procédant comme suit:

  • Incluez un engagement sur l’ouverture effective des algorithmes et des codes sources, au-delà du soutien aux agences gouvernementales.
  • Prendre des mesures pour rendre les algorithmes compréhensibles pour le grand public. [32]
  • Assurer l’ouverture des bases de données des algorithmes sélectionnés. [33]
[26] Pour un gouvernement transparent et collaboratif: Plan d'action national français 2018 – 2020, https://www.opengovpartnership.org/wp-content/uploads/2018/08/France-Action-Plan-2018-2020-English.pdf (consulté sur 10 Janvier 2019).
[27] Xavier Berne, «Transparence des algorithmes: La loi numérique ignorée de Nombreuses Administrations», Next Inpact, 2017, https://www.nextinpact.com/news/105098-transparence-algorithmes-loi-numerique-ignoree-nombreuses-administrations.htm (consulté sur 10 Février 2019).
[28] Rapport de MM, Cédric Villani, député et Gérard Longuet, sénateur, «Fait au nom de l'Assemblée parlementaire d'évaluation des choix scientifiques et technologiques», no 305 (2017 – 2018) —15 février 2018 »; Xavier Berne, «Transparence des algorithmes: La loi numérique ignorée de Nombreuses Administrations», Next Inpact, 2017, https://www.nextinpact.com/news/105098-transparence-algorithmes-loi-numerique-ignoree-nombreuses-administrations.htm (consulté sur 10 Février 2019).
[29] Ces termes font référence aux noms du système numérique développé pour gérer l’inscription des étudiants dans les universités françaises.
[30] Camille Stromboni, «Parcoursup: La justice adjointe à une université de publication de l'algorithme de tri», Le Monde, 6 Février 2019.
[31] Camille Stromboni, «Le Défenseur des droits des demandes plus de transparence», Le Monde, 21 Janvier 2019.
[32] Aurélie Jean, “La transparence des algorithmes: Une bonne idée?” Le Point, 20 April 2019, https://www.lepoint.fr/invites-du-point/aurelie-jean-la-transparence-des-algorithmes-une-fausse-bonne-idee-20-04-2019-2308681_420.php (consulté sur 29 April 2019).
[33] Danièle Bourcier et Primavera De Filippi. «Transparence des algorithmes Face à l'Open Data: Quel statut for Data Data Apprentissage? Revue Française d'Administration Publique 167, non. 3 (2018): 525 – 37.

Résumé du statut de fin de session IRM

6. Améliorer la transparence des algorithmes publics et des codes sources

Achèvement : limité

Etalab a publié deux guides pour aider les administrations à ouvrir des codes sources publics et à utiliser des algorithmes publics. [xxxi] Etalab a également organisé un webinaire pour former les agents publics aux algorithmes publics. [xxxii] Un rapport récemment publié indique que les ressources et la formation des agents publics restent largement insuffisantes pour une bonne mise en œuvre de la loi pour une République numérique et l'utilisation éthique des algorithmes publics. [xxxiii]Selon l'auto-évaluation du gouvernement, la production de cinq monographies d'algorithmes n'a pas été prioritaire. Aucune preuve n'a été trouvée concernant l'organisation de hackathons.

[xxxi] Etalab. Les algorithmes publics : enjeux et obligations. et en ligne, disponible sur : https://guides.etalab.gouv.fr/algorithmes/guide/#_1-a-quoi-servent-les-algorithmes-publics (consulté le 25 novembre 2020)
[xxxii] CHIGNARD, Simon. Transparence des algorithmes publics : regardez le webinaire à l'intention des administrations, 2020. En ligne, disponible sur : https://www.etalab.gouv.fr/transparence-des-algorithmes-publics-regardez-le-webinaire-a-lintention-des-administrations (consulté sur 28 Novembre 2020).
[xxxiii] ENA. Promotion 2018-2019 « MOLIÈRE » Rapport collectif sur commande d'une administration centrale Ethique et responsabilité des algorithmes publics Groupe n° 12. Paris : École nationale d'administration, 2019.

Engagements

Open Government Partnership