Ignorer la navigation
France

Transparence des algorithmes publics (FR0035)

Vue d'ensemble

D'un coup d'œil

Plan d'action: Plan d’Action France 2018-2020

Cycle du plan d'action: 2018

Statut: actif

Institutions

Institution chef de file: ministre d'État chargée du secteur numérique, adjoint au premier ministre

Institution (s) de soutien: Tous les ministères

Domaines politiques

E-gouvernement

Revue IRM

Rapport IRM: Examen IRM en attente

En vedette: en attente de révision IRM

Premiers résultats: examen IRM en attente

Design i

Vérifiable: oui

Relatives aux valeurs OGP: Accès à l'information

Impact potentiel:

Exécution i

Achèvement: examen IRM en attente

Description

Améliorer la transparence des algorithmes publics et des codes sources
Institution (s) principale (s):
Ministre délégué chargé du secteur numérique, adjoint au Premier ministre
Autres parties prenantes:
NA
Nouvel engagement
Principes OGP auxquels l'engagement est associé:
Accès à l'information, responsabilité
Défis
Les algorithmes ont un rôle de plus en plus important à jouer dans la mise en œuvre des politiques publiques - dans les domaines de l’éducation et des finances publiques, par exemple. Leur transparence est essentielle pour informer les citoyens sur les décisions administratives.
La loi pour une république numérique, promulguée le 7 d'octobre 2016, a introduit deux dispositions principales favorisant une plus grande transparence dans le Code sur les relations entre le public et l'administration. Le premier étend le principe de l’information au traitement algorithmique: toute personne faisant l’objet d’une décision administrative individuelle prise sur la base d’un algorithme doit en être informée et peut demander l’accès aux principales règles de fonctionnement de cet algorithme utilisé, etc.). La seconde inclut les codes source dans la liste des documents administratifs transmissibles.
En outre, l'article 16 de la même loi prévoit que les administrations encouragent l'utilisation de logiciels libres et de formats ouverts lors du développement, de l'achat et de l'utilisation de tout ou partie de ces systèmes d'information.
Ambitions
Accompagner l'ouverture d'algorithmes publics et de codes sources
La mise en œuvre de ces nouvelles dispositions nécessite un accompagnement des administrations et, plus généralement, une meilleure compréhension des enjeux, des potentialités et des risques liés à l'utilisation d'algorithmes dans la gestion de l'action publique.
C'est pour cette raison qu'Etalab s'est engagé à développer une méthodologie en collaboration avec les administrations pour ouvrir des algorithmes et des codes contenus dans leurs systèmes d'information. Une telle assistance est déjà en cours avec la Direction générale des finances publiques (DGFiP) (ouverture du code source du calculateur d’impôts) et le Ministère de l’enseignement supérieur, de la recherche et de l’innovation (mission sur les conditions d’ouverture du système Admission Post-Bac). En outre, la Direction interministérielle des systèmes d'information et de communication (DINSIC) a entrepris la rédaction d'un guide sur la manière d'ouvrir les codes sources des administrations, en commençant par une consultation sur une version initiale du guide réalisée de décembre 2017 à janvier 2018.
Les questions spécifiques liées aux algorithmes d'apprentissage seront également prises en compte dans les travaux sur l'utilisation des algorithmes dans l'action publique.
La carte routière en détail

Production de 5 monographies d'algorithmes publics afin d'identifier les problèmes techniques, juridiques et organisationnels. Faire participer la société civile à leur étude. 2019
Faire des recommandations aux administrations sur les informations essentielles sur les algorithmes publics, dans le respect du principe de transparence algorithmique 1er semestre 2018
Rédaction d'un guide d'ouverture des codes sources publics à l'usage des administrations 1er semestre 2018
Organisation de hackathons basés sur l'ouverture d'algorithmes publics 2e semestre 2018 - 2e semestre 2019
Un cas d'application de l'ouverture des modèles et des codes sources: OpenFisca
Depuis 2014, Etalab développe et met OpenFisca à la disposition des administrations publiques et de la société civile. OpenFisca est un moteur de calcul ouvert et une API. Il permet de modéliser le système socio-fiscal, de simuler l'impact des réformes et de développer des services orientés vers le citoyen.
OpenFisca a permis de construire my-aides.gouv.fr, une plateforme de simulation d'assistance sociale, grâce à laquelle plus de simulations 100,000 sont effectuées chaque mois.
Aujourd'hui, OpenFisca est utilisé par de nombreux acteurs - parlementaires, agents publics, chercheurs - pour évaluer l'impact des réformes futures. Par exemple, dans 2018, une équipe du groupe de travail "Accès aux droits et aux services, lutte contre le sans recours" a utilisé OpenFisca pour simuler différents scénarios permettant de simplifier le calcul des avantages sociaux et leur impact sur des situations familiales typiques.
OpenFisca utilise la calculatrice d’impôt sur le revenu mise à disposition au format 2016 par le DGFIP pour effectuer certaines de ces simulations.
OpenFisca illustre les opportunités créées par l'ouverture et le partage d'algorithmes et de code source de l'administration.
Il permet aux citoyens et aux décideurs publics de comprendre, d’évaluer et d’améliorer les décisions publiques en matière sociale et fiscale.
Il permet également de mutualiser des modèles de calcul qui coexistent au sein de plusieurs administrations, et a fortiori, pour améliorer leur qualité et réduire leurs coûts.
Pour poursuivre ces actions dans le domaine de la transparence sociale et fiscale, le DINSIC s'engage à:
Encourager l'ouverture des modèles existants, des données et des codes sources dans le domaine socio-fiscal, afin d'accompagner les administrations dans l'évaluation des réformes. Ce travail sera
être menées en concertation avec les administrations productrices (direction du budget, direction du trésor, direction des finances publiques, organismes de sécurité sociale, etc.) et éventuellement associer celles impliquées dans la rédaction et le suivi de réformes (assemblées parlementaires, cour des comptes, etc.) ;
Améliorer la compréhension par les citoyens des règles sociales et fiscales afin de stimuler la création de services basés sur OpenFisca, comme c'est le cas de la plateforme mes-aides.gouv.fr. Ces services pourraient être développés à la fois par les administrations et par la société civile;
Développer des collaborations avec les pays partenaires pour les soutenir dans leurs initiatives d'ouverture de données et d'algorithmes autour de la transparence socio-fiscale et de la participation des citoyens aux réformes.
Outre ces actions transversales, les ministères suivants ont pris leurs propres engagements:
LE MINISTÈRE DE L’ÉDUCATION NATIONALE ENGAGE
Ouvrez divers de ses algorithmes et codes sources.
L’AGENCE NATIONALE POUR LA SÉCURITÉ DU SYSTÈME D’INFORMATION (ANSSI) ENGAGE
Participer à la rédaction d'un guide d'ouverture des codes de source publics à l'usage des administrations et plus particulièrement des questions liées aux meilleures pratiques de développement et de sécurité.
Ouvrez le code source du système d’exploitation sécurisé CLIP (système d’exploitation CLIP).

Résumé du statut à mi-parcours de l'IRM

6. Améliorer la transparence des algorithmes publics et des codes sources

Langue de l'engagement telle qu'elle apparaît dans le plan d'action:

Les algorithmes ont un rôle de plus en plus important à jouer dans la mise en œuvre des politiques publiques - dans les domaines de l’éducation et des finances publiques, par exemple. Leur transparence est essentielle pour informer les citoyens sur les décisions administratives.

La loi pour une république numérique, promulguée le 7 d'octobre 2016, a introduit deux dispositions principales favorisant une plus grande transparence dans le Code sur les relations entre le public et l'administration. Le premier étend le principe de l’information au traitement algorithmique: toute personne faisant l’objet d’une décision administrative individuelle prise sur la base d’un algorithme doit en être informée et peut demander l’accès aux principales règles de fonctionnement de cet algorithme utilisé, etc.). La seconde inclut les codes source dans la liste des documents administratifs transmissibles.

En outre, l'article 16 de la même loi prévoit que les administrations encouragent l'utilisation de logiciels libres et de formats ouverts lors du développement, de l'achat et de l'utilisation de tout ou partie de ces systèmes d'information.

La mise en œuvre de ces nouvelles dispositions nécessite un accompagnement des administrations et, plus généralement, une meilleure compréhension des enjeux, des potentialités et des risques liés à l'utilisation d'algorithmes dans la gestion de l'action publique.

C'est pour cette raison qu'Etalab s'est engagé à développer une méthodologie en collaboration avec les administrations pour ouvrir des algorithmes et des codes contenus dans leurs systèmes d'information. Une telle assistance est déjà en cours avec la Direction générale des finances publiques (DGFiP) (ouverture du code source du calculateur d’impôts) et le Ministère de l’enseignement supérieur, de la recherche et de l’innovation (mission sur les conditions d’ouverture du système Admission Post-Bac). En outre, la Direction interministérielle des systèmes d'information et de communication (DINSIC) a entrepris la rédaction d'un guide sur la manière d'ouvrir les codes sources des administrations, en commençant par une consultation sur une version initiale du guide réalisée de décembre 2017 à janvier 2018. Les questions spécifiques liées aux algorithmes d'apprentissage seront également prises en compte dans les travaux sur l'utilisation des algorithmes dans l'action publique.

Milestones

6.1 Produire des monographies d’algorithmes publics 5 afin d’identifier les problèmes techniques, juridiques et organisationnels. Faire participer la société civile à leur étude.

6.2 Recommandations aux administrations concernant les informations essentielles sur les algorithmes publics, dans le respect du principe de transparence algorithmique

6.3 Rédaction d’un guide pour l’ouverture des codes sources publics à l’usage des administrations

6.4 Organiser des hackathons basés sur l'ouverture d'algorithmes publics

Date de début: 2018

Date de fin: 2019

Contexte et objectifs

Les algorithmes sont de plus en plus utilisés dans les relations entre le public et l'administration publique, pour l'inscription dans l'enseignement supérieur et pour l'attribution de subventions ou le calcul de taxes. Le projet de loi 2016 Digital Republic a introduit deux dispositions principales favorisant une plus grande transparence dans le Code sur les relations entre le public et l’administration. Cependant, à la fin de 2017, les agences gouvernementales n'étaient pas encore conformes. Un rapport parlementaire publié en février 2018 souligne l’utilité des algorithmes. Les rapporteurs ont considéré les algorithmes comme des améliorations du service public. Ils ont fait valoir que le problème des algorithmes se posait lorsque la loi n'était pas suffisamment claire, obligeant l'administration à prendre une décision et à la publier.

Toutefois, plusieurs plaintes du public concernant l'utilisation d'algorithmes ont été formulées au cours des dernières années. Algorithmes d'inscription dans l'enseignement supérieur - Admission post-bac et plus tard Parcoursup - ont été particulièrement critiqués par les utilisateurs. Une association d'étudiants a remporté un procès contre l'Université des Antilles après avoir refusé de rendre public l'algorithme de sélection des candidats. Plusieurs élus ont fait appel à l'ombudsman concernant la transparence des algorithmes après que des étudiants eurent dénoncé l'opacité et l'injustice du système. Cela a amené le médiateur à demander que tous les critères intégrés dans les algorithmes aux niveaux national et local soient rendus publics.

Cet engagement vise à résoudre le problème de la transparence insuffisante des algorithmes en apportant un soutien aux différents organismes chargés de diffuser des informations sur les algorithmes et les codes sources. L'engagement est considéré comme pertinent pour l'accès à l'information. Il vise à améliorer l'accès à l'information sur les règles et critères opérationnels de l'algorithme. Néanmoins, il ne s'engage pas dans la publication d'aucun nouvel algorithme ou code source.

Le chercheur de l'IRM considère que le texte d'engagement est suffisamment spécifique pour pouvoir être vérifié. Chaque jalon contient des informations concrètes sur les livrables prévus. Toutefois, les jalons 1, 2 et 4 pourraient bénéficier d'une plus grande précision du format et des nombres.

Cette initiative, telle que formulée, pourrait avoir un effet potentiel mineur. L'engagement n'exige pas la publication d'informations sur les algorithmes existants qui affectent la vie des citoyens. L'un des problèmes identifiés par le rapport parlementaire est qu'il existe des problèmes techniques, juridiques et organisationnels liés à l'utilisation des algorithmes qui constituent des obstacles à la transparence. Ainsi, la production de monographies pouvant servir d’études de cas à des organismes gouvernementaux chargés de fournir des informations sur leur algorithme, ainsi qu’un guide de l’utilisateur et des recommandations, pourrait constituer un pas en avant positif.

Prochaines étapes

Le prochain plan d'action pourrait porter sur la transparence des algorithmes et des codes sources, en procédant comme suit:

  • Incluez un engagement sur l’ouverture effective des algorithmes et des codes sources, au-delà du soutien aux agences gouvernementales.
  • Prendre des mesures pour rendre les algorithmes compréhensibles pour le grand public.
  • Assurer l’ouverture des bases de données des algorithmes sélectionnés.
Pour un gouvernement transparent et collaboratif: Plan d'action national français 2018 – 2020, https://www.opengovpartnership.org/wp-content/uploads/2018/08/France-Action-Plan-2018-2020-English.pdf (consulté sur 10 Janvier 2019).
Xavier Berne, «Transparence des algorithmes: La loi numérique ignorée de Nombreuses Administrations», Next Inpact, 2017, https://www.nextinpact.com/news/105098-transparence-algorithmes-loi-numerique-ignoree-nombreuses-administrations.htm (consulté sur 10 Février 2019).
Rapport de MM, Cédric Villani, député et Gérard Longuet, sénateur, «Fait au nom de l'Assemblée parlementaire d'évaluation des choix scientifiques et technologiques», no 305 (2017 – 2018) —15 février 2018 »; Xavier Berne, «Transparence des algorithmes: La loi numérique ignorée de Nombreuses Administrations», Next Inpact, 2017, https://www.nextinpact.com/news/105098-transparence-algorithmes-loi-numerique-ignoree-nombreuses-administrations.htm (consulté sur 10 Février 2019).
Ces termes font référence aux noms du système numérique développé pour gérer l’inscription des étudiants dans les universités françaises.
Camille Stromboni, «Parcoursup: La justice adjointe à une université de publication de l'algorithme de tri», Le Monde, 6 Février 2019.
Camille Stromboni, «Le Défenseur des droits des demandes plus de transparence», Le Monde, 21 Janvier 2019.
Aurélie Jean, “La transparence des algorithmes: Une bonne idée?” Le Point, 20 April 2019, https://www.lepoint.fr/invites-du-point/aurelie-jean-la-transparence-des-algorithmes-une-fausse-bonne-idee-20-04-2019-2308681_420.php (consulté sur 29 April 2019).
Danièle Bourcier et Primavera De Filippi. «Transparence des algorithmes Face à l'Open Data: Quel statut for Data Data Apprentissage? Revue Française d'Administration Publique 167, non. 3 (2018): 525 – 37.

Engagements

  1. Transparence des services publics

    FR0030, 2018, Gouvernement électronique

  2. Transparence des marchés publics

    FR0031, 2018, Accès à l'information

  3. Transparence de l'aide au développement

    FR0032, 2018, Accès à l'information

  4. Développer les données ouvertes

    FR0033, 2018, Accès à l'information

  5. Politiques et administration améliorées des données

    FR0034, 2018, Accès à l'information

  6. Transparence des algorithmes publics

    FR0035, 2018, Gouvernement électronique

  7. Open Data au niveau sous-national

    FR0036, 2018, Accès à l'information

  8. State AI Lab

    FR0037, 2018, Prise de décision automatisée

  9. Renforcement des capacités administratives

    FR0038, 2018, Renforcement des capacités

  10. Incubateurs de service public

    FR0039, 2018, Renforcement des capacités

  11. Rationaliser les flux de données

    FR0040, 2018, Accès à l'information

  12. Open Etat Forum

    FR0041, 2018, Gouvernement électronique

  13. Tableau de bord des procédures en ligne

    FR0042, 2018, Gouvernement électronique

  14. Sommet Govtech

    FR0043, 2018, Renforcement des capacités

  15. Mécanismes de consultation publique imrove

    FR0044, 2018, Gouvernement électronique

  16. Transparence internationale et participation citoyenne

    FR0045, 2018, Aide

  17. Participation publique au développement durable

    FR0046, 2018, Accès à l'information

  18. Science ouverte

    FR0047, 2018, Accès à l'information

  19. Participation citoyenne à la Cour des comptes

    FR0048, 2018, Accès à l'information

  20. Transparence du secteur privé

    FR0049, 2018, Accès à l'information

  21. Accès à l'information sur les agents publics

    FR0050, 2018, Accès à l'information

  22. Données ouvertes sur les autorités régionales et locales

    FR0001, 2015, Accès à l'information

  23. Publication en ligne des décisions et des rapports du conseil municipal

    FR0002, 2015, Gouvernement électronique

  24. Publier des permis de construire en format Open Data

    FR0003, 2015, Accès à l'information

  25. Engagement étoilé Augmenter la transparence des marchés publics

    FR0004, 2015, Accès à l'information

  26. Améliorer la transparence de l'aide internationale au développement

    FR0005, 2015, Accès à l'information

  27. Accès ouvert aux évaluations des politiques publiques

    FR0006, 2015, Gouvernement électronique

  28. Impliquer les citoyens dans les travaux des comptes

    FR0007, 2015, Accès à l'information

  29. Accès aux obligations de transparence des agents publics

    FR0008, 2015, Accès à l'information

  30. Engagement étoilé Beneficial ownership

    FR0009, 2015, Anti-Corruption

  31. Transparence dans les industries extractives

    FR0010, 2015, Anti-Corruption

  32. Transparence dans les négociations commerciales internationales

    FR0011, 2015, Accès à l'information

  33. Réparer mon quartier

    FR0012, 2015, Gouvernement électronique

  34. Fix-It numérique

    FR0013, 2015, Accès à l'information

  35. Coproduire l'infrastructure de données avec la société civile

    FR0014, 2015, Accès à l'information

  36. Engagement étoilé Ressources juridiques ouvertes

    FR0015, 2015, Accès à l'information

  37. Mécanismes participatifs de réforme

    FR0016, 2015, Règlement ouvert

  38. Médiation et justice

    FR0017, 2015, Accès à la justice

  39. Engagement étoilé Ouvrir et diffuser des données

    FR0018, 2015, Accès à l'information

  40. Modèles de calcul ouverts et simulateurs

    FR0019, 2015, Accès à l'information

  41. Plateforme ouverte pour les ressources gouvernementales

    FR0020, 2015, Gouvernement électronique

  42. Améliorer les services publics grâce au e-gouvernement et à l'interaction des utilisateurs

    FR0021, 2015, Gouvernement électronique

  43. Habiliter la société civile à soutenir les écoles

    FR0022, 2015, Gouvernement électronique

  44. Diversifier les recrutements au sein des institutions publiques

    FR0023, 2015, Renforcement des capacités

  45. Changement de culture

    FR0024, 2015, Renforcement des capacités

  46. Diffuser l'innovation publique

    FR0025, 2015, Renforcement des capacités

  47. Engagement étoilé Protéger contre les conflits d'intérêts

    FR0026, 2015, Anti-Corruption

  48. Société civile et transparence dans la planification des conférences COP21

    FR0027, 2015, Environnement et climat

  49. Données ouvertes et climat / développement durable

    FR0028, 2015, Accès à l'information

  50. Collaborer avec la société civile sur le climat et le développement durable

    FR0029, 2015, Environnement et climat

NE PAS suivre ce lien ou vous serez interdit sur le site!