Algorithmes ouverts (NL0031)

• Algorithmes ouverts: expériences de France, des Pays-Bas et de Nouvelle-Zélande (Juin 1, 2020)

• Rapport annuel 2020Transparence algorithmique en France, aux Pays-Bas et en Nouvelle-Zélande (Mars 23, 2021)

Algorithmes ouverts
1 Juillet 2018 - 30 Juin 2020
Action principale (organisation) Rijkswaterstaat Centrale Informatievoorziening (Services centraux d’information)
Description du point d'action
Quel problème social le point d'action cherche-t-il à résoudre? Les décisions du gouvernement en matière de gestion et de politique reposent de plus en plus sur des données et des algorithmes. À l'heure actuelle, les décisions fondées sur des algorithmes ne sont pas transparentes pour les particuliers et les entreprises, alors que les conséquences de leur application peuvent avoir une importance considérable pour la société.
Quel est le point d'action? Cadres et lignes directrices pour la rédaction et la cartographie à l’intention des organisations gouvernementales en tant qu’outil pour rendre les algorithmes accessibles au public. Un arbre de décision sera élaboré à la suite de ces cadres et lignes directrices. L’objectif est d’appliquer ces référentiels, directives et l’arbre de décision à un pilote lors de la publication de certains algorithmes.
Comment le point d'action contribuera-t-il à remédier au problème social? La connaissance et l'expérience de la mise à disposition ouverte des algorithmes sont encore limitées. Cependant, l'utilisation accrue des algorithmes et leur importance dans les décisions de politique et de gestion rendent primordial le développement des connaissances, de l'expérience et des outils nécessaires à cette fin. Le point d'action indique les considérations juridiques, techniques, politiques et organisationnelles à prendre en compte pour décider de rendre ces algorithmes accessibles ou non. Ces considérations donnent lieu à un arbre de décision. Sur cette base, l’ambition est que certains algorithmes soient réellement mis à disposition ouvertement.
Un groupe de travail sera constitué de représentants de différentes organisations gouvernementales, éventuellement aussi d'organisations internationales.
La mise à disposition ouverte des algorithmes jette un éclairage sur la justification et le fonctionnement des algorithmes et peut ainsi contribuer à la fois à la responsabilisation de la politique et des décisions du gouvernement, ainsi qu'à leur qualité.
Pourquoi ce point d'action est-il pertinent pour les valeurs OGP? Le point d'action est pertinent pour la transparence. Le point d'action contribue à la publication d'informations gouvernementales, c'est-à-dire d'algorithmes.
Le point d'action est pertinent pour la responsabilité publique. Le point d'action donne au public et aux organisations communautaires un accès aux décisions de gestion et de politique prises par le gouvernement.

Informations supplémentaires Le budget disponible pour le point d'action est limité, mais le besoin en ressources est également limité.
On s’attend à ce que la part du lion du travail réside dans les efforts des fonctionnaires qui ne seront pas réclamés.
Un montant annuel indicatif de € 25,000 à € 50,000 sera nécessaire, par exemple pour des conseils juridiques ou pour la réalisation technique de l'arbre de décision.

Il existe des recoupements avec d'autres programmes gouvernementaux et non gouvernementaux, tels que ceux du ministère de l'Intérieur et des Relations du royaume, du ministère de la Justice et de la Sécurité et des Archives nationales néerlandaises.

Jalon avec un résultat vérifiable (veuillez noter: SMART) Date de début: Date de fin:
Groupe de travail préparé. Deux réunions organisées.
Plan d'action rédigé. 1 Juillet 2018 31 Décembre 2018
Atelier axé sur le partage des connaissances.
Achèvement du rapport: cartographie et analyse du terrain de jeu; aspects juridiques et techniques; analyse des acteurs 01 Janvier 2019 30 Juin 2019
Rédaction d'un projet de rapport sur les cadres et les lignes directrices sur les algorithmes ouverts; projet d'arbre de décision (graphique); un algorithme ouvert (pilote) 01 juillet 2019 31 décembre 2019
Achèvement d'un rapport final sur les cadres et les lignes directrices, y compris l'arbre de décision; un à trois algorithmes ouverts. 01 Janvier 2020 30 Juin 2020
3 - Ateliers 5 pendant la durée du projet visant à partager les connaissances 01 juillet 2018 30 juin 2020
Mentions légales
Nom de la personne responsable représentant le propriétaire de l'action principale, Eric Blaakman
Poste, unité organisationnelle Responsable du centre de gestion de données, Rijkswaterstaat CIV
Email et numéro de téléphone Eric.blaakman@rws.nl; + 31 (0) 6-46344475Autres acteurs impliqués Autorités impliquées Ministère de l'Intérieur et des Relations du Royaume (DIO)

Être déterminé.

Autres organisations ou organismes (tels que les organisations communautaires ou le secteur privé) À déterminer.

6. Algorithmes ouverts

Langue de l'engagement telle qu'elle apparaît dans le plan d'action:

Rédaction et cartographie de cadres et de lignes directrices pour les organisations gouvernementales en tant qu'outil permettant de rendre les algorithmes librement disponibles. Un arbre décisionnel sera rédigé suite à ces cadres et directives. L'objectif est d'appliquer ces cadres, lignes directrices et l'arbre de décision dans un pilote tout en publiant certains algorithmes.

Milestones

6.1. Groupe de travail préparé. Deux réunions organisées. Plan d'action rédigé.

6.2. Atelier axé sur le partage des connaissances. Achèvement du rapport: cartographie et analyse du terrain de jeu; aspects juridiques et techniques; analyse des acteurs.

6.3. Achèvement d'un projet de rapport sur les cadres et lignes directrices sur les algorithmes ouverts; projet d'arbre de décision (graphique); un algorithme ouvert (pilote).

6.4. Achèvement d'un rapport final sur les cadres et lignes directrices, y compris l'arbre de décision; un à trois algorithmes ouverts.

6.5. 3-5 ateliers pendant la durée du projet visant à partager les connaissances

Date de début: Juillet 2018     

Date de fin: June 2020

Contexte et objectifs

En 2014, l'Institut Rathenau a publié un rapport indiquant qu'à ce moment-là, le gouvernement, les régulateurs, les entreprises et la société dans son ensemble n'étaient pas suffisamment équipés pour faire face à de nombreux nouveaux défis numériques. Le rapport a fait valoir que la transparence sur la prise de décision algorithmique est de plus en plus importante afin d'éviter leur éventuelle manipulation. Deux ans plus tard, le Conseil scientifique néerlandais pour la politique gouvernementale (WRR) a publié un rapport contenant des recommandations au gouvernement néerlandais sur la manière de gérer le rôle croissant des mégadonnées, de l'intelligence artificielle et de la prise de décision algorithmique vis-à-vis de la vie privée, sécurité et transparence. Le gouvernement néerlandais a souscrit à la plupart des recommandations, y compris que les algorithmes utilisés pour les analyses de mégadonnées devraient être «appropriés» et répondre à certains critères, et sont de préférence validés scientifiquement. Le gouvernement convient également que les algorithmes doivent être transparents pour des raisons de surveillance et de contrôle juridique. La mesure dans laquelle les algorithmes sont utilisés semble cependant inconnue. En octobre 2017, à la suite d'un débat au parlement au cours duquel des préoccupations ont été exprimées quant à d'éventuels biais dans les algorithmes et à la question de savoir si une réglementation spécifique devrait être mise en place, le gouvernement s'est engagé à faire le point et à cartographier l'utilisation des algorithmes dans la pratique gouvernementale, y compris les défis et dilemmes éventuels.

Dans ce contexte, le troisième plan d'action met en avant un engagement sur les algorithmes ouverts et s'inspire d'une vision introspective des fonctionnaires eux-mêmes. Le texte d'engagement mentionne à quel point les mégadonnées ont un impact de plus en plus important sur la prise de décision dans le secteur public et comment ce processus n'est actuellement pas transparent. Ces réflexions, et l'enquête interne autoproclamée qui s'ensuit sur la façon dont les solutions technologiques qui soutiennent la prise de décision publique peuvent être plus transparentes, sont pertinentes pour le gouvernement sur l'utilisation de ces technologies à l'avenir. Il est donc pertinent pour les valeurs OGP d'accès à l'information et à la technologie et l'innovation pour la transparence et la responsabilité.

Grâce à ce travail, les organisations concernées ont l'intention de rédiger des lignes directrices pour les agences gouvernementales sur la façon de rendre les algorithmes disponibles ouvertement et de développer un arbre de décision pour aider dans un tel processus. Les activités prévues sont spécifiques et vérifiables, mais de manière générale. Les activités prévues, telles que l'organisation d'ateliers et la cartographie des règles du jeu (6.2), ainsi que la rédaction d'un rapport sur les lignes directrices et un algorithme ouvert pilote (6.3, 6.4), n'expliquent pas en détail l'objectif plus large de l'engagement, ni quels critères pilotera l'arbre de décision référencé pour sélectionner l'algorithme pilote. En outre, d'après le texte, il n'est pas clair s'il existe des liens avec le contexte politique plus large et les études et discussions mentionnées ci-dessus. S'il est peu probable que l'engagement, tel qu'il est rédigé, change de manière significative la façon dont les algorithmes sont utilisés dans la prise de décision du gouvernement central, les activités pourraient constituer un premier pas important vers une plus grande transparence des algorithmes. L'impact potentiel est donc considéré comme modéré.

Prochaines étapes

Tout en reconnaissant que la transparence algorithmique est une question très complexe, tant d'un point de vue technique que politique, le chercheur IRM recommande les étapes suivantes:

• Les parties prenantes impliquées pourraient s'appuyer davantage sur les organes de travail domestique existants dans ce domaine et, si possible, unir leurs forces afin d'éviter la duplication des efforts, et les précieux enseignements tirés peuvent directement alimenter des discussions politiques plus larges au niveau politique national;
• Envisager d'affiner et d'affiner les objectifs du travail vers une responsabilité et une transparence algorithmiques pionnières, y compris une cartographie (ou en s'inspirant de l'exercice de cartographie commandé par le gouvernement) des algorithmes les plus percutants ou les plus importants influençant la prise de décision gouvernementale (ensembles de données de grande valeur) et cibler spécifiquement ces algorithmes dans les travaux futurs, et chercher explicitement à auditer ces algorithmes à la recherche de résultats indésirables ou de biais;
• À la suite du rapport Rathenau de 2014, le chercheur de l'IRM suggère d'explorer ce qu'il faudrait pour que les citoyens soient «à l'épreuve du temps» et d'impliquer directement les citoyens et les OSC dans ce travail. De cette façon, nous pouvons mieux évaluer les compétences ou les connaissances manquantes aux citoyens qui entravent leur développement de la «citoyenneté technologique».

Le texte complet de cet engagement, https://www.opengovpartnership.org/wp-content/uploads/2018/11/Netherlands_Action-Plan_2018-2020_EN.pdf

L'Institut Rathenau est un institut de recherche néerlandais indépendant géré sous les auspices de l'Académie royale des arts et des sciences des Pays-Bas, financé principalement par le gouvernement. https://www.rathenau.nl/en/about-us/who-we-are

https://www.rathenau.nl/nl/digitale-samenleving/maatschappij-niet-klaar-voor-digitale-samenleving

https://english.wrr.nl/publications/policy-briefs/2017/01/31/big-data-and-security-policies-serving-security-protecting-freedom

https://www.tweedekamer.nl/kamerstukken/detail?id=2016D43893&did=2016D43893

https://www.tweedekamer.nl/kamerstukken/detail?id=2018D16670&did=2018D16670

https://www.rathenau.nl/nl/digitale-samenleving/technologisch-burgerschap-de-democratische-uitdaging-van-de-eenentwintigste

Engagement 6. Algorithmes ouverts

limité

Un groupe de travail sur les algorithmes ouverts a été créé et a tenu deux réunions pendant la période du plan d'action. Le groupe de travail prévoyait de consulter un large éventail de parties prenantes issues du monde universitaire, des OSC et autres. Cependant, les priorités variables et la disponibilité limitée du personnel concerné ont rendu difficile la concrétisation du travail. Il n'y a aucune preuve disponible pour déterminer que les autres activités prévues dans le cadre de cet engagement ont été achevées, comme un projet de rapport sur les cadres et les lignes directrices sur les algorithmes ouverts, le projet d'arbre de décision et l'ouverture d'un à trois algorithmes. Les contacts informels sont toujours en place et le thème des algorithmes a été reporté au quatrième plan d'action (2020-2022).