Ignorer la navigation

Renforcement de la transparence algorithmique au Royaume-Uni

Natalia Domagala|

Cet article fait partie de la «série de blogs sur les algorithmes ouverts» de l'OGP. Lire les autres articles de la série ici.

La transparence algorithmique signifie différentes choses pour différentes personnes, mais elle peut être largement comprise comme une ouverture sur l'objectif, la structure et les actions sous-jacentes des algorithmes utilisés pour traiter l'information. Au Royaume-Uni (UK), nos travaux actuels de transparence algorithmique découlent des travaux de longue date du mouvement des données ouvertes, avec la politique « open par défaut » introduite en 2012, ainsi que des développements en matière d'éthique des données comme le Cadre d'éthique des données les nouveautés Guide d'utilisation de l'IA dans le secteur public. Cependant, il manque une approche cohérente et systématique de l'algorithmique. transparence mécanismes, que nous avons décidé d'aborder au niveau national au Royaume-Uni.

Lorsque le Central Digital and Data Office au Royaume-Uni (où je travaille) s'est mis à explorer quelles méthodes de transparence algorithmique seraient les plus appropriées pour le Royaume-Uni, nous savions que nous voulions développer ce travail de la manière la plus collaborative possible. Nous avons commencé par demander à des experts externes de la société civile et du monde universitaire quelles informations sur l'utilisation des décisions assistées par algorithme dans le secteur public ils aimeraient voir publiées et sous quel format. Nous avons ensuite organisé un atelier interactif avec des collègues de l'ensemble du gouvernement, pour déterminer si les informations que les experts aimeraient voir sont actuellement collectées et pourraient être publiées dans le cadre de nos mesures de transparence algorithmique. Une fois que nous avons eu une liste restreinte de toutes les catégories que nous pouvions rendre disponibles, nous avons réfléchi à la manière d'équilibrer le compromis entre la profondeur et l'accessibilité. Nous voulions fournir autant de détails que possible, tout en nous assurant que tout mécanisme de transparence algorithmique que nous avons conçu était pratique et augmentait la compréhension du public de la façon dont les outils algorithmiques sont utilisés dans le secteur public.

Nous avons décidé de lancer un exercice d'engagement public délibératif les Centre d'Ethique et d'Innovation des Données (CDEI) et Grande-Bretagne comprendre les attitudes du public envers la transparence algorithmique dans le secteur public. Nous avons utilisé un processus délibératif après que les premières enquêtes du CDEI aient révélé une faible sensibilisation du public sur le sujet. L'approche délibérative a été utilisée pour construire progressivement la compréhension et les connaissances des participants sur l'utilisation des algorithmes dans le secteur public. Nous nous sommes concentrés sur trois cas d'utilisation pour tester une gamme de réponses émotionnelles - maintien de l'ordre, stationnement et recrutement. Pour cette étude, 36 membres du public ont été recrutés à travers le Royaume-Uni. Nous avions un mélange de participants d'âges différents, le sexegroupes ethniques et socio-économiques ; les niveaux de confiance dans les institutions ; littératie numérique; ainsi que l'expérience de l'un des trois cas d'utilisation au cours des six derniers mois. Nous avons passé plus de cinq heures à discuter avec eux sur une période de trois semaines. La dernière étape était une session de co-conception approfondie, où les participants ont travaillé en collaboration pour créer des prototypes d'une approche de la transparence algorithmique qui reflétait leurs besoins et leurs attentes. 

La version actuelle de notre Norme de transparence algorithmique repose directement sur ces exercices d'engagement ; avec des collègues travaillant sur les données et l'IA au gouvernement britannique, des experts de la société civile et du monde universitaire, et le public. L'une des recommandations de l'étude d'engagement public délibératif était de diviser la norme en deux niveaux – le niveau 1 avec des informations de base, destiné à des publics non experts ; et le niveau 2 avec plus de détails pour ceux qui souhaitent en savoir plus. Nous avons mis en œuvre cette recommandation ; la version actuelle de la norme commence par le premier niveau qui comprend une explication courte et simple de comment et pourquoi l'outil algorithmique est utilisé, ainsi que des instructions sur la façon d'obtenir plus d'informations. Le niveau deux est divisé en cinq catégories : 

  • Tout d'abord, des informations sur le propriétaire et la responsabilité de l'outil, y compris les coordonnées de l'équipe gérant l'outil et les propriétaires principaux responsables, ainsi que des informations sur les éventuels fournisseurs externes. 
  • Deuxièmement, la portée de l'outil, les spécifications techniques, la justification de son utilisation et des détails sur ce pour quoi il a été conçu et ce à quoi il n'est pas destiné. 
  • Troisièmement, un aperçu de la façon dont l'outil affecte la prise de décision en expliquant comment il est intégré au processus et quelle influence il a sur les décisions. 
  • Quatrièmement, une liste et une description des ensembles de données utilisés pour former le modèle et les ensembles de données sur lesquels le modèle est ou sera déployé, avec des informations supplémentaires sur le processus de collecte de données, les accords de partage de données et des détails sur les personnes ayant accès aux données. 
  • Cinquièmement, les évaluations d'impact menées dans le processus de développement de l'outil, ainsi qu'une description détaillée des risques communs pour l'outil et des mesures prises pour les atténuer. 

Tout au long du processus d'élaboration de la norme, j'ai été membre du Open Government PartnershipRéseau d'algorithmes ouverts de . Cette occasion unique de discuter des derniers développements et défis en matière de transparence algorithmique avec des collègues travaillant sur les mêmes questions au sein du gouvernement du monde entier a été inestimable. Nos conversations honnêtes et ouvertes sur des problèmes communs et nos réflexions sur les voies à suivre ont été extrêmement utiles. 

Nous finalisons actuellement notre cinquième plan d'action, et l'un des groupes de travail mis en place pour délibérer sur la prochaine série d'engagements s'est concentré sur les algorithmes ouverts. Conjointement avec des représentants de la société civile, nous avons élaboré un projet de engagement explorer des actions qui augmenteraient la responsabilité des décisions prises avec des outils algorithmiques. Nous continuerons à collaborer avec la société civile et à développer les prochaines étapes de ce travail au-delà de la publication initiale du plan d'action national.

Pas encore de commentaires

Soyez sympa! Laissez un commentaire

Votre adresse email n'apparaitra pas. Les champs obligatoires sont marqués *

Contenu similaire

Vignette pour 10 leçons de 10 ans d'OGP Défis et solutions

10 leçons de 10 ans d'OGP

Le PDG adjoint d'OGP, Joe Powell, partage ses réflexions sur la façon dont l'expérience d'OGP peut éclairer certains des débats politiques les plus critiques auxquels le monde est confronté aujourd'hui.

Miniature pour OGP à 10 ans, ITIE à 20 ans : où aller ensuite ? Défis et solutions

OGP à 10 ans, ITIE à 20 ans : où aller ensuite ?

Depuis sa création en 2011, le Open Government Partnership (OGP) a réussi à promouvoir des réformes de gouvernement ouvert dans 78 pays. Parmi ceux-ci...

Vignette d'un mois pour que les sommets sur la démocratie et le gouvernement ouvert de 2021 comptent

Un mois pour que les sommets sur la démocratie et le gouvernement ouvert de 2021 comptent

À l'approche du Sommet mondial de l'OGP et du Sommet pour la démocratie, nous partageons trois étapes à suivre par la communauté du gouvernement ouvert pour garantir que les événements se concrétisent…

Open Government Partnership