Renforcement de la transparence algorithmique au Royaume-Uni

Cet article fait partie de la «série de blogs sur les algorithmes ouverts» de l'OGP. Lire les autres articles de la série ici.

La transparence algorithmique signifie différentes choses pour différentes personnes, mais elle peut être largement comprise comme une ouverture sur l'objectif, la structure et les actions sous-jacentes des algorithmes utilisés pour traiter l'information. Au Royaume-Uni (UK), nos travaux actuels de transparence algorithmique découlent des travaux de longue date du mouvement des données ouvertes, avec la politique « open par défaut » introduite en 2012, ainsi que des développements en matière d'éthique des données comme le Cadre d'éthique des données et par Guide d'utilisation de l'IA dans le secteur public. Cependant, il manque une approche cohérente et systématique de l'algorithmique. transparenceSelon les articles de gouvernance de l'OGP, la transparence se produit lorsque "les informations détenues par le gouvernement (y compris sur les activités et les décisions) sont ouvertes, complètes, opportunes, librement accessibles au public... Plus mécanismes, que nous avons décidé d'aborder au niveau national au Royaume-Uni.

Lorsque le Central Digital and Data Office au Royaume-Uni (où je travaille) s'est mis à explorer quelles méthodes de transparence algorithmique seraient les plus appropriées pour le Royaume-Uni, nous savions que nous voulions développer ce travail de la manière la plus collaborative possible. Nous avons commencé par demander à des experts externes de la société civile et du monde universitaire quelles informations sur l'utilisation des décisions assistées par algorithme dans le secteur public ils aimeraient voir publiées et sous quel format. Nous avons ensuite organisé un atelier interactif avec des collègues de l'ensemble du gouvernement, pour déterminer si les informations que les experts aimeraient voir sont actuellement collectées et pourraient être publiées dans le cadre de nos mesures de transparence algorithmique. Une fois que nous avons eu une liste restreinte de toutes les catégories que nous pouvions rendre disponibles, nous avons réfléchi à la manière d'équilibrer le compromis entre la profondeur et l'accessibilité. Nous voulions fournir autant de détails que possible, tout en nous assurant que tout mécanisme de transparence algorithmique que nous avons conçu était pratique et augmentait la compréhension du public de la façon dont les outils algorithmiques sont utilisés dans le secteur public.

Nous avons décidé de lancer un exercice d'engagement public délibératif les Centre d'Ethique et d'Innovation des Données (CDEI) et Grande-Bretagne comprendre les attitudes du public envers la transparence algorithmique dans le secteur public. Nous avons utilisé un processus délibératif après que les premières enquêtes du CDEI aient révélé une faible sensibilisation du public sur le sujet. L'approche délibérative a été utilisée pour construire progressivement la compréhension et les connaissances des participants sur l'utilisation des algorithmes dans le secteur public. Nous nous sommes concentrés sur trois cas d'utilisation pour tester une gamme de réponses émotionnelles - maintien de l'ordre, stationnement et recrutement. Pour cette étude, 36 membres du public ont été recrutés à travers le Royaume-Uni. Nous avions un mélange de participants d'âges différents, le sexeLes gouvernements participants à l'OGP apportent des perspectives de genre dans les domaines politiques populaires, assurent la diversité dans les processus participatifs et ciblent spécifiquement les écarts entre les sexes dans les politiques pour aborder le gouvernement ... Plusgroupes ethniques et socio-économiques ; les niveaux de confiance dans les institutions ; littératie numérique; ainsi que l'expérience de l'un des trois cas d'utilisation au cours des six derniers mois. Nous avons passé plus de cinq heures à discuter avec eux sur une période de trois semaines. La dernière étape était une session de co-conception approfondie, où les participants ont travaillé en collaboration pour créer des prototypes d'une approche de la transparence algorithmique qui reflétait leurs besoins et leurs attentes. 

La version actuelle de notre Norme de transparence algorithmique repose directement sur ces exercices d'engagement ; avec des collègues travaillant sur les données et l'IA au gouvernement britannique, des experts de la société civile et du monde universitaire, et le public. L'une des recommandations de l'étude d'engagement public délibératif était de diviser la norme en deux niveaux – le niveau 1 avec des informations de base, destiné à des publics non experts ; et le niveau 2 avec plus de détails pour ceux qui souhaitent en savoir plus. Nous avons mis en œuvre cette recommandation ; la version actuelle de la norme commence par le premier niveau qui comprend une explication courte et simple de comment et pourquoi l'outil algorithmique est utilisé, ainsi que des instructions sur la façon d'obtenir plus d'informations. Le niveau deux est divisé en cinq catégories : 

• Tout d'abord, des informations sur le propriétaire et la responsabilité de l'outil, y compris les coordonnées de l'équipe gérant l'outil et les propriétaires principaux responsables, ainsi que des informations sur les éventuels fournisseurs externes. 
• Deuxièmement, la portée de l'outil, les spécifications techniques, la justification de son utilisation et des détails sur ce pour quoi il a été conçu et ce à quoi il n'est pas destiné. 
• Troisièmement, un aperçu de la façon dont l'outil affecte la prise de décision en expliquant comment il est intégré au processus et quelle influence il a sur les décisions. 
• Quatrièmement, une liste et une description des ensembles de données utilisés pour former le modèle et les ensembles de données sur lesquels le modèle est ou sera déployé, avec des informations supplémentaires sur le processus de collecte de données, les accords de partage de données et des détails sur les personnes ayant accès aux données. 
• Cinquièmement, les évaluations d'impact menées dans le processus de développement de l'outil, ainsi qu'une description détaillée des risques communs pour l'outil et des mesures prises pour les atténuer. 

Tout au long du processus d'élaboration de la norme, j'ai été membre du Open Government PartnershipRéseau d'algorithmes ouverts de . Cette occasion unique de discuter des derniers développements et défis en matière de transparence algorithmique avec des collègues travaillant sur les mêmes questions au sein du gouvernement du monde entier a été inestimable. Nos conversations honnêtes et ouvertes sur des problèmes communs et nos réflexions sur les voies à suivre ont été extrêmement utiles. 

Nous finalisons actuellement notre cinquième plan d'actionLes plans d'action sont au cœur de la participation d'un gouvernement à l'OGP. Ils sont le produit d'un processus de co-création dans lequel le gouvernement et la société civile développent conjointement des engagements en faveur d'un gouvernement ouvert..., et l'un des groupes de travail mis en place pour délibérer sur la prochaine série d'engagements s'est concentré sur les algorithmes ouverts. Conjointement avec des représentants de la société civile, nous avons élaboré un projet de engagementLes engagements du PGO sont des promesses de réforme co-créées par les gouvernements et la société civile et soumises dans le cadre d'un plan d'action. Les engagements comprennent généralement une description du problème, des actions concrètes... explorer des actions qui augmenteraient la responsabilité des décisions prises avec des outils algorithmiques. Nous continuerons à collaborer avec la société civile et à développer les prochaines étapes de ce travail au-delà de la publication initiale du plan d'action national.