Promouvoir la transparence gouvernementale des outils algorithmiques au Royaume-Uni

EN RÉSUMÉ
Partout dans le monde, les gouvernements s'appuient de plus en plus sur des outils algorithmiques pour déterminer l'éligibilité aux prestations sociales, détecter les fraudes et allouer les ressources. Au Royaume-Uni, les ministères utilisent des algorithmes dans les domaines de la fiscalité, de la protection sociale, de la justice pénale, de l'immigration et de l'aide sociale. Le Royaume-Uni oblige les administrations publiques à divulguer leur utilisation d'outils algorithmiques, favorisant ainsi une plus grande transparence et renforçant la confiance du public dans la prise de décision automatisée.

Partout dans le monde, les gouvernements s'appuient de plus en plus sur des outils algorithmiques pour déterminer l'éligibilité aux prestations sociales, détecter les fraudes et allouer les ressources. Ces outils offrent le potentiel d'améliorer l'équité, l'efficience et l'efficacité de la gouvernance. Cependant, la complexité et l'opacité croissantes des systèmes algorithmiques suscitent des inquiétudes quant à la transparence et à la responsabilité, notamment dans le secteur public.

Au Royaume-Uni, les administrations publiques utilisent des algorithmes dans les domaines de la fiscalité, de la protection sociale, de la justice pénale, de l'immigration et de la protection sociale. Cependant, des controverses très médiatisées ont révélé les risques liés aux outils algorithmiques et les conséquences néfastes qu'ils peuvent avoir sur la confiance du public.

Les outils algorithmiques ont le potentiel de révolutionner la prestation de services publics, en améliorant l'efficacité et en simplifiant les processus. Mais il est crucial de préserver la confiance du public tout au long de cette transformation.

Repenser la politique de transparence algorithmique

La généralisation des outils algorithmiques s'accompagne d'un examen approfondi de leur mise en œuvre et de leurs résultats. Cette préoccupation croissante a incité le gouvernement britannique à revoir la prise de décision algorithmique au sein de ses ministères et agences.

Afin d'améliorer la transparence des algorithmes et de renforcer la confiance, le gouvernement a créé des cadres politiques visant à promouvoir la compréhension de leur utilisation par le public. Parmi les avancées politiques dans ce domaine, on peut citer une analyse de l'utilisation des algorithmes réalisée par le Centre pour l'éthique des données et l'innovation (CDEI). [1] on Biais dans la prise de décision algorithmiqueLe rapport a fourni des recommandations à l’intention de divers secteurs, notamment sur la nécessité de transparence au sein des organisations du secteur public.

Conformément à ses ambitions globales en matière de gouvernement ouvert, le gouvernement s’est engagé à transparence et responsabilité algorithmiques dans leur cinquième Open Government Partnership Plan d’action national (2021-2023) du PGO.

Le résultat ? Le Norme d'enregistrement de transparence algorithmique (ATRS) a été lancé en novembre 2021 par le Government Digital Service (GDS), créant un moyen standardisé d'enregistrer et de partager des informations sur la manière dont le secteur public utilise les outils algorithmiques.

Développement de l'ATRS

Le gouvernement britannique a adopté une approche multipartite lors de l’élaboration de l’ATRS, impliquant des consultations avec des experts externes et des professionnels du gouvernement, des recherches et un engagement avec d’autres pays qui ont développé des normes similaires, et la collecte d’informations auprès du public pour explorer leur compréhension de la transparence algorithmique.

Les observations ont révélé que, même si le public ne recherche pas activement d'informations sur la transparence algorithmique, il réagit positivement à la disponibilité d'informations enregistrées publiquement. Il estime que ces informations devraient être accessibles à des publics plus spécialisés, capables de les examiner en leur nom.

Gavin Freeguard, Policy Associate chez Connected by Data, explique que « même si les membres du public ne lisent pas directement eux-mêmes les enregistrements de transparence algorithmique, les organisations de la société civile et d’autres peuvent les utiliser pour comprendre où et comment les outils algorithmiques sont utilisés pour soutenir les décisions, et le communiquer au public. »

Capture de données : l'ATRS en pratique

À la suite d’une longue période de recherche, le gouvernement a créé un Modèle ATRS pour que les responsables publics rendent compte de l’utilisation d’un algorithme, de son fonctionnement et de son impact sur la prise de décision.

Le responsable de la transparence algorithmique au ministère des Sciences, de l'Innovation et de la Technologie explique que le modèle enregistre deux niveaux de données dans un registre central de transparence algorithmique.

Elle a déclaré : « Le premier niveau consiste en une description concise et détaillée de la fonction de l’outil algorithmique et de son utilisation. Le deuxième niveau détaille ensuite les spécifications techniques, les données utilisées, les risques et les mesures d’atténuation, ainsi que les modalités d’approvisionnement. » En d’autres termes, ce système de niveaux permet au public d’assimiler plus facilement les informations qu’il souhaite obtenir.

Assurer la transparence : les défis de l'intégration du hub ATRS au sein du gouvernement central

Bien que l'ATRS ait débuté comme norme volontaire, tout a changé l'année dernière. Dans le cadre d'une consultation en réponse à la demande du gouvernement Livre blanc sur l'IA 2023 [2], l'ATRS est devenu obligatoire, obligeant tous les départements du gouvernement central en Angleterre à enregistrer leurs outils algorithmiques sur l'ATRS Hub.

Elena Hess-Rheingans, responsable de l'éthique des données au sein de l'équipe Transparence et éthique des données de l' Service numérique gouvernemental, qui supervise l'ATRS, était chargé de veiller à ce que les départements puissent adopter et utiliser la norme de manière efficace.

« La réponse du gouvernement à la consultation sur le Livre blanc sur l'IA a obtenu le soutien ministériel de tous les ministères et de tous les niveaux de la fonction publique », explique-t-elle. « Cependant, ce n'est pas parce qu'un accord est trouvé lors d'une réunion que les équipes soumettront immédiatement leurs dossiers ATRS. Nous avons donc élaboré un plan d'engagement, divisé en plusieurs phases. Nous avons d'abord ciblé les ministères et les services non ministériels, et nous donnons désormais la priorité à l'administration centrale et aux organismes indépendants hautement prioritaires. [3] corps."

Pourtant, comme le reconnaît Hess-Rheingans, un mandat à lui seul ne suffit pas à déclencher une action immédiate. Les ministères et les organismes indépendants doivent analyser de vastes quantités de données pour garantir la conformité – un processus qui exige du soutien, des changements culturels et du temps. Cela se reflète dans le fait que seulement 59 systèmes algorithmiques ont été imputés au registre public au moment de la rédaction du présent document.

Pour que le Royaume-Uni parvienne à une véritable transparence dans le secteur public, les fonctionnaires doivent reconnaître leur responsabilité en matière d’enregistrement des données, de responsabilisation dans la prise de décision et d’utilisation éthique de l’IA et des données algorithmiques pour servir efficacement les contribuables et les citoyens.

Pour faciliter cela, l’équipe collabore avec les responsables des données pour mettre en œuvre la norme en cartographiant les outils algorithmiques, en complétant les entrées requises et en identifiant de nouveaux outils à inclure.

Objectifs futurs du déploiement

À l'heure actuelle, le mandat de l'ATRS n'inclut pas les collectivités locales en Angleterre, malgré le choix de certains conseils de soumettre des outils algorithmiques. Les nations décentralisées d'Écosse, du Pays de Galles et d'Irlande du Nord sont responsables de leurs propres politiques dans ce domaine, l'Écosse étant seule responsable de leurs propres politiques. commettre à un concept similaire dans son plan d’action actuel du PGO.

Les outils algorithmiques ont le potentiel de révolutionner la prestation de services publics, en améliorant l'efficacité et en simplifiant les processus. Cependant, il est crucial de préserver la confiance du public tout au long de cette transformation.

Freeguard salue l'utilisation de l'ATRS, mais souligne que « cela ne suffit pas à gagner la confiance du gouvernement dans son utilisation de l'IA ». Il explique que « les responsables politiques et les fonctionnaires doivent démystifier ce qu'ils entendent par "IA" et comment, selon eux, certains outils contribueront à résoudre des problèmes spécifiques. Les gouvernements doivent mobiliser différentes communautés pour comprendre leur point de vue sur l'utilisation de l'IA et leurs limites quant à son utilisation. »

L'ATRS offre au gouvernement britannique une approche proactive pour anticiper les technologies et les développements émergents. En janvier 2025, le nouveau gouvernement a lancé le Plan d'action sur les opportunités de l'IA, un ensemble de 50 recommandations qui place le Royaume-Uni sur la voie de devenir un leader mondial de l'IA et une destination attractive pour les investissements. Cependant, pour y parvenir, une véritable transparence sera nécessaire, y compris dans le secteur public.

[1] Suite aux changements intervenus au sein du gouvernement britannique depuis le début du projet, le CDEI est devenu l'équipe Données responsables et IA du Service numérique du gouvernement du ministère des Sciences, de l'Innovation et de la Technologie.

[2] Ce document a été publié sous le gouvernement conservateur du Premier ministre Sunak, qui a été au pouvoir de 2022 à 2024.

[3] Au Royaume-Uni, les organismes indépendants sont des organismes publics qui fonctionnent avec un certain degré d’autonomie par rapport au gouvernement central, mais qui sont toujours responsables devant les ministres du gouvernement britannique.