Transparence algorithmique et responsabilité (UK0100)

Objectif Aider à garantir que lorsque des systèmes algorithmiques avancés sont achetés, développés ou utilisés pour soutenir la prise de décision, il existe des mécanismes appropriés, clairs et efficaces permettant aux citoyens de contester ces décisions.

Quel est le problème que l'engagement va résoudre ? Divers ministères utilisent des algorithmes avancés pour améliorer les services publics. Pour aider à renforcer la confiance, le gouvernement pilote des méthodes de rapport de transparence pour les outils algorithmiques utilisés pour aider les décisions. Bien que la norme de transparence algorithmique des données soit censée être utile, la société civile s'est dite préoccupée par le fait que les mécanismes permettant aux personnes de contester les décisions assistées par des algorithmes, ou les informations indiquant si les algorithmes sont utilisés dans un contexte particulier, ne sont pas clairement indiqués dans les endroits où les gens en ont besoin et ne sont pas toujours efficaces.

Comment l'engagement contribuera-t-il à résoudre le problème ? En rendant les mécanismes d'appel pour les décisions assistées par des algorithmes plus visibles, cet engagement : ● aidera les personnes à accéder aux services publics auxquels elles ont droit ● aidera les groupes intermédiaires à soutenir les individus et les communautés ● soutiendra les équipes qui développent des services publics et conseillent sur les politiques publiques d'approvisionnement , concevoir, construire et exploiter des systèmes algorithmiques responsables et dignes de confiance

Les jalons de la découverte sont détaillés dans le tableau ci-dessous, mais cela peut conduire à long terme à d'autres actions, par exemple : ● des campagnes pour sensibiliser le public aux mécanismes existants ● travailler avec le grand public et les organisations de la société civile, en particulier les organisations de la société civile qui travaillent en première ligne avec des groupes historiquement inconnus ● créer et mettre à jour des directives pour les équipes développant des services publics et donnant des conseils sur les politiques publiques Jalons pour remplir l'engagement Nouveau ou en cours Date de début Date de fin Travailler avec les parties prenantes internes et nouvelles mars 2022 janvier 2023 externes pour évaluer la faisabilité de mener un exercice de cadrage axé sur la cartographie des exigences légales existantes pour les mécanismes de recours, par exemple en raison du droit administratif, de la loi sur la protection des données ou de la législation spécifique à un domaine ; en vue de partager ces informations avec le public Collaborer avec les parties prenantes et des experts externes pour rechercher la sensibilisation du public et les perceptions des mécanismes de responsabilisation existants Nouveau Avril 2022 Mars 2022

Examen du plan d'action

Engagement 3. Transparence algorithmique et responsabilité

● Vérifiable : Oui

● A-t-il une optique de gouvernement ouvert ? Oui

● Potentiel de résultats : peu clair

Rapport de résultats

Engagement 3. Transparence algorithmique et responsabilité

Cet engagement visait à améliorer la transparence et la responsabilité des décisions assistées par algorithmes. Il comportait deux étapes. La première consistait à cartographier les exigences juridiques existantes en matière de mécanismes d’appel autour des décisions assistées par algorithmes. Ce travail de cadrage a été réalisé dans le cadre du projet de loi sur la protection des données et des informations numériques (DPDI) 2022-2023. Le travail de cadrage a jugé inapproprié d’inclure ces mécanismes d’appel alors que la norme d’enregistrement de la transparence algorithmique (ATRS) était encore au stade pilote. Par conséquent, malgré l’introduction d’un nouveau projet de loi DPDI le 8 mars 2023, [45] l'ATRS n'était pas prêt à être inclus. [46]

La deuxième étape a consisté à mobiliser les parties prenantes et les experts pour étudier la sensibilisation du public et les perceptions des mécanismes d'appel existants. À la suite de projets pilotes et de consultations, le CDDO et le Centre for Data Ethics and Innovation ont achevé l'ATRS et publié les premiers rapports de transparence algorithmique du Royaume-Uni en juin 2022, sur GOV.UK. [47] En outre, un appel ouvert à commentaires et des tables rondes avec environ 100 représentants du secteur privé ont permis de recueillir des informations sur les mécanismes de responsabilisation et les améliorations potentielles futures. [48]