Transparencia algorítmica y rendición de cuentas (UK0100)

Objetivo Ayudar a garantizar que cuando se adquieran, desarrollen o utilicen sistemas algorítmicos avanzados para respaldar la toma de decisiones, existan mecanismos apropiados, claros y efectivos para que los ciudadanos impugnen dichas decisiones.

¿Cuál es el problema que abordará el compromiso? Varios departamentos gubernamentales utilizan algoritmos avanzados para mejorar los servicios públicos. Para ayudar a generar confianza, el gobierno está probando métodos de informes de transparencia para herramientas algorítmicas utilizadas para ayudar a tomar decisiones. Si bien se espera que el Estándar de datos de transparencia algorítmica sea útil, la sociedad civil ha expresado su preocupación de que los mecanismos que permiten a las personas cuestionar las decisiones asistidas por algoritmos, o la información sobre si los algoritmos se usan en un contexto particular, no están claramente señalizados en los lugares que la gente los necesita, y no siempre son efectivos.

¿Cómo contribuirá el compromiso a resolver el problema? Al hacer que los mecanismos de apelación para las decisiones asistidas por algoritmos sean más visibles, este compromiso: ● ayudará a las personas a obtener acceso a los servicios públicos a los que tienen derecho ● ayudará a los grupos intermediarios a apoyar a las personas y las comunidades ● apoyará a los equipos que desarrollan servicios públicos y asesoran sobre políticas públicas para adquirir , diseñar, construir y operar sistemas algorítmicos responsables y confiables

Los hitos para el descubrimiento se detallan en la siguiente tabla, sin embargo, a largo plazo, esto puede conducir a acciones adicionales, por ejemplo: ● campañas para aumentar la conciencia pública sobre los mecanismos existentes ● trabajar con el público en general y las organizaciones de la sociedad civil, en particular las organizaciones de la sociedad civil que trabajan en primera línea con grupos históricamente desconocidos ● crear y actualizar orientación para los equipos que desarrollan servicios públicos y asesoran sobre políticas públicas Hitos para cumplir el compromiso Nuevo o en curso Fecha de inicio Fecha de finalización Trabajar con partes interesadas internas y externas Nuevo marzo de 2022 ene de 2023 para evaluar la viabilidad de realizar un ejercicio de alcance centrado en mapear los requisitos legales existentes para los mecanismos de apelación, por ejemplo, debido al derecho administrativo, la ley de protección de datos o la legislación específica del dominio; con miras a compartir esta información con el público Involucrar a las partes interesadas y expertos externos para investigar la conciencia pública y las percepciones de los mecanismos de rendición de cuentas existentes Nuevo Abril de 2022 Marzo de 2022

Revisión del plan de acción

Compromiso 3. Transparencia algorítmica y rendición de cuentas

● Verificable: Sí

● ¿Tiene una lente de gobierno abierto? Sí

● Potencial de resultados: poco claro

Informe de resultados

Compromiso 3. Transparencia algorítmica y rendición de cuentas

Este compromiso tenía como objetivo mejorar la transparencia y la rendición de cuentas de las decisiones asistidas por algoritmos. Tuvo dos hitos. El primero fue mapear los requisitos legales existentes para los mecanismos de apelación en torno a las decisiones asistidas por algoritmos. Este trabajo de alcance se llevó a cabo como parte del Proyecto de Ley de Protección de Datos e Información Digital (DPDI) 2022-2023. El trabajo de alcance consideró inadecuado incluir estos mecanismos de apelación mientras el Estándar de Registro de Transparencia Algorítmica (ATRS) todavía estaba en la etapa piloto. En consecuencia, a pesar de la introducción de un nuevo Proyecto de Ley de DPDI el 8 de marzo de 2023, [ 45 ] El ATRS no estaba listo para ser incluido. [ 46 ]

El segundo hito consistió en involucrar a las partes interesadas y a los expertos para investigar la conciencia y las percepciones públicas de los mecanismos de apelación existentes. Tras proyectos piloto y consultas, el CDDO y el Centro de Ética e Innovación de Datos completaron el ATRS y publicaron los primeros informes de transparencia algorítmica del Reino Unido en junio de 2022, en GOV.UK. [ 47 ] Además, una convocatoria abierta de comentarios y mesas redondas con alrededor de 100 representantes del sector privado recopilaron ideas sobre los mecanismos de rendición de cuentas y posibles mejoras futuras. [ 48 ]