Transparencia algorítmica y rendición de cuentas (UK0100)

Objetivo Ayudar a garantizar que cuando se adquieran, desarrollen o utilicen sistemas algorítmicos avanzados para respaldar la toma de decisiones, existan mecanismos apropiados, claros y efectivos para que los ciudadanos impugnen dichas decisiones.

¿Cuál es el problema que abordará el compromiso? Varios departamentos gubernamentales utilizan algoritmos avanzados para mejorar los servicios públicos. Para ayudar a generar confianza, el gobierno está probando métodos de informes de transparencia para herramientas algorítmicas utilizadas para ayudar a tomar decisiones. Si bien se espera que el Estándar de datos de transparencia algorítmica sea útil, la sociedad civil ha expresado su preocupación de que los mecanismos que permiten a las personas cuestionar las decisiones asistidas por algoritmos, o la información sobre si los algoritmos se usan en un contexto particular, no están claramente señalizados en los lugares que la gente los necesita, y no siempre son efectivos.

¿Cómo contribuirá el compromiso a resolver el problema? Al hacer que los mecanismos de apelación para las decisiones asistidas por algoritmos sean más visibles, este compromiso: ● ayudará a las personas a obtener acceso a los servicios públicos a los que tienen derecho ● ayudará a los grupos intermediarios a apoyar a las personas y las comunidades ● apoyará a los equipos que desarrollan servicios públicos y asesoran sobre políticas públicas para adquirir , diseñar, construir y operar sistemas algorítmicos responsables y confiables

Los hitos para el descubrimiento se detallan en la siguiente tabla, sin embargo, a largo plazo, esto puede conducir a acciones adicionales, por ejemplo: ● campañas para aumentar la conciencia pública sobre los mecanismos existentes ● trabajar con el público en general y las organizaciones de la sociedad civil, en particular las organizaciones de la sociedad civil que trabajan en primera línea con grupos históricamente desconocidos ● crear y actualizar orientación para los equipos que desarrollan servicios públicos y asesoran sobre políticas públicas Hitos para cumplir el compromiso Nuevo o en curso Fecha de inicio Fecha de finalización Trabajar con partes interesadas internas y externas Nuevo marzo de 2022 ene de 2023 para evaluar la viabilidad de realizar un ejercicio de alcance centrado en mapear los requisitos legales existentes para los mecanismos de apelación, por ejemplo, debido al derecho administrativo, la ley de protección de datos o la legislación específica del dominio; con miras a compartir esta información con el público Involucrar a las partes interesadas y expertos externos para investigar la conciencia pública y las percepciones de los mecanismos de rendición de cuentas existentes Nuevo Abril de 2022 Marzo de 2022

Revisión del plan de acción

Compromiso 3. Transparencia algorítmica y rendición de cuentas

● Verificable: Sí

● ¿Tiene una lente de gobierno abierto? Sí

● Potencial de resultados: poco claro