Promoción de la transparencia gubernamental de las herramientas algorítmicas en el Reino Unido

RESUMEN
Los gobiernos de todo el mundo recurren cada vez más a herramientas algorítmicas para determinar la elegibilidad para prestaciones, detectar fraudes y asignar recursos. En el Reino Unido, los departamentos gubernamentales utilizan algoritmos en materia de impuestos, bienestar social, justicia penal, inmigración y asistencia social. El Reino Unido exige a los departamentos del sector público que divulguen el uso de herramientas algorítmicas, lo que promueve una mayor transparencia y aumenta la confianza pública en la toma de decisiones automatizada.

Los gobiernos de todo el mundo recurren cada vez más a herramientas algorítmicas para determinar la elegibilidad para prestaciones, detectar fraudes y asignar recursos. Estas herramientas tienen el potencial de mejorar la equidad, la eficiencia y la eficacia de la gobernanza. Sin embargo, la creciente complejidad y opacidad de los sistemas algorítmicos ha suscitado inquietudes sobre la transparencia y la rendición de cuentas, especialmente en el sector público.

En el Reino Unido, los departamentos gubernamentales utilizan algoritmos en materia de impuestos, bienestar social, justicia penal, inmigración y asistencia social. Sin embargo, importantes controversias han puesto de manifiesto los riesgos de las herramientas algorítmicas y las consecuencias de dañar la confianza pública.

Las herramientas algorítmicas tienen el potencial de revolucionar la prestación de servicios públicos, impulsando una mayor eficiencia y procesos más ágiles. Sin embargo, mantener la confianza pública durante esta transformación es crucial.

Replanteando la política de transparencia algorítmica

A medida que las herramientas algorítmicas se vuelven más comunes, también debe aumentar el escrutinio de su implementación y resultados. Esta creciente preocupación ha impulsado al gobierno del Reino Unido a revisar la toma de decisiones algorítmica en sus departamentos y agencias.

Para mejorar la transparencia de los algoritmos y aumentar la confianza, el gobierno creó marcos de políticas con el objetivo de promover la comprensión pública de su uso. Los avances en políticas en este ámbito incluyeron una revisión del uso de algoritmos por parte del Centro para la Ética de Datos y la Innovación (CDEI). [ 1 ] on Sesgo en la toma de decisiones algorítmicasEl informe ofreció recomendaciones para diversas industrias, incluida la necesidad de transparencia entre las organizaciones del sector público.

En consonancia con sus ambiciones generales de gobierno abierto, el gobierno se comprometió a: transparencia y rendición de cuentas algorítmicas en su quinto Open Government Partnership Plan de acción nacional (OGP) (2021-2023).

¿El resultado? El Estándar de grabación de transparencia algorítmica (ATRS), lanzado en noviembre de 2021 por el Servicio Digital del Gobierno (GDS), crea una forma estandarizada de registrar y compartir información sobre cómo el sector público utiliza herramientas algorítmicas.

Desarrollo del ATRS

El gobierno del Reino Unido siguió un enfoque de múltiples partes interesadas al desarrollar el ATRS, que implicó consultas con expertos externos y profesionales del gobierno, investigación y compromiso con otros países que han desarrollado estándares similares, y la recopilación de información del público para explorar su comprensión de la transparencia algorítmica.

Los análisis revelaron que, si bien el público no busca activamente información sobre la transparencia algorítmica, sí responde positivamente a la disponibilidad de información pública. El público considera que dicha información debería ser accesible a públicos más especializados que puedan analizarla en su nombre.

Gavin Freeguard, asociado de políticas en Connected by Data, explica que “incluso si los miembros del público no leen directamente los registros de transparencia algorítmica, las organizaciones de la sociedad civil y otros pueden usarlos para comprender dónde y cómo se utilizan las herramientas algorítmicas para respaldar las decisiones y comunicarlo al público”.

Captura de datos: El ATRS en la práctica

Tras un extenso período de investigación, el gobierno creó un Plantilla ATRS para que los funcionarios públicos informen sobre el uso de un algoritmo, cómo funciona y su impacto en la toma de decisiones.

El responsable de Transparencia Algorítmica del Departamento de Ciencia, Innovación y Tecnología explica que la plantilla registra dos niveles de datos en un registro central de transparencia algorítmica.

Dijo: «El nivel uno es una descripción concisa y detallada de lo que hace la herramienta algorítmica y por qué se utiliza. El nivel dos detalla mucho más las especificaciones técnicas, los datos utilizados, los riesgos y las mitigaciones, y los detalles de la contratación». En otras palabras, este sistema de niveles facilita que el público comprenda la información que desea conocer.

Lograr la transparencia: Desafíos para la integración del Centro ATRS en el Gobierno central

Si bien el ATRS comenzó como un estándar voluntario, todo cambió el año pasado. Como parte de una consulta en respuesta a la propuesta del gobierno... Libro blanco sobre IA 2023 [ 2 ]El ATRS se volvió obligatorio y requirió que todos los departamentos del gobierno central en Inglaterra registren herramientas algorítmicas en el ATRS Hub.

Elena Hess-Rheingans, responsable de ética de datos en el equipo de transparencia y ética de datos de la Servicio digital del gobierno, que supervisa el ATRS, era responsable de garantizar que los departamentos pudieran adoptar y utilizar el estándar de manera efectiva.

“La respuesta del gobierno a la consulta sobre el Libro Blanco de IA obtuvo el respaldo ministerial de todos los departamentos y de todos los niveles de la administración pública”, explica. “Sin embargo, el hecho de que se acuerde algo en una reunión no significa que los equipos vayan a presentar inmediatamente sus registros ATRS. Por ello, desarrollamos un plan de participación, dividido en fases. Primero nos centramos en los departamentos ministeriales y no ministeriales y ahora priorizamos al gobierno central y a los departamentos independientes de alta prioridad. [ 3 ] cuerpos."

Sin embargo, como reconoce Hess-Rheingans, un mandato por sí solo no impulsa la acción inmediata. Los departamentos y organismos independientes deben analizar grandes cantidades de datos para garantizar el cumplimiento, un proceso que requiere apoyo, cambios culturales y tiempo. Esto se refleja en el hecho de que solo el 59 sistemas de algoritmos han sido imputados al registro público en el momento de redactarse el presente documento.

Para que el Reino Unido logre una verdadera transparencia en el sector público, los funcionarios públicos deben reconocer su responsabilidad en el registro de datos, la rendición de cuentas en la toma de decisiones y el uso ético de la IA y los datos algorítmicos para servir a los contribuyentes y ciudadanos de manera eficaz.

Para facilitar esto, el equipo está colaborando con los directores de datos para implementar el Estándar mediante el mapeo de herramientas algorítmicas, completando las entradas requeridas e identificando nuevas herramientas para su inclusión.

Objetivos futuros para la implementación

Actualmente, el mandato de ATRS no incluye a los gobiernos locales de Inglaterra, a pesar de que algunos ayuntamientos han optado por presentar herramientas algorítmicas. Las naciones descentralizadas de Escocia, Gales e Irlanda del Norte son responsables de sus propias políticas en este ámbito, y Escocia... cometiendo a un concepto similar en su actual plan de acción de OGP.

Las herramientas algorítmicas tienen el potencial de revolucionar la prestación de servicios públicos, impulsando una mayor eficiencia y procesos más ágiles. Sin embargo, es crucial mantener la confianza pública durante esta transformación.

Freeguard celebra el uso del ATRS; sin embargo, señala que "no es suficiente para generar confianza en el uso de la IA por parte del gobierno". Explica que "los políticos y los funcionarios públicos deben desmitificar lo que quieren decir cuando hablan de 'IA' y cómo creen que ciertas herramientas ayudarán a resolver problemas específicos. Los gobiernos deben involucrar a las diferentes comunidades para comprender su opinión sobre el uso de la IA y sus limitaciones".

El ATRS proporciona al gobierno del Reino Unido un enfoque proactivo para mantenerse a la vanguardia de las tecnologías y los desarrollos emergentes. En enero de 2025, el nuevo gobierno lanzó el Plan de acción de oportunidades de IAUn conjunto de 50 recomendaciones que encamina al Reino Unido hacia la consolidación como líder mundial en IA y un destino atractivo para la inversión. Sin embargo, para que esto ocurra, será necesaria una verdadera transparencia, incluso en el sector público.

[ 1 ] Tras los cambios en el gobierno del Reino Unido desde el inicio del proyecto, el CDEI ha cambiado al equipo de Datos Responsables e IA del Servicio Digital del Gobierno en el Departamento de Ciencia, Innovación y Tecnología.

[ 2 ] Esto se publicó durante el gobierno conservador del primer ministro Sunak, que duró entre 2022 y 2024.

[ 3 ] En el Reino Unido, los organismos independientes son organismos públicos que operan con cierto grado de autonomía respecto del gobierno central, pero siguen siendo responsables ante los ministros del gobierno del Reino Unido.