Saltar navegación

Fortalecimiento de la transparencia algorítmica en el Reino Unido

Natalia Domagala|

Esta pieza es parte de la "Serie de blogs de algoritmos abiertos" de OGP. Leer otras publicaciones de la serie aquí.

La transparencia algorítmica significa diferentes cosas para diferentes personas, pero puede entenderse ampliamente como apertura sobre el propósito, la estructura y las acciones subyacentes de los algoritmos utilizados para procesar la información. En el Reino Unido (Reino Unido), nuestro trabajo actual de transparencia algorítmica se deriva del trabajo de larga data del movimiento de datos abiertos, con la política de "abrir por defecto" introducida en 2012, así como desarrollos en la ética de los datos como el Marco de ética de datos y al Guía para el uso de la IA en el sector público. Sin embargo, hay una falta de un enfoque coherente y sistemático de la algorítmica. transparencia mecanismos, que decidimos abordar a nivel nacional en el Reino Unido.

Cuando la Oficina Central de Datos y Digital en el Reino Unido (donde trabajo) se puso en marcha para explorar qué métodos de transparencia algorítmica serían los más apropiados para el Reino Unido, sabíamos que queríamos desarrollar este trabajo de la forma más colaborativa posible. Comenzamos preguntando a expertos externos de la sociedad civil y el mundo académico sobre qué información sobre el uso de decisiones asistidas por algoritmos en el sector público les gustaría ver publicada y en qué formato. Luego, organizamos un taller interactivo con colegas de todo el gobierno, para determinar si la información que a los expertos les gustaría ver se está recopilando actualmente y podría publicarse como parte de nuestras medidas de transparencia algorítmica. Una vez que tuvimos una lista corta de todas las categorías que podíamos poner a disposición, consideramos cómo equilibrar la compensación entre profundidad y accesibilidad. Queríamos proporcionar tantos detalles como fuera posible, al tiempo que nos aseguramos de que cualquier mecanismo de transparencia algorítmica que diseñáramos fuera práctico y aumentara la comprensión del público sobre cómo se utilizan las herramientas algorítmicas en el sector público.

Decidimos ejecutar un ejercicio deliberativo de participación pública con el Centro de Ética e Innovación de Datos (CDEI) y Gran BretañaPensamientos comprender las actitudes públicas hacia la transparencia algorítmica en el sector público. Utilizamos un proceso deliberativo después de que las encuestas iniciales del CDEI revelaran que había bajos niveles de conciencia pública sobre el tema. El enfoque deliberativo se utilizó para aumentar gradualmente la comprensión y el conocimiento de los participantes sobre el uso de algoritmos en el sector público. Nos enfocamos en tres casos de uso para probar una variedad de respuestas emotivas: vigilancia, estacionamiento y reclutamiento. Para este estudio, se reclutaron 36 miembros del público de todo el Reino Unido. Tuvimos una mezcla de participantes de diferentes edades, género, etnia y grupos socioeconómicos; niveles de confianza en las instituciones; alfabetización digital; así como la experiencia de uno de los tres casos de uso en los últimos seis meses. Pasamos más de cinco horas interactuando con ellos durante un período de tres semanas. La etapa final fue una sesión de codiseño en profundidad, donde los participantes trabajaron en colaboración para crear prototipos de un enfoque de transparencia algorítmica que reflejaba sus necesidades y expectativas. 

La versión actual de nuestro Estándar de transparencia algorítmica se basa directamente en estos ejercicios de participación; con colegas que trabajan en datos e inteligencia artificial en el gobierno del Reino Unido, expertos de la sociedad civil y el mundo académico, y el público. Una de las recomendaciones del estudio de participación pública deliberativa fue dividir el estándar en dos niveles: el nivel 1 con información básica, dirigido a audiencias no expertas; y nivel 2 con más detalles para aquellos que deseen aprender más. Implementamos esta recomendación; la versión actual del estándar comienza con el nivel uno, que incluye una explicación breve y sencilla de cómo y por qué se utiliza la herramienta algorítmica, así como instrucciones sobre cómo obtener más información. El nivel dos se divide en cinco categorías: 

  • En primer lugar, información sobre el propietario y la responsabilidad de la herramienta, incluidos los datos de contacto del equipo que gestiona la herramienta y los propietarios responsables principales, así como información sobre los proveedores externos. 
  • En segundo lugar, el alcance de la herramienta, las especificaciones técnicas, la justificación de su uso y los detalles sobre para qué ha sido diseñada y para qué no. 
  • En tercer lugar, una descripción general de cómo la herramienta afecta la toma de decisiones a través de la explicación de cómo se integra en el proceso y qué influencia tiene en las decisiones. 
  • En cuarto lugar, una lista y descripción de los conjuntos de datos utilizados para entrenar el modelo y los conjuntos de datos en los que se implementa o se implementará el modelo, con información adicional sobre el proceso de recopilación de datos, acuerdos de intercambio de datos y detalles sobre quién tiene acceso a los datos. 
  • En quinto lugar, las evaluaciones de impacto realizadas en el proceso de desarrollo de la herramienta, así como una descripción detallada de los riesgos comunes de la herramienta y las medidas adoptadas para mitigarlos. 

Durante todo el proceso de desarrollo del estándar, he sido miembro de la Open Government PartnershipRed de algoritmos abiertos. Esta oportunidad única de discutir los últimos desarrollos y desafíos en transparencia algorítmica con colegas que trabajan en los mismos temas en el gobierno de todo el mundo fue invaluable. Nuestras conversaciones honestas y abiertas sobre problemas comunes y la lluvia de ideas sobre las formas de avanzar fueron de gran ayuda. 

Actualmente estamos finalizando nuestro quinto nacional plan de acción, y uno de los grupos de trabajo creados para deliberar sobre el próximo conjunto de compromisos se ha centrado en los algoritmos abiertos. Conjuntamente con representantes de la sociedad civil, desarrollamos un borrador de un compromiso explorar acciones que aumentarían la responsabilidad de las decisiones tomadas con herramientas algorítmicas. Continuaremos interactuando con la sociedad civil y desarrollaremos los próximos pasos para este trabajo más allá de la publicación inicial del plan de acción nacional.

Aún no hay comentarios

Deje un comentario

Su dirección de correo electrónico no será publicada. Las areas obligatorias están marcadas como requeridas *

Más información

Miniatura de 10 lecciones de 10 años de OGP Desafíos y soluciones

10 lecciones de 10 años de OGP

El director ejecutivo adjunto de OGP, Joe Powell, comparte reflexiones sobre cómo la experiencia de OGP puede informar algunos de los debates políticos más críticos que enfrenta el mundo de hoy.

Miniatura de OGP a las 10, EITI a las 20: ¿Hacia dónde sigue? Desafíos y soluciones

OGP a las 10, EITI a las 20: ¿Hacia dónde vamos?

Desde su creación en 2011, la Open Government Partnership (OGP) ha promovido con éxito reformas de gobierno abierto en 78 países. De estos...

Miniatura de un mes para hacer que las cumbres de 2021 sobre democracia y gobierno abierto cuenten

Un mes para hacer que las cumbres de 2021 sobre democracia y gobierno abierto cuenten

Con la Cumbre Global y la Cumbre para la Democracia de OGP a la vuelta de la esquina, compartimos tres pasos que debe tomar la comunidad de gobierno abierto para garantizar que los eventos den resultados concretos ...

Open Government Partnership