¡La Red de Algoritmos Abiertos ha vuelto! Tres métodos para aumentar la transparencia algorítmica para las personas.

Los gobiernos utilizan algoritmos para mejorar la eficiencia de costos y prestación de servicios públicosPara garantizar que los ciudadanos de todos los grupos reciban un mejor apoyo del gobierno, los gobiernos participantes de OGP están trabajando para mejorar la calidad y el acceso a los servicios públicos. Los compromisos en esto son... MásSin embargo, la creación de herramientas digitales robustas, especialmente para su uso en la toma de decisiones, requiere fortalecer los sistemas humanos que las rodean. Para ello, los gobiernos deben incorporar un enfoque de gobierno abierto con transparenciaDe acuerdo con los Artículos de Gobernanza de OGP, la transparencia ocurre cuando "la información en poder del gobierno (incluidas las actividades y decisiones) es abierta, completa, oportuna y está disponible gratuitamente para el público... Más y la rendición de cuentas en el centro del diseño e implementación de algoritmos.

En los últimos cinco años, los algoritmos se han generalizado y la cantidad de gobiernos que los utilizan o planean utilizarlos en la prestación de servicios se ha disparado. Como mecanismo para el diálogo multisectorial, OGP está bien posicionada para servir como espacio para conversaciones que trascienden las palabras de moda y se centran en la implementación de reformas con los valores del gobierno abierto como eje central. Por ello, OGP relanzó... Red de algoritmos abiertos Este año, para los funcionarios públicos que implementan reformas algorítmicas de transparencia y rendición de cuentas.

En marzo, la primera reunión trimestral de la red se centró en el tema de la transparencia a nivel individual.

La transparencia individual difiere del nivel sistémico, donde el sistema en su conjunto se hace transparente, por ejemplo, mediante registros de algoritmos, documentación técnica como hojas de datos y tarjetas de modelos, o la publicación del código fuente del sistema algorítmico. La transparencia individual busca proporcionar transparencia y explicaciones específicas a las personas sujetas a la toma de decisiones algorítmicas. Estas prácticas pueden adoptar diversas formas, desde la notificación del uso de un algoritmo hasta explicaciones individuales de un resultado concreto.

Tales mecanismos están presentes en regulaciónLos reformadores del gobierno están desarrollando regulaciones que consagran valores de transparencia, participación y rendición de cuentas en las prácticas gubernamentales. Especificaciones técnicas: Acta de creación o reforma...Por ejemplo, el Reglamento General de Protección de Datos (RGPD) de la UE exige que los encargados del tratamiento de datos que utilizan sistemas algorítmicos automatizados notifiquen y, en algunos casos, den explicaciones a las personas afectadas por los resultados de decisiones basadas en algoritmos. La Ley de Inteligencia Artificial de la UE también introduce nuevos requisitos de transparencia y explicación. Estos requisitos también se pueden encontrar en legislaciones nacionales como la canadiense. Toma de decisiones automatizadaA medida que los gobiernos recurren cada vez más a los algoritmos para respaldar la toma de decisiones para los servicios públicos, la transparencia y la responsabilidad del uso de algoritmos son necesarias para minimizar su daño y aumentar ... Más Directiva y Ley de la República Digital Francesa.

Durante la primera reunión surgieron tres conclusiones principales del debate.

La transparencia a nivel individual requiere una comunicación accesible y significativa

En Francia, el RGPD y una ley nacional sobre la transparencia de los algoritmos del sector público establecen obligaciones en torno al uso de la toma de decisiones automatizada. Las personas que reciben un servicio público deben ser informadas si se ha utilizado un algoritmo para tomar o respaldar una decisión, ser informadas de sus derechos (derecho de impugnación, derecho de acceso a los datos, etc.) y saber cómo se utilizó el algoritmo en el proceso de toma de decisiones. Para implementar esto, la Dirección de Asuntos Digitales (DINUM) probó un nuevo método para informar a los ciudadanos sobre la toma de decisiones algorítmica: el envío de actualizaciones por SMS.

Dado que los avisos legales eran demasiado largos y costosos para compartirlos por mensaje de texto, la DINUM trabajó en la creación de dos niveles de información. Con el apoyo de expertos en ciencias del comportamiento y lenguaje sencillo, el gobierno creó una versión concisa en la plantilla del mensaje de texto y proporcionó un enlace para acceder a una versión más detallada en línea. Este enfoque es innovador porque permite al gobierno divulgar proactivamente la información requerida en un mensaje claro y conciso.

La transparencia algorítmica comienza con las prácticas de datos transparentes

Estonia Data Tracker es una herramienta informática diseñada para ayudar a las autoridades públicas a cumplir con los requisitos del RGPD. Está específicamente diseñada para su uso por parte de las autoridades públicas que mantienen sistemas de información o bases de datos que contienen datos personales. El sistema se desarrolla de forma centralizada, pero cada autoridad puede integrarlo en bases de datos individuales.

Los ciudadanos pueden acceder al portal y obtener información sobre el uso de sus datos en las diferentes bases de datos gubernamentales: ¿A qué datos se accedió, quién los accedió y con qué propósito? Los registros de datos no solo reflejan el uso de los datos cuando una sola agencia gubernamental recopila, almacena y utiliza la información ciudadana. Al mostrar también cuándo las agencias solicitan el uso de los datos proporcionados por el ciudadano a otra agencia, el Rastreador de Datos también muestra el uso del "principio de una sola vez". Este principio es un concepto de gobierno electrónico que busca garantizar que los ciudadanos solo tengan que proporcionar cierta información estándar una vez, en lugar de hacerlo repetidamente cada vez que interactúan con el gobierno. De esta manera, los ciudadanos pueden comprender mejor qué sucede con los datos que el gobierno tiene sobre ellos y cómo la interoperabilidad de las agencias gubernamentales afecta sus datos.

La transparencia no es inherentemente un compromiso con la privacidad de los ciudadanos o la seguridad del sistema.

Los funcionarios públicos suelen expresar su preocupación por que una mayor transparencia de un sistema algorítmico pueda permitir que actores maliciosos lo manipule o vulnere el derecho a la privacidad de los ciudadanos. Sin embargo, la persistente opacidad de los sistemas algorítmicos de toma de decisiones en el sector público implica que se puede hacer mucho para mejorar la transparencia sin perjudicar otros derechos. Divulgación útil de información sobre un algoritmo. Podría tomar muchas formasComo en el ejemplo francés mencionado, el gobierno divulga información sobre cuándo, por qué y cómo se utilizó un sistema de IA, pero no los criterios específicos que utiliza para tomar la decisión. Los enfoques participativos y la consideración de las necesidades del usuario permiten una transparencia a nivel individual que no requiere este tipo de concesiones.

En 2025, la Red de Algoritmos Abiertos seguirá siendo un espacio para construir conexiones entre pares y capacidades internas para quienes implementan los sistemas que producen herramientas digitales robustas y los sólidos sistemas humanos que las rodean. A medida que los gobiernos recurren cada vez más a la IA en busca de eficiencia y una mejor prestación de servicios, OGP está listo para facilitar... inclusiónLos gobiernos participantes de OGP están trabajando para crear gobiernos que realmente sirvan a todas las personas. Los compromisos en este ámbito pueden abordar personas con discapacidad, mujeres y niñas, lesbianas, gays, bisexuales, tr... Más de participación, transparencia y rendición de cuentas en esas iniciativas.

Muchas gracias a los participantes de la red que compartieron perspectivas esclarecedoras y a Soizic Penicaud (investigador independiente y especialista en políticas) por el análisis de la discusión.