Esta pieza es parte de la "Serie de blogs de algoritmos abiertos" de OGP. Leer otras publicaciones de la serie aquí.

Hoy, Instituto AI Now, Instituto Ada Lovelace y la Open Government PartnershipEl sistema Open Government Partnership (OGP) es una iniciativa de múltiples partes interesadas enfocada en mejorar la transparencia del gobierno, garantizar oportunidades para la participación ciudadana en asuntos públicos y fortalecer... Más (OGP) lanzó el primer estudio de este tipo que analiza la ola inicial de marcos de políticas que promueven transparenciaDe acuerdo con los Artículos de Gobernanza de OGP, la transparencia ocurre cuando "la información en poder del gobierno (incluidas las actividades y decisiones) es abierta, completa, oportuna y está disponible gratuitamente para el público... Más y responsabilidad del uso de algoritmos por parte de los gobiernos en varias jurisdicciones. 

Dado que la mayoría de estas políticas aún se encuentran en etapas muy incipientes de implementación, el estudio cubre las tendencias de implementación tempranas más que el impacto a largo plazo y brinda orientación y lecciones para los responsables de la implementación de políticas. Puede encontrar algunos de los hallazgos clave aquí y acceder al informe completo aquí. 

At DerechosCon 2021, funcionarios gubernamentales y organizaciones de la sociedad civil, incluidos miembros de la Red de algoritmos abiertos, discutido su experiencia en la implementación de iniciativas de transparencia de algoritmos y la participación del público en la política algorítmica. Estas son algunas de las ideas y desafíos que compartieron, que contribuyeron en gran medida a los hallazgos del informe: 

• Los algoritmos son complejos y los niveles de conciencia pública varían. Debido a la mayor atención de los medios en diferentes países y a varios escándalos como en el Netherlands y la UK, la gente se está volviendo más consciente y preocupada acerca de cómo el uso de datos y algoritmos por parte del sector público puede impactarlos significativamente. Pero para ir más allá y lograr una transparencia y una participación significativas, es importante hacer que la información sea comprensible para el público (como hizo Francia al utilizar un video para explicar un algoritmo), comprometerse con las comunidades afectadas en el diseño e implementación de algoritmos y proporcionar mecanismos concretos para el escrutinio público. Algunas de las primeras lecciones del consultas públicas implementado alrededor del Carta de algoritmos en Nueva Zelanda sugieren que existe la necesidad de interactuar proactivamente con el público en las primeras etapas a través de talleres, los medios de comunicación y asociaciones con comunidades marginadas, así como brindar oportunidades de retroalimentación en varias fases. 

• Hay una falta de lenguaje compartido o coherente.. Conceptos como algoritmos, toma de decisiones automatizadaA medida que los gobiernos recurren cada vez más a los algoritmos para respaldar la toma de decisiones para los servicios públicos, la transparencia y la responsabilidad del uso de algoritmos son necesarias para minimizar su daño y aumentar ... y la inteligencia artificial se utilizan con diferentes significados e interpretaciones en todas las jurisdicciones y comunidades. Como en todas las áreas de políticas emergentes, construir un entendimiento común lleva tiempo, pero para involucrar de manera significativa a los ciudadanos y coordinar las políticas con las diferentes agencias gubernamentales que usan algoritmos, es importante trabajar para superar la ambigüedad.

• No se debe subestimar la disponibilidad y la calidad de los datos.. Los datos ingresados ​​en un algoritmo impactan el resultado de la decisión en áreas como salud, educaciónLa rendición de cuentas dentro del sistema de educación pública es clave para mejorar los resultados y logros, y la rendición de cuentas es casi imposible sin políticas transparentes y oportunidades de participación..., contratación pública, y otros. Los datos de baja calidad, que se producen con poca o ninguna supervisión por parte del público, así como los datos faltantes de grupos específicos (generalmente los más marginados) pueden introducir sesgos y discriminación en los algoritmos y dar como resultado decisiones políticas deficientes y discriminatorias. Es necesario intensificar los esfuerzos para mejorar la calidad y disponibilidad de los datos. 

• Los marcos legales y de políticas que apoyan la implementación de la responsabilidad algorítmica son importantes. Marcos transversales en torno a áreas como el acceso a la información, la protección de datos regulaciónLos reformadores del gobierno están desarrollando regulaciones que consagran valores de transparencia, participación y rendición de cuentas en las prácticas gubernamentales. Especificaciones técnicas: Acta de creación o reforma..., la infraestructura digital y la rendición de cuentas en el derecho administrativo, que varían según los contextos regionales y los países, pueden tener un impacto en la implementación de políticas algorítmicas de rendición de cuentas. Esto es especialmente importante en contextos o países donde las conversaciones sobre inteligencia artificial y políticas algorítmicas aún se encuentran en etapas muy incipientes. A medida que el uso de algoritmos en el sector público continúa aumentando, la rendición de cuentas algorítmica también puede verse como un portal para discutir problemas sistémicos relacionados con los marcos fundamentales.

A medida que nos acercamos al décimo aniversario de OGP y con más de 10 países y miembros locales co-creando sus planes de acción este año, los copresidentes de OGP han hecho un concreto tu llamada a la acción. a todos los miembros para promover la innovación digital inclusiva en sus plan de acciónLos planes de acción son el núcleo de la participación de un gobierno en OGP. Son el producto de un proceso de co-creación en el que el gobierno y la sociedad civil desarrollan conjuntamente compromisos de gobierno abierto... compromisos Esperamos que las lecciones de este estudio y las discusiones de aprendizaje entre pares puedan respaldar los esfuerzos de los gobiernos y la sociedad civil para promover la responsabilidad algorítmica, incluso como parte de sus planes de acción de OGP.