Saltar navegación

Hacer que los algoritmos rindan cuentas a los ciudadanos

Algoritmos que rinden cuentas a la ciudadanía

Paula Pérez|

Esta pieza es parte de la "Serie de blogs de algoritmos abiertos" de OGP. Leer otras publicaciones de la serie aquí.

Hoy, Instituto AI Now, Instituto Ada Lovelace y Open Government Partnership (OGP) lanzó el primer estudio de este tipo que analiza la ola inicial de marcos de políticas que promueven la transparencia y la responsabilidad del uso de algoritmos por parte de los gobiernos en varias jurisdicciones. 

Dado que la mayoría de estas políticas aún se encuentran en etapas muy incipientes de implementación, el estudio cubre las tendencias de implementación tempranas más que el impacto a largo plazo y brinda orientación y lecciones para los responsables de la implementación de políticas. Puede encontrar algunos de los hallazgos clave aquí y acceder al informe completo aquí

At RightsCon 2021, funcionarios gubernamentales y organizaciones de la sociedad civil, incluidos miembros de la Red de algoritmos abiertos, discutido su experiencia en la implementación de iniciativas de transparencia de algoritmos y la participación del público en la política algorítmica. Estas son algunas de las ideas y desafíos que compartieron, que contribuyeron en gran medida a los hallazgos del informe: 

  • Los algoritmos son complejos y los niveles de conciencia pública varían. Debido a la mayor atención de los medios en diferentes países y a varios escándalos como en el Holanda y UK, la gente se está volviendo más consciente y preocupada acerca de cómo el uso de datos y algoritmos por parte del sector público puede impactarlos significativamente. Pero para ir más allá y lograr una transparencia y una participación significativas, es importante hacer que la información sea comprensible para el público (como hizo Francia al utilizar un Video para explicar un algoritmo), comprometerse con las comunidades afectadas en el diseño e implementación de algoritmos y proporcionar mecanismos concretos para el escrutinio público. Algunas de las primeras lecciones del consultas públicas implementado alrededor del Carta de algoritmos en Nueva Zelanda sugieren que existe la necesidad de interactuar proactivamente con el público en las primeras etapas a través de talleres, los medios de comunicación y asociaciones con comunidades marginadas, así como brindar oportunidades de retroalimentación en varias fases. 
  • Hay una falta de lenguaje compartido o coherente.. Conceptos como algoritmos, toma de decisiones automatizada e inteligencia artificial se utilizan con diferentes significados y entendimientos en jurisdicciones y comunidades. Como en todas las áreas de políticas emergentes, la construcción de un entendimiento común lleva tiempo, pero para involucrar de manera significativa a los ciudadanos y coordinar las políticas con las diferentes agencias gubernamentales que utilizan algoritmos, es importante trabajar para superar la ambigüedad.
  • No se debe subestimar la disponibilidad y la calidad de los datos.. Los datos ingresados ​​en un algoritmo impactan el resultado de la decisión en áreas como salud, educación, contratación pública y otras. Los datos de baja calidad, que se producen con poca o ninguna supervisión del público, así como los datos faltantes de grupos específicos (generalmente los más marginados) pueden introducir sesgos y discriminación en los algoritmos y dar lugar a decisiones políticas deficientes y discriminatorias. Es necesario intensificar los esfuerzos para mejorar la calidad y la disponibilidad de los datos. 
  • Los marcos legales y de políticas que apoyan la implementación de la responsabilidad algorítmica son importantes. Los marcos transversales en torno a áreas como el acceso a la información, la regulación de la protección de datos, la infraestructura digital y la rendición de cuentas en el derecho administrativo, que varían según los contextos regionales y los países, pueden tener un impacto en la implementación de políticas de rendición de cuentas algorítmicas. Esto es especialmente importante en contextos o países donde las conversaciones sobre inteligencia artificial y políticas algorítmicas aún se encuentran en etapas muy incipientes. A medida que el uso de algoritmos en el sector público continúa aumentando, la responsabilidad algorítmica también se puede considerar como un portal para discutir problemas sistémicos relacionados con los marcos fundamentales.

A medida que nos acercamos al décimo aniversario de OGP y con más de 10 países y miembros locales co-creando sus planes de acción este año, los copresidentes de OGP han hecho un concreto tu llamada a la acción. a todos los miembros para promover la innovación digital inclusiva en sus compromisos del plan de acción. Esperamos que las lecciones de este estudio y las discusiones de aprendizaje entre pares puedan respaldar los esfuerzos de los gobiernos y la sociedad civil para avanzar en la rendición de cuentas algorítmica, incluso como parte de sus planes de acción de OGP.

No hay comentarios todavía

Dejá tu comentario.

Tu dirección de correo electrónico no será publicada.Los campos obligatorios están marcados *

Más información

Miniatura de la red de algoritmos abiertos

Red de algoritmos abiertos

Conozca la red informal de gobiernos implementadores de OGP, que moviliza una coalición entre países de quienes trabajan en la responsabilidad algorítmica.

Miniatura de algoritmos abiertos: experiencias de Francia, los Países Bajos y Nueva Zelanda Desafíos y soluciones

Algoritmos abiertos: experiencias de Francia, los Países Bajos y Nueva Zelanda

Los algoritmos, sistemas analíticos que procesan datos y complementan o reemplazan la toma de decisiones que antes realizaban las personas, se han convertido en una forma esencial para que los gobiernos mejoren la prestación de servicios públicos ...

Miniatura del llamado a la acción global del copresidente para todos los miembros de OGP

Copresidente del Llamado a la acción global para todos los miembros de OGP

En apoyo de Open Renewal, los Copresidentes de OGP, la República de Corea y Maria Baron del Directorio Legislativo, han lanzado un llamado a la acción global para todos los miembros de OGP en 2021 ...

Open Government Partnership