Saltar navegación

Reflexiones sobre la implementación de la política algorítmica del sector público

Reflexiones sobre la implementación de las políticas de algoritmos en el sector público

Tonusree Basuy Paula Pérez|

Esta pieza es parte de la "Serie de blogs de algoritmos abiertos" de OGP. Leer otras publicaciones de la serie Aquí.

En los últimos años, la forma en que funcionan los gobiernos ha experimentado una transformación significativa, con la digitalización de más servicios para una entrega eficiente y eficaz. Las agencias gubernamentales utilizan cada vez más algoritmos y datos sofisticados para la toma de decisiones públicas sobre asuntos relacionados con la salud, la educación, la migración y otras áreas clave de políticas. Hacer que el uso de algoritmos por parte del sector público sea más transparente y responsable es fundamental para garantizar que las tecnologías digitales no se utilicen indebidamente y que los derechos de los usuarios y ciudadanos, incluido el uso de datos personales de manera ética, estén protegidos. 

Aumento del interés del público por el uso de algoritmos para la toma de decisiones públicas, que puede surgir a raíz de escándalos como el Algoritmos de SyRI en los Países Bajos y algoritmos de calificación de exámenes en el Reino Unido, son motivo de preocupación, pero también son una valiosa oportunidad para crear conciencia dentro y fuera del gobierno sobre la importancia de aumentar la transparencia y la responsabilidad pública de los algoritmos. 

Varios miembros de OGP, incluidos Francia, Holanda y Nueva Zelanda, ahora están utilizando sus planes de acción de OGP para promover la transparencia, la participación y la responsabilidad de los algoritmos gubernamentales. En noviembre de 2020, OGP organizó un intercambio en línea con funcionarios gubernamentales de agencias implementadoras de Canadá, Francia, Nueva Zelanda y el Reino Unido. Esta red se reunió por primera vez en mayo de 2020 y continuará reuniéndose trimestralmente, abordando una variedad de cuestiones de política relacionadas con la responsabilidad algorítmica. A ellos se unirán diferentes socios de la sociedad civil y expertos, en función del tema de discusión.  

Esta discusión más reciente se centró en compartir las experiencias de los países sobre la coordinación intergubernamental y el desarrollo de capacidades en las agencias gubernamentales relevantes para apoyar la implementación de la responsabilidad algorítmica. El grupo estuvo acompañado por Amba Kak, Director de Programas y Políticas Globales en Instituto AI Now de la Universidad de Nueva York, quienes compartieron ejemplos de brechas y desafíos sobre los que habían consultado con los gobiernos. Estas son algunas de las preguntas de diseño e implementación que se destacaron en la discusión: 

 

1. Alcance y definición de algoritmos: Alcanzar un entendimiento común de la noción y el alcance de una política algorítmica es uno de los mayores desafíos del diseño de políticas. No existe una política de "talla única". El contenido y el alcance dependen del servicio que el gobierno esté brindando al público y de los problemas que se aborden, lo que dificulta adoptar un enfoque más amplio y crear una guía integral para las agencias gubernamentales relevantes. Algunas de las principales preguntas que deben abordarse al diseñar la responsabilidad algorítmica son:

  • Tecnología vs impacto: ¿Debería centrarse en la tecnología utilizada o el impacto (o más bien la decisión)? El grupo destacó la eficacia de centrarse en el impacto para determinar las reglas, en lugar de la tecnología en sí. En términos de qué tecnologías deberían estar involucradas en el alcance, una de las preguntas clave planteadas fueron los desafíos de definición con inteligencia artificial (IA). Lo que se ha observado es que varios instrumentos de política utilizan "toma de decisiones automatizada" como término general en lugar de IA. Esto cambia el enfoque a la función, el uso y el impacto de estos sistemas en su conjunto en lugar de definiciones más restringidas. Otras preguntas clave incluyen: ¿Qué deben y no deben considerarse exenciones? ¿Cómo se pueden tener en cuenta los principios de la ética de los datos?
  • Ámbito sectorial: ¿Debemos tener un alcance amplio o estrecho? ¿Qué sectores deberían estar cubiertos? Los profesionales han identificado una superposición tanto sectorial como regulatoria en la implementación de los principios de diseño. 
  • Diseño y implementación: ¿Es el enfoque basado en el riesgo un buen ajuste para orientar a las agencias sobre en qué enfocarse? ¿Cómo podemos llevar la responsabilidad algorítmica al premium de algoritmos, y no solo en la implementación? La mayoría de los funcionarios del grupo consideran igualmente importante incorporar estos principios en ambas etapas en todos los departamentos gubernamentales. Uno de los desafíos clave identificados es determinar cómo armonizar las nuevas reformas con los marcos legales existentes. Algunos países encuentran útil vincular las reformas a sus marcos de ética y protección de datos preexistentes cuando se han creado conjuntamente con la sociedad civil y expertos. 

2. Obligado por ley, política o enfoque voluntario: La aplicación de la responsabilidad algorítmica en las diferentes agencias gubernamentales que utilizan algoritmos en su trabajo también es un aspecto clave a considerar. Existen diferentes modelos:

  • Obligado por ley: Francia tiene un marco legal exigir algoritmos abiertos, por lo que el alcance de la política está establecido en la ley. Las administraciones deben publicar en línea una lista de algoritmos cuando se utilizan para tomar decisiones que impactan la vida de los ciudadanos. 
  • Obligado por política: Canadá tiene un Directiva emitido por el comité de supervisión financiera y de operaciones del gobierno federal, que establece requisitos sobre cómo se pueden utilizar los algoritmos para respaldar la prestación de servicios a los ciudadanos. Los departamentos del gobierno federal canadiense deben cumplir con esta directiva.
  • Voluntario: En Nueva Zelanda, el enfoque de los algoritmos se basa en un compromiso público de las agencias gubernamentales, no en un estándar legal. El país creó una carta de algoritmos (incluso como parte de un Compromiso OGP) que fue objeto de consulta pública y actualmente se encuentra trabajando en su implementación. Como en cualquier enfoque voluntario, uno de los desafíos es que no todas las agencias se han comprometido a implementar la carta. Es importante considerar que muchos de estos cambios están ocurriendo antes de que se establezcan los marcos legales. Esta es una limitación, pero también una oportunidad que ha permitido un movimiento más rápido y ágil. Se considera posible probar enfoques para la responsabilidad algorítmica dentro del sector público.

3. Responsabilidad de los organismos especializados

Uno de los desafíos que el grupo destacó fue implementar la rendición de cuentas de la toma de decisiones algorítmicas en los contextos donde la prestación de servicios se realizó a través de una cadena de diferentes departamentos, cada uno con diferentes mandatos y responsables de diferentes elementos a lo largo de la cadena de prestación. En tales casos, es posible que diferentes agencias sean responsables de recopilar datos y otras de usar los datos. Mientras que algunos utilizan los datos para procesos gubernamentales internos, otros están orientados a la prestación de servicios. Por lo tanto, una de las preguntas clave de política que surge es en qué etapas se deben implementar las herramientas y medidas de rendición de cuentas.

El cambio de cultura entre los departamentos gubernamentales es otro desafío que se identificó: inicialmente se pensó que la implementación de tecnologías digitales solo necesitaba departamentos de TI. Ahora hemos aprendido que es necesario adoptar un enfoque multidisciplinario que incluya aspectos legales, de privacidad, de impacto, de diseño centrado en el usuario y de entrega.

Otros desafíos son que estas agencias tienen prioridades políticas en competencia y se ocupan de recursos limitados, lo que aumenta la necesidad de encontrar un equilibrio entre lo que es útil y lo que se les puede exigir humanamente. También existe la perspectiva de que dedicar recursos a la transparencia y la rendición de cuentas puede tener el costo de la innovación.

4. Canales de participación

Algunos de los gobiernos participantes se han acercado proactivamente a las agencias relevantes o han establecido grupos de trabajo para coordinar el trabajo intragubernamental. Por ejemplo:

  • Etalab en Francia ha establecido un grupo de trabajo con las agencias gubernamentales relevantes, incluidas las administraciones locales. 
  • En Nueva Zelanda, Stats NZ y el administrador de datos del gobierno se conectaron con las agencias relevantes para promover la aplicación de la Carta de Algoritmos y están trabajando con las agencias más grandes del país para coordinar su implementación. Un total de 26 organizaciones gubernamentales se han adherido a la Carta de Algoritmos. 
  • Al redactar su Directiva sobre la toma de decisiones automatizada, Canadá celebró consultas en diferentes ciudades del país con representantes gubernamentales, académicos, expertos legales y la sociedad civil. 

La relevancia de comunicar la importancia de los algoritmos y su uso tanto al público como a los demás funcionarios del gobierno también es esencial. El gobierno de Francia, por ejemplo, creó un breve Video para explicar un algoritmo.    

Próximos pasos

Este grupo continuará reuniéndose en 2021 e involucrará a un grupo más amplio de gobiernos, sociedad civil y socios internacionales de otras regiones para impulsar esta discusión. También exploraremos preguntas sobre transparencia y responsabilidad de la contratación pública de algoritmos y sistemas de inteligencia artificial, sesgo algorítmico, sistemas de responsabilidad, estándares internacionales y casos de uso concretos.

 

Crédito de la imagen destacada: heylagostechie a través de Unsplash

No hay comentarios todavía

Deje su comentario.

Tu dirección de correo electrónico no será publicada.Los campos necesarios están marcados *

Contenido Relacionado

Miniatura de algoritmos abiertos: experiencias de Francia, los Países Bajos y Nueva Zelanda Desafíos y soluciones

Algoritmos abiertos: experiencias de Francia, los Países Bajos y Nueva Zelanda

Los algoritmos, sistemas analíticos que procesan datos y complementan o reemplazan la toma de decisiones que antes realizaban las personas, se han convertido en una forma esencial para que los gobiernos mejoren la prestación de servicios públicos ...

Miniatura de una guía para el gobierno abierto y el coronavirus: protecciones de privacidad

Una guía para el gobierno abierto y el coronavirus: protecciones de privacidad

Los gobiernos están recopilando cantidades sin precedentes de datos personales para respaldar esfuerzos vitales de salud pública, como el seguimiento de la transmisión de COVID-19 y la aplicación de la cuarentena. En particular, los gobiernos y las corporaciones están recolectando y ...

Miniatura de cinco innovaciones gubernamentales reconocidas por su trabajo para abrir el gobierno

Cinco innovaciones gubernamentales reconocidas por su trabajo para abrir el gobierno

Se han reconocido cinco reformas de gobierno abierto de Letonia, México, Nueva Zelanda, la ciudad de Buenos Aires, Argentina y el estado de Kaduna, Nigeria ...

Open Government Partnership