OGP organiza seminarios web trimestrales que reúnen a funcionarios públicos, organizaciones de la sociedad civil y socios expertos para compartir conocimientos y perspectivas prácticas sobre la implementación de políticas de algoritmos transparentes y responsables dentro del gobierno.
Estas sesiones están abiertas al público y crean un espacio donde cualquier persona interesada en la gobernanza algorítmica puede aprender de las reformas del mundo real, los desafíos de implementación y cómo los miembros de OGP están utilizando la plataforma para promover la transparencia de los algoritmos y la IA.
SESIONES
Evaluación del impacto de la IA en el sector público (febrero de 2026)
Transparencia a nivel individual (marzo de 2025)
Febrero 5, 2026
Sobre mi
Los gobiernos recurren cada vez más a la toma de decisiones automatizada y a los sistemas basados en inteligencia artificial para la prestación de servicios públicos. A medida que los gobiernos exploran estas potentes herramientas, necesitan comprender, ahora más que nunca, las oportunidades y los riesgos que dichos sistemas representan para el sector público.
La evaluación del impacto de los sistemas de IA es fundamental para la rendición de cuentas del gobierno. En términos generales, la evaluación de impacto se refiere a los métodos utilizados para valorar las consecuencias de los sistemas de IA antes, durante o después de su uso. Sin embargo, actualmente no existe una definición universalmente aceptada de lo que abarcan las "evaluaciones de impacto". Para subsanar esta deficiencia, este seminario web exploró herramientas prácticas y lecciones aprendidas sobre el estado actual de las evaluaciones de impacto, con especial énfasis en fundamentarlas en un marco de derechos humanos.
Mira la grabación
Más Información
- Evaluar todos los sistemas, incluso si eso significa priorizar para reducir la carga de cumplimiento..
- Canadá Algorithmic Impact Assessment tool Es obligatorio para cada algoritmo, pero el riesgo se calcula en una escala variable. El nivel de riesgo asignado determina qué elementos de notificación, explicación, revisión por pares, capacitación y supervisión humana son necesarios.
- El GobLab Plataforma de algoritmos públicos En Chile también se propone una evaluación de impacto de algoritmos de código abierto que asigna a cada algoritmo un nivel de riesgo (bajo, moderado, alto y muy alto) y sugiere recomendaciones personalizadas para las diferentes etapas del ciclo de vida del proyecto, dependiendo de los riesgos detectados.
- Evaluar los impactos a lo largo del ciclo de vida de un sistema de IA..
- El Centro Europeo de Derecho de las Organizaciones sin Fines de Lucro (ECNL) Guía para las evaluaciones de impacto fundamentales Se recomienda realizar evaluaciones de impacto en todas las etapas del sistema. Se debe dar prioridad a los momentos en que la evaluación de impacto pueda ser especialmente significativa, por ejemplo, al decidir si un sistema de IA debe desarrollarse solo en circunstancias específicas, o incluso si debe desarrollarse en absoluto.
- Además, los ponentes recomendaron realizar seguimientos periódicos con equipos multidisciplinarios. Como explicó Jonathan Macdonald, de la Secretaría del Consejo del Tesoro de Canadá, las evaluaciones puntuales no son suficientes. «No basta con tener la IA, lograr un impacto único y luego olvidarse de ella. Gran parte de la ventaja de estas herramientas radica en su evolución, por lo que es fundamental asegurarse de que dicha evolución se ajuste a los requisitos específicos».
- Involucre a las partes interesadas de manera significativa..
- ECNL Marco para una participación significativa Ofrece consejos prácticos sobre cómo involucrar a las partes interesadas, incluso proporcionándoles recursos suficientes y adecuados y asegurándose de que sus aportaciones influyan en el desarrollo o el uso práctico del producto.
- Utilice la transparencia y los canales de retroalimentación ciudadana participativos como otra forma de medir y monitorear los impactos.
- Los Países Bajos están desarrollando actualmente dichos canales de retroalimentación a través de su plan de acción actualizado con tres nuevos compromisos bajo el lema de Algoritmos Abiertos.
- Marlena Wisniak alentó a priorizar la transparencia de los sistemas de alto impacto al desarrollar estos canales de retroalimentación, especialmente en áreas relacionadas con la aplicación de la ley, el control fronterizo y la seguridad nacional.
- Vaya más allá de los procesos de cumplimiento meramente formales para evitar legitimar sistemas perjudiciales.
- Marlena Wisniak explicó que la efectividad de las evaluaciones de impacto depende, en última instancia, de la buena fe de los desarrolladores y desplegadores de IA: «Se pueden formular evaluaciones de impacto de manera que oculten los impactos negativos y establezcan medidas de mitigación de riesgos inadecuadas, legitimando así los sistemas de IA dañinos. Las evaluaciones de impacto significativas son más que simples documentos. Las evaluaciones de impacto con una sólida legitimidad deben incluir medidas para abordar los impactos negativos y contemplar la posibilidad de no desarrollar ni desplegar el sistema de IA evaluado».
- Jonathan MacDonald – Director de IA Responsable en la Secretaría del Consejo del Tesoro del Gobierno Federal de Canadá
- Olaf Schoelink – Alto funcionario de políticas del Ministerio de Asuntos Internos y Relaciones del Reino del Gobierno de los Países Bajos
- Marlena Wisniak – Directora Jurídica Senior del Centro Europeo de Derecho de las Organizaciones sin Fines de Lucro (ECNL)
- Directiva de Canadá sobre la toma de decisiones automatizada y las evaluaciones de impacto algorítmico.
- Canadá tiene un requisito obligatorio Herramienta de evaluación del impacto algorítmico (AIA), que apoya la implementación del plan federal de Canadá Directivas sobre la toma de decisiones automatizada. El Consejo del Tesoro está mejorando la herramienta para hacerla más fácil de usar, adaptándola a las nuevas capacidades de la IA generativa y brindando mayor flexibilidad a los sistemas de bajo impacto para fomentar el cumplimiento.
- El enfoque de los Países Bajos en materia de transparencia y evaluaciones de impacto.
- Del país registro de algoritmoLa plataforma, que cuenta con más de 1,300 algoritmos publicados por 326 organizaciones gubernamentales, registra las evaluaciones de impacto realizadas para cada sistema. Hasta la fecha, se han realizado 500 tipos diferentes de evaluaciones de impacto, de las cuales 304 son Evaluaciones de Impacto en la Protección de Datos (EIPD). Además, los Países Bajos han diseñado su propia evaluación de impacto para los derechos humanos y los algoritmos.
- Guía de ECNL para las evaluaciones de impacto sobre los derechos fundamentales
- Este ECNL guíaLa guía, elaborada en colaboración con el Instituto Danés de Derechos Humanos, se redactó en el contexto de las Evaluaciones de Impacto en los Derechos Fundamentales. Si bien estas evaluaciones son obligatorias en virtud de la Ley de IA de la UE, la guía se basa en los Principios Rectores de las Naciones Unidas sobre las Empresas y los Derechos Humanos, lo que la hace aplicable a nivel mundial. La guía de ECNL anima a los responsables de la implementación a planificar tanto los escenarios típicos como los peores.
Marzo 2025
Sobre mi
En marzo, la Red de Algoritmos Abiertos se relanzó con un grupo de funcionarios gubernamentales que discutieron la transparencia algorítmica.
La transparencia de los algoritmos y sistemas de IA del sector público puede lograrse en dos niveles. El primero es sistémico, donde el sistema en su conjunto se vuelve transparente, por ejemplo, mediante registros de algoritmos, documentación técnica como hojas de datos y tarjetas de modelos, o la publicación del código fuente, los datos o los modelos del sistema algorítmico.
La segunda es individual, y busca brindar transparencia y explicaciones específicas a las personas sujetas a la toma de decisiones algorítmica. Estas prácticas pueden adoptar diversas formas, desde la notificación del uso de un algoritmo hasta explicaciones individuales de un resultado específico. Se trata de formas de "protección procesal" destinadas a responder a las preocupaciones sobre equidad y rendición de cuentas que plantean los sistemas algorítmicos. También pueden contribuir a la transparencia sistémica, al aumentar la concienciación sobre el uso de sistemas algorítmicos e IA en el sector público.