OGP organiza seminarios web trimestrales que reúnen a funcionarios públicos, organizaciones de la sociedad civil y socios expertos para compartir conocimientos y perspectivas prácticas sobre la implementación de políticas de algoritmos transparentes y responsables dentro del gobierno.
Estas sesiones están abiertas al público y crean un espacio donde cualquier persona interesada en la gobernanza algorítmica puede aprender de las reformas del mundo real, los desafíos de implementación y cómo los miembros de OGP están utilizando la plataforma para promover la transparencia de los algoritmos y la IA.
SESIONES
Gobernando la IA GenAI: ¿Son suficientes las normas existentes? (Octubre de 2026)
Participación en la práctica: Enfoques prácticos para la gobernanza participativa de la IA (junio de 2026)
Evaluación del impacto de la IA en el sector público (febrero de 2026)
Transparencia a nivel individual (marzo de 2025)
22 de octubre de 2026
Sobre Nosotros
Los gobiernos están experimentando cada vez más con herramientas de IA generativa y desplegándolas para apoyar funciones del sector público como la recuperación de información, la transcripción, la traducción, la elaboración de resúmenes y la prestación de servicios a la ciudadanía. Si bien estos sistemas pueden parecer menos riesgosos que las herramientas de toma de decisiones totalmente automatizadas, influyen en cómo se produce, interpreta y utiliza la información pública.
Su uso plantea importantes interrogantes sobre la rendición de cuentas: ¿cómo se adquieren y evalúan las herramientas?, ¿quién es responsable cuando los resultados son inexactos o sesgados?, ¿cómo se consulta a las comunidades afectadas?, y ¿qué formas de transparencia son relevantes cuando los sistemas son de propósito general, probabilísticos y, a menudo, desarrollados externamente? ¿Siguen siendo eficaces las herramientas de gobernanza abierta que utilizan los gobiernos para garantizar la transparencia y la rendición de cuentas de las herramientas de IA cuando se aplican a la IA generativa?
Mira la grabación
Más Información
- Los mecanismos de gobernanza existentes siguen siendo relevantes, pero necesitan adaptarse a la IA general. Las auditorías, las evaluaciones de impacto y los requisitos de transparencia siguen siendo esenciales. Sin embargo, deben tener en cuenta los sistemas que cambian con el tiempo, producen resultados no reproducibles e influyen en la forma de pensar de los funcionarios, no solo en las decisiones que finalmente toman.
- La supervisión humana por sí sola no es suficiente. La IA puede moldear el juicio mediante el encuadre, las suposiciones implícitas y el refuerzo sutil de las opiniones de los usuarios antes de que alguien revise el resultado final. Una supervisión significativa implica cuestionar las indicaciones y las suposiciones, y comparar perspectivas, no simplemente pedirle a una persona que apruebe una respuesta.
- La gobernanza debe basarse en cómo se utiliza realmente la IA. El uso informal “en la sombra” y los proyectos piloto que se convierten discretamente en permanentes pueden superar los procesos formales de contratación y rendición de cuentas. Los gobiernos necesitan salvaguardias prácticas y evaluación desde el principio, en lugar de esperar a que un sistema se implemente oficialmente a gran escala.
- La adopción responsable comienza por preguntarse si la IA genómica es necesaria en absoluto. Las herramientas más sencillas, los datos estructurados y los casos de uso a menor escala pueden ser más fiables y fáciles de gestionar. Cuando la IA aporta valor, los usos delimitados, las fuentes rastreables y las capacidades reutilizables ofrecen un enfoque más manejable que la generación abierta o cientos de herramientas a medida.
- La capacidad y el control del sector público son tan importantes como el rendimiento del modelo. Los gobiernos dependen de proveedores de la cadena de suministro sobre cuyas decisiones pueden tener poca influencia. Unos mecanismos de contratación más sólidos, una capacidad de evaluación compartida y una selección deliberada de infraestructuras pueden ayudar a abordar la dependencia de los proveedores, los riesgos para la soberanía y las deficiencias en la rendición de cuentas.
- Divij Joshi, ODI Global
- Michele Loi, investigadora independiente y experta en ética de la IA.
- Rubén Vela Izquierdo, Ministerio de la Presidencia, Justicia y Relaciones con las Asambleas Legislativas de España
- Rubén Vela destacó el uso que hace el sector judicial español de plantillas legales diseñadas por expertos, donde la herramienta GenerativeAI completa las lagunas de información estructurada, en lugar de generar sentencias completas desde cero. Esto limita GenAI a tareas específicas para reducir los riesgos de sesgo o interpretaciones erróneas y facilitar la supervisión. Esta iniciativa se enmarca en la Alianza para el Gobierno Abierto (OGP) de España. compromiso sobre derechos digitales inclusivos para el uso de la IA en la administración pública.
- Michaela Loi compartió un experimento en el que la misma pregunta generó conclusiones opuestas según si el modelo LLM interpretaba que el usuario se identificaba como de izquierda o de derecha. Esto demuestra por qué verificar únicamente la veracidad de una respuesta no basta para comprender cómo influye la IA en el juicio, ya que los antecedentes individuales pueden provocar pequeños cambios en la formulación de la respuesta que, en la práctica, generan diferencias significativas.
- Divij Joshi señaló a DINUM de Francia, GovTech Singapore y el estándar de informes de transparencia de algoritmos del Reino Unido como ejemplos de cómo desarrollar capacidades públicas compartidas entre ministerios, destacando la infraestructura de evaluación conjunta como una forma de apoyar una supervisión más coherente en todo el gobierno.
29 de junio de 2026
Sobre Nosotros
La participación ciudadana es un principio fundamental del gobierno abierto. Cuando se lleva a cabo correctamente, permite detectar riesgos con antelación y diseñar medidas de mitigación antes de la implementación, fortalecer la inclusión mediante el diseño en colaboración con las personas a las que afectarán los sistemas, aumentar la legitimidad y el cumplimiento al explicitar las ventajas y desventajas, y generar confianza pública al demostrar que los sistemas se rigen por el interés público con salvaguardias proporcionales.
Sin embargo, existen escollos: en medio del entusiasmo por la IA, los procesos de participación suelen carecer de influencia, se ven limitados por las exigencias económicas y resultan difíciles de traducir en normas y responsabilidades concretas para los organismos ejecutores. ¿Cómo pueden los gobiernos incorporar la participación ciudadana en sus decisiones sobre el uso de sistemas algorítmicos, de manera que sea significativa y fomente la confianza y la rendición de cuentas públicas? ¿Cómo se vería esto en la práctica?
Más Información
- Integrar la participación en todo el ciclo de vida de la IA, no solo en la etapa de "consulta". A medida que la IA se utiliza en los servicios públicos, el desequilibrio de poder entre el gobierno y los ciudadanos puede acentuarse. La participación debe ser significativa a lo largo de todo el proceso de diseño, implementación y supervisión, y no tratarse como una interacción puntual.
- “Diseñar desde los márgenes” significa priorizar las perspectivas de las personas con mayor probabilidad de sufrir daños. Las comunidades con mayor riesgo de sufrir daños suelen ser las que mejor saben qué puede salir mal. Diseñar teniendo en cuenta esas perspectivas mejora los resultados para todos.
- Fomente una participación concreta y operativa mediante el uso de métodos estructurados, no mediante iniciativas de divulgación improvisadas. Lo ideal es adoptar un enfoque repetible: identificar el sistema, investigar los riesgos conocidos de sesgo o falta de equidad, identificar a los grupos afectados y colaborar con organizaciones comunitarias que actúen como canales de comunicación confiables y expertas. Organizaciones como Data & Society ofrecen kits de herramientas y guiones listos para usar en talleres comunitarios.
- Combine la participación con mecanismos de transparencia y rendición de cuentas.Como los registros de algoritmos que explican cómo funcionan los sistemas y permiten la retroalimentación ciudadana. Los gobiernos deben garantizar que los procesos de consulta ofrezcan beneficios recíprocos a los participantes, como mejorar la comprensión de la IA y mostrarles qué cambios se produjeron gracias a sus aportaciones.
- Meg Young – Datos y Sociedad
- Eilidh McLaughlin – Gobierno de Escocia
- Oluseyi Olufemi – Dataphyte
- El Laboratorio de Métodos de Impacto Algorítmico de Datos y Sociedad consultado En colaboración con la ciudad de San José, California, EE. UU., se desarrolló un proyecto relacionado con cámaras de IA instaladas en vehículos de la flota para detectar vehículos habitados y campamentos, así como otros problemas viales como baches, obstrucciones en los carriles bici y vertidos ilegales. Mediante sesiones de retroalimentación comunitaria y una capacitación sobre sistemas de IA, la ciudadanía expresó su preocupación de que el sistema criminalizara la falta de vivienda sin abordar las causas profundas. Los miembros de la comunidad lograron reorientar la iniciativa de la ciudad hacia la seguridad vial.
- El Gobierno Escocés Involucrar a niños de entre 8 y 12 años en toda Escocia a través del proyecto Explorando los derechos de los niños en la IA Antecedentes (2022–2025). Mediante sesiones participativas con niños, la iniciativa permitió conocer sus perspectivas sobre la equidad, los sesgos, la privacidad y otras preocupaciones relacionadas con la IA, así como sobre cómo esta podría afectar sus vidas. El proyecto generó informes y propuestas de acción formuladas por los niños, con el objetivo de que su experiencia se tenga en cuenta en la gobernanza y las políticas de IA.
- In NigeriaEl gobierno (NITDA) y socios de la sociedad civil como la Fundación Dataphyte convocar Un grupo de colaboración para la gobernanza digital con múltiples partes interesadas reúne a diversos actores para cocrear enfoques de gobernanza de las tecnologías digitales. Recientemente, los participantes del grupo desarrollaron un conjunto de herramientas de gobernanza digital que permite la creación conjunta de criterios de evaluación y evaluaciones, lideradas por múltiples partes interesadas, del desarrollo e implementación de tecnologías gubernamentales. Este grupo promueve la participación de múltiples partes interesadas en todas las etapas del desarrollo tecnológico.
Febrero 5, 2026
Sobre Nosotros
Los gobiernos recurren cada vez más a la toma de decisiones automatizada y a los sistemas basados en inteligencia artificial para la prestación de servicios públicos. A medida que los gobiernos exploran estas potentes herramientas, necesitan comprender, ahora más que nunca, las oportunidades y los riesgos que dichos sistemas representan para el sector público.
La evaluación del impacto de los sistemas de IA es fundamental para la rendición de cuentas del gobierno. En términos generales, la evaluación de impacto se refiere a los métodos utilizados para valorar las consecuencias de los sistemas de IA antes, durante o después de su uso. Sin embargo, actualmente no existe una definición universalmente aceptada de lo que abarcan las "evaluaciones de impacto". Para subsanar esta deficiencia, este seminario web exploró herramientas prácticas y lecciones aprendidas sobre el estado actual de las evaluaciones de impacto, con especial énfasis en fundamentarlas en un marco de derechos humanos.
Mira la grabación
Más Información
- Evaluar todos los sistemas, incluso si eso significa priorizar para reducir la carga de cumplimiento..
- Canadá Algorithmic Impact Assessment tool Es obligatorio para cada algoritmo, pero el riesgo se calcula en una escala variable. El nivel de riesgo asignado determina qué elementos de notificación, explicación, revisión por pares, capacitación y supervisión humana son necesarios.
- El GobLab Plataforma de algoritmos públicos En Chile también se propone una evaluación de impacto de algoritmos de código abierto que asigna a cada algoritmo un nivel de riesgo (bajo, moderado, alto y muy alto) y sugiere recomendaciones personalizadas para las diferentes etapas del ciclo de vida del proyecto, dependiendo de los riesgos detectados.
- Evaluar los impactos a lo largo del ciclo de vida de un sistema de IA..
- El Centro Europeo de Derecho de las Organizaciones sin Fines de Lucro (ECNL) Guía para las evaluaciones de impacto fundamentales Se recomienda realizar evaluaciones de impacto en todas las etapas del sistema. Se debe dar prioridad a los momentos en que la evaluación de impacto pueda ser especialmente significativa, por ejemplo, al decidir si un sistema de IA debe desarrollarse solo en circunstancias específicas, o incluso si debe desarrollarse en absoluto.
- Además, los ponentes recomendaron realizar seguimientos periódicos con equipos multidisciplinarios. Como explicó Jonathan Macdonald, de la Secretaría del Consejo del Tesoro de Canadá, las evaluaciones puntuales no son suficientes. «No basta con tener la IA, lograr un impacto único y luego olvidarse de ella. Gran parte de la ventaja de estas herramientas radica en su evolución, por lo que es fundamental asegurarse de que dicha evolución se ajuste a los requisitos específicos».
- Involucre a las partes interesadas de manera significativa..
- ECNL Marco para una participación significativa Ofrece consejos prácticos sobre cómo involucrar a las partes interesadas, incluso proporcionándoles recursos suficientes y adecuados y asegurándose de que sus aportaciones influyan en el desarrollo o el uso práctico del producto.
- Utilice la transparencia y los canales de retroalimentación ciudadana participativos como otra forma de medir y monitorear los impactos.
- Los Países Bajos están desarrollando actualmente dichos canales de retroalimentación a través de su plan de acción actualizado con tres nuevos compromisos bajo el lema de Algoritmos Abiertos.
- Marlena Wisniak alentó a priorizar la transparencia de los sistemas de alto impacto al desarrollar estos canales de retroalimentación, especialmente en áreas relacionadas con la aplicación de la ley, el control fronterizo y la seguridad nacional.
- Vaya más allá de los procesos de cumplimiento meramente formales para evitar legitimar sistemas perjudiciales.
- Marlena Wisniak explicó que la efectividad de las evaluaciones de impacto depende, en última instancia, de la buena fe de los desarrolladores y desplegadores de IA: «Se pueden formular evaluaciones de impacto de manera que oculten los impactos negativos y establezcan medidas de mitigación de riesgos inadecuadas, legitimando así los sistemas de IA dañinos. Las evaluaciones de impacto significativas son más que simples documentos. Las evaluaciones de impacto con una sólida legitimidad deben incluir medidas para abordar los impactos negativos y contemplar la posibilidad de no desarrollar ni desplegar el sistema de IA evaluado».
- Jonathan MacDonald – Director de IA Responsable en la Secretaría del Consejo del Tesoro del Gobierno Federal de Canadá
- Olaf Schoelink – Alto funcionario de políticas del Ministerio de Asuntos Internos y Relaciones del Reino del Gobierno de los Países Bajos
- Marlena Wisniak – Directora Jurídica Senior del Centro Europeo de Derecho de las Organizaciones sin Fines de Lucro (ECNL)
- Directiva de Canadá sobre la toma de decisiones automatizada y las evaluaciones de impacto algorítmico.
- Canadá tiene un requisito obligatorio Herramienta de evaluación del impacto algorítmico (AIA), que apoya la implementación del plan federal de Canadá Directivas sobre la toma de decisiones automatizada. El Consejo del Tesoro está mejorando la herramienta para hacerla más fácil de usar, adaptándola a las nuevas capacidades de la IA generativa y brindando mayor flexibilidad a los sistemas de bajo impacto para fomentar el cumplimiento.
- El enfoque de los Países Bajos en materia de transparencia y evaluaciones de impacto.
- Del país registro de algoritmoLa plataforma, que cuenta con más de 1,300 algoritmos publicados por 326 organizaciones gubernamentales, registra las evaluaciones de impacto realizadas para cada sistema. Hasta la fecha, se han realizado 500 tipos diferentes de evaluaciones de impacto, de las cuales 304 son Evaluaciones de Impacto en la Protección de Datos (EIPD). Además, los Países Bajos han diseñado su propia evaluación de impacto para los derechos humanos y los algoritmos.
- Guía de ECNL para las evaluaciones de impacto sobre los derechos fundamentales
- Este ECNL guíaLa guía, elaborada en colaboración con el Instituto Danés de Derechos Humanos, se redactó en el contexto de las Evaluaciones de Impacto en los Derechos Fundamentales. Si bien estas evaluaciones son obligatorias en virtud de la Ley de IA de la UE, la guía se basa en los Principios Rectores de las Naciones Unidas sobre las Empresas y los Derechos Humanos, lo que la hace aplicable a nivel mundial. La guía de ECNL anima a los responsables de la implementación a planificar tanto los escenarios típicos como los peores.
Marzo 2025
Sobre Nosotros
En marzo, la Red de Algoritmos Abiertos se relanzó con un grupo de funcionarios gubernamentales que discutieron la transparencia algorítmica.
La transparencia de los algoritmos y sistemas de IA del sector público puede lograrse en dos niveles. El primero es sistémico, donde el sistema en su conjunto se vuelve transparente, por ejemplo, mediante registros de algoritmos, documentación técnica como hojas de datos y tarjetas de modelos, o la publicación del código fuente, los datos o los modelos del sistema algorítmico.
La segunda es individual, y busca brindar transparencia y explicaciones específicas a las personas sujetas a la toma de decisiones algorítmica. Estas prácticas pueden adoptar diversas formas, desde la notificación del uso de un algoritmo hasta explicaciones individuales de un resultado específico. Se trata de formas de "protección procesal" destinadas a responder a las preocupaciones sobre equidad y rendición de cuentas que plantean los sistemas algorítmicos. También pueden contribuir a la transparencia sistémica, al aumentar la concienciación sobre el uso de sistemas algorítmicos e IA en el sector público.