Descripción de la reforma Esta acción busca desarrollar una Guía de Buenas Prácticas para la Transparencia Algorítmica y Explicabilidad de Decisiones Automatizadas, a través de un proceso de co-creación con personal del sector público, academia, sociedad civil y especialistas en Inteligencia Artificial. La guía reunirá principios, recomendaciones y metodologías para lograr la apertura y explicabilidad de los algoritmos utilizados en la gestión pública del Gobierno de la Ciudad Autónoma de Buenos Aires (GCBA). Posteriormente, se elaborará un curso de formación utilizando la Guía como un recurso pedagógico con el fin de capacitar y concientizar al personal del GCBA sobre los criterios de transparencia algorítmica y el uso de Inteligencia Artificial en el sector público.

Problema(s) abordado por la reforma El creciente uso e implementación de algoritmos y herramientas de Inteligencia Artificial (IA) en diversas áreas, especialmente en el sector público por su impacto en la prestación de servicios, exige estándares claros de transparencia y rendición de cuentas. La integración de los principios de Gobierno Abierto, particularmente la rendición de cuentas y la transparencia activa, contribuye a disminuir la opacidad en la toma de decisiones automatizadas. La Ciudad Autónoma de Buenos Aires se destaca como pionera en garantizar políticas de acceso a la información pública implementando la Ley 104 de Acceso a la Información Pública desde 1998. Además, cuenta con una trayectoria amplia en el impulso de la agenda de gobierno abierto, consolidada en tres Planes de Acción desarrollados en el marco del Programa Local de la Alianza para el Gobierno Abierto, y se proyecta un nuevo plan para 2025. En este contexto, se busca aplicar esa experiencia a los nuevos desafíos que plantea el avance de la Inteligencia Artificial. Sin embargo, en muchos casos, los equipos responsables carecen de guías o recursos especializados que sistematicen la información para la evaluación y auditoría de estos sistemas. Asimismo, la disponibilidad de información técnica accesible sigue siendo limitada, lo que dificulta tanto su monitoreo como la comunicación efectiva con la ciudadanía. Fortalecer las capacidades institucionales y avanzar en la creación de marcos normativos y operativos para la explicabilidad y la participación resulta fundamental para consolidar un uso más transparente, confiable y equitativo de estas tecnologías en el ámbito público.

Esta acción representa un paso significativo para atender la problemática abordada anteriormente porque busca establecer lineamientos claros para la transparencia y explicabilidad de la Inteligencia Artificial y de los algoritmos en el sector público. Ello favorece mecanismos de transparencia, supervisión y control ciudadano que promuevan un uso ético y responsable de la tecnología en la toma de decisiones gubernamentales. En particular, este compromiso establece un marco de buenas prácticas para la transparencia algorítmica en la Ciudad Autónoma de Buenos Aires, con el fin de impulsar un uso responsable de la Inteligencia Artificial en la administración pública, convergiendo las agendas de Acceso a la Información y de Gobierno Abierto. Además, la implementación de un curso de capacitación da lugar a la institucionalización y concientización de estos conocimientos dentro del personal del Gobierno de la Ciudad Autónoma de Buenos Aires (GCBA), lo que contribuye a la sostenibilidad y mejoras continuas en la gobernanza de algoritmos.

Relevancia para los valores de OGP Transparencia: La transparencia en el uso de algoritmos en la gestión pública es un principio reconocido internacionalmente y esencial para generar confianza en el uso de la inteligencia artificial. La falta de acceso a información clara sobre su funcionamiento puede generar desconfianza y aumentar el riesgo de sesgo en decisiones automatizadas. Por ello, se busca que los algoritmos gubernamentales sean comprensibles y accesibles para el público, en línea con los estándares globales de IA responsable.

Rendición de cuentas: Este compromiso propone establecer herramientas y metodologías para garantizar el monitoreo ciudadano sobre el uso de algoritmos en el sector público. Además, la difusión de una guía y un curso de formación permitirán que el personal integre criterios de rendición de cuentas en el desarrollo e implementación de la Inteligencia Artificial. La explicabilidad de los algoritmos y la aplicación de buenas prácticas contribuyen a una rendición de cuentas efectiva.

Participación cívica: La colaboración de diversos actores en la gobernanza algorítmica es fundamental para fortalecer la confianza pública en la Inteligencia Artificial. Involucrar a la sociedad civil, la academia y especialistas en la co-creación de la guía garantiza que los lineamientos sean inclusivos y reflejen las necesidades y preocupaciones de los distintos sectores.

Resultados previstos Al concluir el proyecto se espera haber consolidado y difundido una guía abierta que establezca buenas prácticas para la transparencia y explicabilidad de algoritmos en la gestión pública desarrollada mediante un proceso de co-creación con servidores públicos, academia, sociedad civil y especialistas en IA. Este trabajo implicará el fortalecimiento de capacidades técnicas y metodológicas en la evaluación y uso responsable de sistemas de inteligencia artificial, lo cual contribuirá a reducir la opacidad en la toma de decisiones automatizadas y promoverá una cultura de ética y rendición de cuentas en el sector público. Además, la experiencia acumulada se proyecta como un modelo replicable y escalable, que permite generar un precedente que pueda ser adoptado en otras jurisdicciones y contextos, y promover una mayor participación ciudadana y un debate continuo en torno a la transparencia algorítmica.

Hitos Fase de diagnóstico y mapeo: Realización de un análisis situacional para identificar actores clave, desafíos y oportunidades en materia de transparencia algorítmica. Esta fase incluye un relevamiento de experiencias internacionales, un mapeo del uso actual de sistemas automatizados de toma de decisión en el sector público, y la creación de una mesa de trabajo entre las distintas áreas del Gobierno de la Ciudad de Buenos Aires comprendidas en esta temática junto a una sociedad civil y especialistas.

Co-creación y elaboración de la guía: Desarrollo del contenido mediante talleres colaborativos y consultas con especialistas para definir las buenas prácticas y recomendaciones técnicas en materia de transparencia algorítmica y uso responsable de sistemas de toma de decisión automatizada.

Armado y publicación de capacitación: Desarrollo de un curso para personal del Gobierno de la Ciudad de Buenos Aires con contenido sobre la Guía desarrollada, transparencia algorítmica, explicabilidad e implementación responsable de algoritmos. 

Difusión y retroalimentación: Implementación de una estrategia de comunicación para dar a conocer la guía, acompañada de mecanismos para recoger comentarios y mejorar el documento de forma iterativa en base a la retroalimentación de áreas de gobierno, de la sociedad civil y especialistas.

¿Está involucrada la sociedad civil?

Sí, la sociedad civil participará activamente en la cocreación de la guía, aportando recomendaciones y revisando los estándares propuestos.