Inclusión y derechos en la inteligencia artificial (IT0086)

Problema abordado:

La inteligencia artificial (IA) es un agente de cambio social que produce impactos significativos, aunque no siempre visibles o comprendidos, en nuestros comportamientos y pronostica efectos futuros aún más sustanciales que podrían ser beneficiosos y altamente riesgosos. "La forma en que interactuamos con la IA determinará el mundo en el que vivimos", es una afirmación clave de la comunicación de la Comisión Europea al Parlamento Europeo, "Inteligencia artificial para Europa", en la que se anuncia el desarrollo de la Ley de IA, una de las primeras leyes del mundo que regula el desarrollo y uso de sistemas de IA. Como documento estratégico nacional, el Plan Nacional de Recuperación y Resiliencia (PNRR) también prevé el uso de sistemas de IA en diversas medidas políticas. En este contexto, es necesario promover y mejorar evaluaciones de impacto ex ante específicas sobre las aplicaciones de la IA, equilibrando los perfiles técnicos con la protección de los derechos fundamentales. Esto contribuirá a que las medidas del PNRR relativas a la ciberseguridad, la ley anual de competencia, el programa nacional de gestión de residuos y la adopción del plan Escuela 4.0 sean más efectivas y equitativas. Todo sistema de IA corre el riesgo de crear o amplificar discriminaciones debido a sesgos inherentes a los conjuntos de datos y, en consecuencia, a los algoritmos utilizados. Por lo tanto, es esencial analizar periódicamente los posibles sesgos en los sistemas de IA para identificar y mitigar los riesgos relacionados. Las políticas regulatorias que el Gobierno italiano está definiendo sobre el tema, comenzando con el proyecto de ley "Disposiciones y Delegaciones al Gobierno sobre Inteligencia Artificial", deben desarrollarse con la participación de todas las partes interesadas (expertos en el campo, organismos de investigación), incluidas las administraciones públicas, las organizaciones de la sociedad civil y los ciudadanos. El objetivo es enriquecer el proceso de evaluación y fortalecer el marco regulatorio para garantizar decisiones más justas y confiables por parte de quienes utilizan sistemas de IA.

Descripción del compromiso:

Para implementar este compromiso de manera efectiva, se ha decidido colaborar con el programa Acelerador de Innovaciones Democráticas ofrecido por People Powered. Este programa proporciona tutoría y recursos para fortalecer la participación cívica en la definición y gobernanza de políticas públicas en Europa. Promovido por el OGP IT Community Participation Hub, el proceso participativo sobre "Riesgos y oportunidades de la inteligencia artificial para mejorar la equidad y la inclusión" tiene como objetivo iniciar una discusión deliberativa nacional basada en los principios de gobierno abierto. Los principales resultados esperados incluyen: fortalecimiento de habilidades para implementar y gestionar procesos participativos; mapeo de prácticas, con especial atención a los sesgos de género, intergeneracionales e interseccionales; la definición compartida de principios éticos para el uso de IA; y la formulación de recomendaciones sobre la inclusión de datos y algoritmos en IA, que se entregarán a los organismos nacionales pertinentes. Estas recomendaciones también se transmitirán a otras regiones a través de la Región de Puglia, cocoordinadora de la comunidad temática "datos e IA" dentro de la Comisión ITD de la Conferencia de Regiones, y se compartirán dentro del Centro de Competencia Regional sobre Inteligencia Artificial en AP, establecido por la Región de Puglia en octubre de 2023.

¿Cómo abordará el compromiso el problema?

Este compromiso abrirá espacios para la participación de la sociedad civil para crear conciencia sobre los riesgos relacionados con la IA.
y codiseñar sistemas de IA utilizados por las administraciones públicas. La colaboración con People Powered permitirá
el desarrollo de un plan de acción impulsado por el Hub de Participación que sea potencialmente de interés para
la comunidad de TI de OGP. Esta oportunidad centra la atención en un tema de gran actualidad y relevancia, utilizando
proceso participativo como medio para involucrar a toda la Comunidad. Este enfoque promueve la visibilidad del Centro de Participación y fortalece las relaciones dentro de la Comunidad, involucrando a los menos activos.
La iniciativa permitirá reflexionar sobre las implicaciones éticas y sociales de la IA y producir resultados valiosos y cocreados a nivel nacional. El programa es crucial para Italia a la hora de abordar las discriminaciones existentes contra las mujeres, los jóvenes y otros grupos, así como las que pueden surgir del uso de tecnologías y sistemas de IA que se difunden tanto en el sector privado como en el público. Al involucrar a toda la Comunidad, compuesta por unas 100 organizaciones (dos tercios de las cuales representan a la sociedad civil), el compromiso puede sentar las bases para un uso consciente y justo de la IA por parte de las administraciones públicas y una mayor participación de la sociedad civil en el seguimiento de los posibles riesgos y la discriminación.

¿Por qué el compromiso es relevante para los valores de OGP?

El OGP invita a identificar reformas y acciones ambiciosas en materia de gobernanza digital, reflexionando sobre el impacto de las tecnologías en los derechos humanos. Proteger los derechos de todos requiere que la reflexión sobre IA involucre a un público amplio que a menudo queda excluido de las decisiones políticas. En este sentido, el compromiso se apalanca en el “Decálogo de IA, Directrices prácticas para el uso de IA en las Administraciones Públicas”, impulsado por AGID, y el Plan Trienal de TI para la Administración Pública, que establece principios para la transición digital de la administración pública, como la inclusividad y accesibilidad de los servicios, los enfoques centrados en el usuario y la apertura del software como primera opción, que debe garantizarse en todas las actividades y la creación de plataformas y aplicaciones públicas. Este enfoque incluye el diseño universal, la accesibilidad integrada y la adopción de políticas, regulaciones y procesos de capacitación y comunicación que promuevan la equidad en el acceso y uso de la tecnología. El compromiso es relevante ya que se centra en la identificación de oportunidades y riesgos de la IA y tiene como objetivo potenciar el papel y la contribución de la Comunidad de TI de OGP, compuesta por un centenar de organizaciones, en materia de derechos. También busca establecer un diálogo con los actores gubernamentales responsables de definir las pautas de uso de la IA.

Descripción de las actividades y resultados:

Iniciar una fase de recopilación de estudios, información y datos para evaluar la difusión del uso de la IA tanto en el sector privado como en el público en Italia
Resultado: Informe a la OGF sobre los hallazgos (enero de 2025)
Participar en actividades de mentoría para representantes de organizaciones responsables de la
compromiso
Resultado: Diseño del proceso participativo “Riesgos y oportunidades de la Inteligencia Artificial para mejorar la equidad y la inclusión” (abril de 2025)
Organizar una reunión sobre el tema, abierta a la Comunidad.
Resultado: Orden del día de la reunión (febrero de 2025)
Iniciativas piloto para compartir herramientas desarrolladas por el Proyecto Aequitas y otras iniciativas europeas con las administraciones públicas interesadas (dentro y fuera de OGP IT) para proporcionar métodos prácticos para abordar y mitigar sesgos y diseñar nuevos sistemas de IA, aplicando prácticas y metodologías de equidad por diseño
Resultado: Documento de propuesta a las administraciones públicas para la participación piloto (diciembre 2025), Taller público para difundir y divulgar las herramientas identificadas (diciembre 2025)
Implementar y coordinar el proceso participativo con el apoyo de People Powered, involucrando a la Comunidad de TI de OGP y las redes activas dentro del Centro de Participación
Resultado: Informe sobre los resultados del proceso (enero de 2026)
Redacción participativa de recomendaciones al Gobierno sobre datos y algoritmos
Inclusión en IA y su promoción
Resultado: “Recomendaciones de la comunidad italiana de gobierno abierto sobre el uso de la inteligencia artificial” (mayo de 2026), Transmisión de las recomendaciones a los organismos nacionales pertinentes (mayo de 2026)