Observatoire sur l'utilisation gouvernementale de l'intelligence artificielle (UY0143)

¿Cuál es la problemática que el compromiso aborda? Las soluciones basadas in Inteligencia Artificial (IA) se han convertido en una herramienta indispensable para el desarrollo y prestación de servicios digitals para la ciudadanía. A través de su implementación, se puede potenciar la transformación digital en el Estado. No obstante, estas soluciones presentan desafíos y riesgos que pueden traducirse en consecuencias no deseables para tomadores de decisiones basadas en esta tecnología, generando resultados imprevisibles o inesperados. Debido a la naturaleza compleja de las soluciones de IA, estos resultados pueden incluso parecer opacos debido a la dificultad para explicarlos. Par ailleurs, il existe une demande de différents acteurs de la société concernant l'ouverture de la participation et l'accès à une information sur les applications d'intelligence artificielle dans l'état, ce qui est orienté vers une garantie de respect de l'usage ético y responsable, tal como reducir la posibilidad de sesgos no deseados en datos y modelos utilizados en aplicación de Inteligencia Artificial, entre otros aspectos relevantes.

¿Cuál es el compromiso ? Créer un Observatorio de Inteligencia Artificial en el Estado que promueva y fomente el uso ético, responsable, seguro y confiable de esta tecnología, y fortalezca el ecosistema de inteligencia artificial en Uruguay.

¿Cómo contribuirá un résolveur la problemática? La création d'un Observatorio de Inteligencia Artificial en el Estado, aportará al dar respuesta a la problemática plantada, en tanto tiene como objectivos: a) implementar un espacio abierto de intercambio entre diferentes actores, b) generar recomendaciones, criterios y principios para el uso de IA en el Estado y transparencia de los algoritmos, integrando aportes de diferentes actores yc) brindar información sobre los avances del uso de IA en los distintos ámbitos del Estado, publicando casos de uso que permitan a las personas interesadas tener información actualizada. Asimismo, se propone diseñar los procesos necesarios que den sostenibilidad a la iniciativa. Estos objetivos están orientados a impulsar la transparencia del uso de IA en el Estado, y contribuir a la generación de confianza y la mitigación de los riesgos identificados que la tecnología presenta, habilitando el control social del uso de Inteligencia Artificial en el Estado, sobre la base del marco de su uso ético y responsable. Par ailleurs, el Observatorio permitirá avanzar en algunos de los objetivos plantados en el marco de la Estrategia de Inteligencia Artificial para el Gobierno Digital, que buscan : Impulsar un ámbito de discusión sobre el uso de la IA en el Estado, generar capacidades y favorecer une culture d'investigation en IA. Generar un marco de referencia que contribuya a su implementación contemplando entre otros : actores (tales como públicos, privados, academia, sociedad civil), roles y responsabilidades, normas, procedimientos y mecanismos de toma de decisión, así como indicadores sobre performance y pautas para el analisis de impacto. Promover la transparencia activa, el cumplimiento de los principios y valores éticos.

¿Por qué es relevante a los valores de OGP? Con este compromiso se contribuye a impulsar aciones en el Estado orientadas a aumentar la transparencia, la apertura y la supervisión del uso de sistemas de toma de decisiones automatizados in el sector público, así como a generar un espacio cívico de participation donde diferentes actores pueden realizar portes.

Información adicional Este compromiso está alineado a los objectivos establecidos in the Estrategia de Inteligencia Artificial para el Gobierno Digital, come marco sostenible al mismo. Esta estrategia surgió como herramienta para la transformación digital que se desarrolla con el propósito de promover y fortalecer su uso responsable in la Administración Pública. Consta de 9 principios generales, 4 pilares basices, 8 objets y líneas de acción que facilityn y fomenten el uso responsable de esta tecnología en el ámbito público. La estrategia cuenta con un enfoque holístico que integra diferentes perspectivas sobre cómo abordar el desafío. Los principios y el documento fueron sometidos a proceso de consulta pública, a partir del cual se incorporaron aportes y mejoras.

Metas y/o principales hitos Hitos con fechas verificables Fecha de inicio Fecha de término Espacios de intercambio con diferentes sectores interesados ​​para desarrollar recomendaciones, criterios y estándares técnicos que permitan abordar el uso responsable, seguro y confiable de tecnologías de IA en el Estado. Mayo 2022 Junio ​​2024 Desarrollar criterios and recomendaciones para las Instituciones públicas que den pautas para la transparencia de Algoritmos en las aplicaciones de uso de IA en el Estado, en sinergia con la normativa vigente en materia de Transparencia y Acceso a la Información Pública. Setiembre 2022 Setiembre 2023 Promoteur el uso de la tecnología de IA en beneficio de la población contemplando aspects de ética, privacidad, responsabilidad, transparencia y no discriminación ; y publicar casos de uso de IA en el Estado. Juin 2022 Juin 2023 Puesta en marcha del Observatorio de IA en el Estado, incluyendo lineamientos, y casos de uso. Octobre 2023 Juin 2024

Examen du plan d'action

Compromis 6. Observatorio de uso de Inteligencia Artificial en el Estado

● Vérifiable : Sí

● ¿Tiene un enfoque de gobierno abierto ? Si

● Potentiel de résultats : substantiel

Agencia de Gobierno Electrónico y Sociedad de la Información y del Conocimiento (Agesic) et la Unidad de Acceso a la Información Pública (UAIP).

Para una descripción completa del compromiso, ingresar al siguiente vínculo : https://tinyurl.com/2p8enmb9

Contexte et objets :

La Inteligencia Artificial (IA) es un terme que se utiliza para un campo de estudio y un conjunto de tecnologías que estudian y desarrollan sistemas capaces de realizar tareas que se atribuyen a la inteligencia humana. Cada vez más se utiliza la IA en aplicaciones en los teléfonos celulares, algoritmos en las redes sociales, automóviles sin conductor y traductores en tiempo real, entre otras utilidades. Las soluciones en aplicaciones de IA también se han convertido en una herramienta clave para el desarrollo y prestación de servicios digitals para la ciudadanía.

Este compromiso tiene como objetivo "Crear un observatorio de inteligencia artificial en el Estado que promueva y fomente el uso ético, responsable, seguro y confiable de esta tecnología y fortalezca el ecosistema de inteligencia artificial en Uruguay" .

El compromiso est alineado a los objetivos establecidos in la Estrategia de Inteligencia Artificial para el Gobierno Digital que fue aprobada en 2020. La estrategia surgió como una herramienta para la transformación digital con el propósito de promover y fortalecer el uso responsable de la IA en la administración pública. Ésta integra diferentes perspectivas sobre cómo abordar el desafío y consta de nueve principios generales, cuatro pilares basices y ocho objetivos y líneas de acción que fueron sometidos a un proceso de consulta pública.

Uno de los pilares basices de la estrategia es la transparencia y establece que, para que este pilar sea sólido, se deben tener en cuenta dos cuestiones basices : "Poner a disposición los algoritmos y datos utilizados para el entrenamiento de la solución y su puesta en práctica, así como las pruebas y validaciones realizadas » et « Visibilizar explícitamente, a través de mecanismos de transparencia activa, todos aquellos procesos que utilicen IA, ya sea en la generación de servicios públicos o en el apoyo a la toma de decisiones ».

Las metas principales de este compromiso son generar espacios de intercambio con diferentes sectores interesados ​​para desarrollar recomendaciones, criterios y estándares técnicos ; définir les critères et les recommandations concernant la transparence des algorithmes et les applications de l'utilisation de l'IA dans l'état ; promover el uso de la tecnología de IA en beneficio de la población contemplando aspects de ética, privacidad, responsabilidad, transparencia y no discriminación y puesta en marcha del observatorio de IA en el Estado, incluyendo lineamientos y casos de uso.

El compromiso es relevante a los valores de OGP de transparencia y acceso a la información y de participación ciudadana. En temas de transparencia, preparará y publicará información explicativa de distintos casos de uso de la IA en ámbitos del Estado en formatos adecuados para la ciudadanía. En lo que refiere a la participación cívica, el compromiso creará un ámbito permanent de seguimiento conformado por representantes de diversos sectores, qu'acompañarán todo el proceso de desarrollo y puesta en marcha del observatorio.

Potentiel pour les résultats : Sustancial

La tecnología y la IA han adquirido un rol extremement importante en la vida de las personas, influyendo diariamente en la forma en la que se communican, interactúan o trabajan, en cómo se educa o cómo se proveen servicios de salud, entre otros temas. La transparence de la IA, qu'implica su "explicabilidad" o comprensión sencilla, permite senseer por qué un algoritmo toma una decisión, o por qué una clasificación o predicción se hace de una manera u otra. En el ambiente gubernamental esto es sumamente important para poder saber, por ejemplo, por qué se le está dando un beneficio a una persona y no a otra .

C’est la première fois que le thème de l’IA est inclus dans un plan de gouvernement ouvert de l’Uruguay. De l'avis de ce qui a été manifesté par l'une des personnes référentes du projet consulté pour cette information , l'évolution de la IA en el ámbito público ha llevado a prestar especial atención a aspectos como la transparencia, uso ético y responsable de la tecnología y reducir la posibilidad de sesgos no deseados en los modelos de usos de datos. « Estos aspectos se venían trabajando a nivel más que nada del área tecnológica, pero dada la trascendencia que el tema está tomando a nivel nacional y regional se decidió vincularlo con el área de gobierno abierto. Es hora de darle otra mirada, no sólo la tecnológica, sino una mirada más amplia, más de cara a la ciudadanía” .

Asimismo, la persona manifestó que se había pensado en la creación de un modelo de gobernanza de IA, pero se dieron cuenta que en lugar de sacar una segunda versión de la estrategia, podían incorporar un compromiso en el plan de gobierno abierto y ejecutar ambas iniciativas en parallèle. Algunos de los compromisos de la estrategia benefician al compromiso y viceversa.

Las acciones propuestas en el marco de este compromiso son lo suficientemente específicas para verificar su cumplimiento objetivamente. De ser cumplido en su totalidad, el compromiso permitirá un advance sustancial en la transparencia del uso de la IA en el ámbito gubernamental. El observatorio dará mayor alcance a la Estrategia de Inteligencia Artificial para el Gobierno Digital en materia de transparencia y lo acercará a la ciudadanía. Pondrá a disposición una herramienta donde se publicarán casos que ayudarán a la ciudadanía a entender cómo se utilizan los algoritmos para la toma de decisiones. Además, se elaborarán pautas que permitirán a los organizations preparar la información de forma adecuada para la ciudadanía. Asimismo, se busca ir más allá del ámbito público convocando a otros actores en un ámbito de seguimiento y monitoreo durante todo el proceso de creación y puesta en marcha del observatorio. En la estrategia se involucraron otros actores, pero sólo durante el proceso de elaboración, pues no hubo un grupo que acompañara todo el proceso como se plantea en este compromiso.

Opportunités, défis et recommandations lors de la mise en œuvre

Grâce aux informations récupérées, vous pouvez établir que ce compromis surgit à un moment très opportun. Par conséquent, il existe un créateur intéressé par le thème dans tous les domaines d'activité et parce que chaque jour est la plus grande influence que l'IA a sur la vie quotidienne des personnes.