Observatorio sobre el Uso Gubernamental de la Inteligencia Artificial (UY0143)

¿Cuál es la problemática que el compromiso aborda? Las soluciones basadas en Inteligencia Artificial (IA) se han convertido en una herramienta indispensable para el desarrollo y prestación de servicios digitales para la ciudadanía. A través de su implementación, se puede potenciar la transformación digital en el Estado. No obstante, estas soluciones presentan desafíos y riesgos que pueden traducirse en consecuencias no deseables para tomadores de decisiones basadas en esta tecnología, presentando resultados imprevisibles o inesperados. Debido a la naturaleza compleja de las soluciones de IA, estos resultados pueden incluso parecer opacos debido a la dificultad para explicarlos. Por otra parte, existe demanda de diferentes actores de la sociedad respecto a la apertura a la participación y al acceso a información sobre aplicaciones de inteligencia artificial en el Estado, lo que está orientado a dar garantías respecto a su uso ético y responsable, tal como Reducir la posibilidad de sesgos no deseados en datos y modelos utilizados en aplicación de Inteligencia Artificial, entre otros aspectos relevantes.

¿Cuál es el compromiso? Crear un Observatorio de Inteligencia Artificial en el Estado que promueva y fomente el uso ético, responsable, seguro y confiable de esta tecnología, y fortalezca el ecosistema de inteligencia artificial en Uruguay.

¿Cómo contribuirá a resolver la problemática? La creación de un Observatorio de Inteligencia Artificial en el Estado, aportará al dar respuesta a la problemática planteada, en tanto tiene como objetivos: a) implementar un espacio abierto de intercambio entre diferentes actores, b) generar recomendaciones, criterios y principios para el uso de IA en el Estado y transparencia de los algoritmos, integrando aportes de diferentes actores yc) brindar información sobre los avances del uso de IA en los distintos alrededores del Estado, publicando casos de uso que permiten a las personas interesadas tener información actualizada. Asimismo, se propone diseñar los procesos necesarios que den sostenibilidad a la iniciativa. Estos objetivos están orientados a impulsar la transparencia del uso de IA en el Estado, y contribuir a la generación de confianza y la mitigación de los riesgos identificados que la tecnología presenta, habilitando el control social del uso de Inteligencia Artificial en el Estado, sobre la base del marco de su uso ético y responsable. Por otra parte, el Observatorio permitirá avanzar en algunos de los objetivos planteados en el marco de la Estrategia de Inteligencia Artificial para el Gobierno Digital, que buscan: Impulsar un ámbito de discusión sobre el uso de la IA en el Estado, generar capacidades y favorecer una cultura de investigación en IA. Generar un marco de referencia que contribuya a su implementación contemplando entre otros: actores (tales como públicos, privados, academia, sociedad civil), roles y responsabilidades, normas, procedimientos y mecanismos de toma de decisión, así como indicadores sobre performance y pautas para el analisis de impacto. Promover la transparencia activa, el cumplimiento de los principios y valores éticos.

¿Por qué es relevante a los valores de OGP? Con este compromiso se contribuirá a impulsar acciones en el Estado orientado a aumentar la transparencia, la apertura y la supervisión del uso de sistemas de toma de decisiones automatizadas en el sector público, así como a generar un espacio cívico de participación donde diferentes actores pueden realizar aportes.

Información adicional Este compromiso está alineado a los objetivos establecidos en la Estrategia de Inteligencia Artificial para el Gobierno Digital, como marco sostenible al mismo. Esta estrategia surgió como herramienta para la transformación digital que se desarrolla con el propósito de promover y fortalecer su uso responsable en la Administración Pública. Consta de 9 principios generales, 4 pilares fundamentales, 8 objetivos y líneas de acción que facilitan y fomentan el uso responsable de esta tecnología en el ámbito público. La estrategia cuenta con un enfoque holístico que integra diferentes perspectivas sobre cómo abordar el desafío. Los principios y el documento fueron sometidos a un proceso de consulta pública, a partir del cual se incorporaron aportes y mejoras.

Metas y/o hitos principales Hitos con fechas verificables Fecha de inicio Fecha de término Generar espacios de intercambio con diferentes sectores interesados ​​para desarrollar recomendaciones, criterios y estándares técnicos que puedan abordar el uso responsable, seguro y confiable de tecnologías de IA en el Estado. Mayo 2022 Junio ​​2024 Desarrollar criterios y recomendaciones para las Instituciones públicas que den pautas para la transparencia de Algoritmos en las aplicaciones de uso de IA en el Estado, en sinergia con la normativa vigente en materia de Transparencia y Acceso a la Información Pública. Setiembre 2022 Setiembre 2023 Promover el uso de la tecnología de IA en beneficio de la población contemplando aspectos de ética, privacidad, responsabilidad, transparencia y no discriminación; y publicar casos de uso de IA en el Estado. Junio ​​2022 Junio ​​2023 Puesta en marcha del Observatorio de IA en el Estado, incluyendo lineamientos, y casos de uso. Octubre 2023 Junio ​​2024

Revisión del plan de acción

Compromiso 6. Observatorio de uso de Inteligencia Artificial en el Estado

● Verificable: Sí

● ¿Tiene un enfoque de gobierno abierto? Si

● Potencial de resultados: Sustancial

Agencia de Gobierno Electrónico y Sociedad de la Información y del Conocimiento (Agesic) y la Unidad de Acceso a la Información Pública (UAIP).

Para una descripción completa del compromiso, ingrese al siguiente enlace: https://tinyurl.com/2p8enmb9

Contexto y objetivos:

La Inteligencia Artificial (IA) es un término que se utiliza para un campo de estudio y un conjunto de tecnologías que estudian y desarrollan sistemas capaces de realizar tareas que se atribuyen a la inteligencia humana. Cada vez más se utiliza la IA en aplicaciones en los teléfonos celulares, algoritmos en las redes sociales, automóviles sin conductor y traductores en tiempo real, entre otras utilidades. Las soluciones en aplicaciones de IA también se han convertido en una herramienta clave para el desarrollo y prestación de servicios digitales para la ciudadanía.

Este compromiso tiene como objetivo “Crear un observatorio de inteligencia artificial en el Estado que promueva y fomente el uso ético, responsable, seguro y confiable de esta tecnología y fortalezca el ecosistema de inteligencia artificial en Uruguay” [ 1 ].

El compromiso está alineado a los objetivos establecidos en la Estrategia de Inteligencia Artificial para el Gobierno Digital [ 2 ] que fue aprobada en 2020. La estrategia surgió como una herramienta para la transformación digital con el propósito de promover y fortalecer el uso responsable de la IA en la administración pública. Éstas integran diferentes perspectivas sobre cómo abordar el desafío y consta de nueve principios generales, cuatro pilares fundamentales y ocho objetivos y líneas de acción que fueron sometidos a un proceso de consulta pública.

Uno de los pilares fundamentales de la estrategia es la transparencia y establece que, para que este pilar sea sólido, se deben tener en cuenta dos cuestiones fundamentales: “Poner a disposición los algoritmos y datos utilizados para el entrenamiento de la solución y su puesta en práctica, así como las pruebas y validaciones realizadas” y “Visibilizar cleanmente, a través de mecanismos de transparencia activa, todos aquellos procesos que utilicen IA, ya sea en la generación de servicios públicos o en el apoyo a la toma de decisiones”. [ 3 ]

Las metas principales de este compromiso son generar espacios de intercambio con diferentes sectores interesados ​​para desarrollar recomendaciones, criterios y estándares técnicos; desarrollar criterios y recomendaciones sobre la transparencia de algoritmos en las aplicaciones de uso de IA en el Estado; promover el uso de la tecnología de IA en beneficio de la población contemplando aspectos de ética, privacidad, responsabilidad, transparencia y no discriminación y puesta en marcha del observatorio de IA en el Estado, incluyendo lineamientos y casos de uso.

El compromiso es relevante a los valores de OGP de transparencia y acceso a la información y de participación ciudadana. En temas de transparencia, preparará y publicará información explicativa de distintos casos de uso de la IA en proximidad del Estado en formatos adecuados para la ciudadanía. En lo que se refiere a la participación cívica, el compromiso creará un ámbito permanente de seguimiento conformado por representantes de diversos sectores, que acompañarán todo el proceso de desarrollo y puesta en marcha del observatorio.

Potencial para resultados: Sustancial

La tecnología y la IA han adquirido un rol extremadamente importante en la vida de las personas, influyendo diariamente en la forma en la que se comunican, interactúan o trabajan, en cómo se educan o cómo se brindan servicios de salud, entre otros temas. La transparencia de la IA, que implica su “explicabilidad” o comprensión sencilla, permite entender por qué un algoritmo toma una decisión, o por qué una clasificación o predicción se hace de una manera u otra. En el ambiente gubernamental esto es sumamente importante para poder saber, por ejemplo, por qué se le está dando un beneficio a una persona y no a otra [ 4 ].

Ésta es la primera vez que el tema de la IA se incluye en un plan de gobierno de abierto de Uruguay. De acuerdo con lo manifestado por una de las personas referentes del proyecto consultado para este informe [ 5 ], la evolución de la IA en el ámbito público ha llevado a prestar especial atención a aspectos como la transparencia, el uso ético y responsable de la tecnología y reducir la posibilidad de sesgos no deseados en los modelos de usos de datos. “Estos aspectos se vienen trabajando a nivel más que nada del área tecnológica, pero dada la trascendencia que el tema está tomando a nivel nacional y regional se vincularlo con el área de gobierno abierto. Es hora de darle otra mirada, no sólo la tecnológica, sino una mirada más amplia, más de cara a la ciudadanía” [ 6 ].

Asimismo, la persona manifestó que se había pensado en la creación de un modelo de gobernanza de IA, pero se dio cuenta de que en lugar de sacar una segunda versión de la estrategia, pudo incorporar un compromiso en el plan de gobierno abierto y ejecutar ambas iniciativas en paralelo. Algunos de los compromisos de la estrategia se benefician al compromiso y viceversa.

Las acciones propuestas en el marco de este compromiso son lo suficientemente específicas para verificar su cumplimiento objetivamente. De ser cumplido en su totalidad, el compromiso permitirá un avance sustancial en la transparencia del uso de la AI en el ámbito gubernamental. El observatorio dará mayor alcance a la Estrategia de Inteligencia Artificial para el Gobierno Digital en materia de transparencia y lo acercará a la ciudadanía. Pondrá a disposición una herramienta donde se publicarán casos que ayudarán a la ciudadanía a entender cómo se utilizan los algoritmos para la toma de decisiones. Además, se elaborarán pautas que permitirán a los organismos preparar la información de forma adecuada para la ciudadanía. Asimismo, se busca ir más allá del ámbito público convocando a otros actores en un ámbito de seguimiento y monitoreo durante todo el proceso de creación y puesta en marcha del observatorio. En la estrategia se involucraron otros actores, pero sólo durante el proceso de elaboración, pues no hubo un grupo que acompañara todo el proceso como se plantea en este compromiso.

Oportunidades, desafíos y recomendaciones durante la implementación

De acuerdo con la información recabada, se puede establecer que este compromiso surja en un momento muy oportuno. Por un lado, porque existe un creciente interés en el tema en todos los alrededores de actividad y porque cada día es mayor la influencia que la IA tiene en la vida cotidiana de las personas.