Desarrollar una inteligencia artificial responsable en el gobierno: una agenda práctica de reformas

La inteligencia artificial (IA) avanza rápidamente. La inversión aumenta, los gobiernos implementan sistemas en todos los servicios públicos y se lanzan nuevos modelos de IA con mayor potencia y sofisticación. El riesgo no solo reside en que las normas y regulaciones lleguen tarde, sino también en que la IA se integre en el Estado de forma opaca e irresponsable, casi imposible de desmantelar.

Antes de la Cumbre de impacto de la IA en la India esta semana, el Open Government PartnershipEl Open Government Partnership (OGP) es una iniciativa de múltiples partes interesadas enfocada en mejorar la transparencia del gobierno, garantizar oportunidades para la participación ciudadana en asuntos públicos y fortalecer... Más (OGP) está presentando un argumento claro: La gobernanza de la IA no es solo un conjunto de principios, es un conjunto necesario de reformas prácticas que los países pueden co-crear e implementar ahora.

La brecha: principios globales, implementación desigual

En los últimos años, se han producido avances significativos en los marcos internacionales para la IA responsable, gracias a las recomendaciones de OCDE y UNESCOPero muchos países aún necesitan convertir los compromisos de alto nivel en mecanismos operativos. Esto se traduce en normas claras de divulgación, salvaguardias aplicables en las contrataciones públicas, supervisión independiente y un enfoque significativo. participación públicaBrindar a los ciudadanos la oportunidad de contribuir a la toma de decisiones del gobierno conduce a una gobernanza más eficaz, una mejor prestación de servicios públicos y resultados más equitativos. Especificaciones técnicas....

Las consecuencias de equivocarse en esto son reales. Fallos de alto perfil, desde sistemas defectuosos de detección de fraude hasta sesgos en el reconocimiento facial, demuestran lo que sucede cuando se implementan sistemas automatizados sin garantías sólidas ni rendición de cuentas.

La propuesta de OGP: pasar de las normas a las reformas concretas

OGP es una alianza diseñada para ayudar a los países a traducir los valores del gobierno abierto en acciones nacionales. No creamos estándares. Pero a través de los compromisos de OGP y la Desafío de gobierno abiertoLos gobiernos nacionales y locales trabajan con la sociedad civil para cocrear reformas que tengan plazos determinados, sean mensurables y se evalúen de forma independiente.

El modelo de OGP se corresponde directamente con lo que más necesita la gobernanza de la IA en este momento:

• TransparenciaDe acuerdo con los Artículos de Gobernanza de OGP, la transparencia ocurre cuando "la información en poder del gobierno (incluidas las actividades y decisiones) es abierta, completa, oportuna y está disponible gratuitamente para el público... Más: El público sabe dónde se utiliza la IA, con qué propósito, con qué datos y quiénes son las partes responsables.
• Participación y inclusiónLos gobiernos participantes de OGP están trabajando para crear gobiernos que realmente sirvan a todas las personas. Los compromisos en este ámbito pueden abordar personas con discapacidad, mujeres y niñas, lesbianas, gays, bisexuales, tr... Más:Las comunidades afectadas y la sociedad civil dan forma a las reglas y las decisiones, no sólo los expertos técnicos o los proveedores.
• Rendición de cuentas y supervisión:verificaciones del despliegue, seguimiento del impacto y rutas de solución.
• Derechos humanosUna parte esencial del gobierno abierto incluye proteger las libertades y los derechos sagrados de todos los ciudadanos, incluidos los grupos más vulnerables, y responsabilizar a quienes violan los derechos humanos. T..., diversidad y equidad:La IA no amplifica la discriminación, no socava la privacidad ni erosiona la confianza en las instituciones públicas.

Prueba de que es posible: reformas ya en marcha en los países de la OGP

En todo el mundo, los reformadores en el gobierno y la sociedad civil ya están utilizando OGP para co-crear e implementar medidas prácticas para garantizar que la IA sea segura, ética y esté orientada a propósitos públicos.

Los ejemplos incluyen registros de IA del sector público y evaluaciones de impacto publicadas para toma de decisiones automatizadaA medida que los gobiernos recurren cada vez más a los algoritmos para respaldar la toma de decisiones para los servicios públicos, la transparencia y la responsabilidad del uso de algoritmos son necesarias para minimizar su daño y aumentar ... Más, mecanismos de gobernanza de múltiples partes interesadas y órganos de supervisión especializados. 

Las reformas abarcan una amplia gama de contextos, entre ellos:

• Canada:Las agencias que utilizan la toma de decisiones automatizada deben realizar y publicar evaluaciones de impacto antes de su implementación.
• Colombia:el desarrollo de un mecanismo de diálogo de múltiples partes interesadas para diseñar la gobernanza de la IA.
• Kenia:el establecimiento de un marco para una gobernanza inclusiva, segura y responsable de las tecnologías emergentes, centrándose en la IA.
• Nigeria: produjo un desafío de gobierno abierto ganador del premio compromisoLos compromisos de OGP son promesas de reforma creadas conjuntamente por los gobiernos y la sociedad civil y presentadas como parte de un plan de acción. Los compromisos suelen incluir una descripción del problema, una acción concreta... Fortalecer el marco jurídico para gobernanza digitalA medida que las tecnologías en evolución presentan nuevas oportunidades para que los gobiernos y los ciudadanos promuevan la apertura y la responsabilidad, los gobiernos participantes de OGP están trabajando para crear políticas que aborden el... Más mediante el establecimiento de un Mecanismo Nacional de Coordinación de Múltiples Partes Interesadas para transformación digitalLos gobiernos están trabajando para aumentar el acceso y la calidad de los servicios gubernamentales, mejorar la transparencia y crear oportunidades de participación mediante el uso de tecnologías de la información y las comunicaciones... Más y desarrollar una Política Nacional sobre Uso Ético, Seguro y Responsable de las Tecnologías Digitales.
• Uruguay:estableció un organismo de supervisión pública para el uso de IA por parte del gobierno.

Esto representa un cambio desde la adopción técnica cerrada de sistemas de IA en el sector público a Gobernanza de la IA públicamente responsable y participativa.

Una oferta global práctica: aprendizaje entre pares que apoya a los implementadores

La Cumbre de Impacto de la IA en India de esta semana incluirá numerosas conversaciones sobre seguridad, innovación y competitividad. Estas preguntas son importantes. Pero la gobernanza de la IA en el sector público también necesita una infraestructura diferente: redes globales donde los implementadores puedan aprender unos de otros, compartir plantillas y resolver problemas reales de implementación.

Es por eso que OGP está invirtiendo en el Red de algoritmos abiertosReúne a profesionales gubernamentales, sociedad civil y expertos que trabajan en transparencia y rendición de cuentas algorítmica, con énfasis en el apoyo a la implementación práctica. La red incluye a los primeros reformadores de "algoritmos abiertos", así como a los nuevos actores que configuran la gobernanza de la IA a través de los compromisos de la OGP.

Un mensaje de urgencia 

Los próximos dos años representan una ventana de oportunidad crucial, pero se está agotando rápidamente. Una vez adquiridos los sistemas de IA, los proveedores quedan atrapados y las instituciones se adaptan a la rutina. La gobernanza democrática se vuelve más difícil de modernizar. Países que fomentan la apertura y la rendición de cuentas. desde el comienzo evitará costosas correcciones de rumbo, generará confianza pública y cosechará los frutos de los sistemas de IA bien implementados.

El mensaje de OGP de cara a la Cumbre de Impacto de IA de la India es sencillo: La gobernanza de la IA debe construirse con El público. De forma predeterminada, esto generará la infraestructura para el público.  Los países no necesitan esperar a que se logre una alineación global perfecta. Pueden empezar por adoptar reformas concretas que hagan que el uso de la IA en el gobierno sea abierto y responsable, construyendo normas más sólidas con el tiempo.

OGP está dispuesta a trabajar con los reformistas en el gobierno y la sociedad civil para convertir los principios globales en planes de acción propios de los países, respaldados por informes independientes y basados ​​en los derechos humanos.