Tres formas de gobernar mejor el uso de la IA

El desarrollo de la inteligencia artificial (IA) ofrece el potencial de generar importantes beneficios positivos para la sociedad. Sin embargo, existen profundas preocupaciones sobre los posibles impactos negativos sobre la democracia, los derechos fundamentales y la vida de las personas si no se gobierna correctamente. Gobierno abierto y sus principios rectores de transparenciaDe acuerdo con los Artículos de Gobernanza de OGP, la transparencia ocurre cuando "la información en poder del gobierno (incluidas las actividades y decisiones) es abierta, completa, oportuna y está disponible gratuitamente para el público... Más, responsabilidad, inclusiónLos gobiernos participantes de OGP están trabajando para crear gobiernos que realmente sirvan a todas las personas. Los compromisos en este ámbito pueden abordar personas con discapacidad, mujeres y niñas, lesbianas, gays, bisexuales, tr... Más y la participación tienen un papel clave que desempeñar para garantizar que la IA se utilice de manera responsable y al servicio del público.

OGP y el Gobierno de Kenia convocaron a reformadores del gobierno y de la sociedad civil de 12 países para discutir formas de gobernar las tecnologías digitales nuevas y emergentes. Aquí hay tres conclusiones clave para la gobernanza de la IA.

La sociedad debe definir la IA

La trayectoria de la IA debe estar determinada por los desafíos globales, nacionales y locales que enfrentamos y por los intereses de todos en la sociedad, no por los intereses privados de las grandes empresas tecnológicas y sus accionistas. 

Esto significa plantearse preguntas sobre qué, por qué y quién: ¿cuál es el desafío social que debe superarse? ¿Cómo puede la IA ayudar a afrontar el desafío? ¿Y quién se beneficiará y quién perderá con su uso? Identificar el problema y evaluar cómo una tecnología puede resolverlo, y con qué consecuencias, debería ser parte integral de la conceptualización, creación, gobernanza y evaluación del uso de la IA. 

Estos principios pueden realizarse en la práctica mediante:

• Definir el “interés público” de la IA a través de conversaciones abiertas, inclusivas y con múltiples partes interesadas, incluida la sociedad civil y el público. Esto puede garantizar que la IA se desarrolle de manera coherente con los valores, intereses y preocupaciones del público, contribuyendo a un mayor impacto público y una confianza pública más sólida.
• Mantener la supervisión humana y la responsabilidad de la IA y toma de decisiones automatizadaA medida que los gobiernos recurren cada vez más a los algoritmos para respaldar la toma de decisiones para los servicios públicos, la transparencia y la responsabilidad del uso de algoritmos son necesarias para minimizar su daño y aumentar ... Más. Las decisiones tomadas por un algoritmo deben poder ser cuestionadas por los humanos para garantizar que sus resultados coincidan con el propósito previsto. Esto incluye no sólo tener un “humano en la sala”, sino también a través de pruebas previas al despliegue, monitoreo continuo y transparencia en el impacto y derechos humanosUna parte esencial del gobierno abierto incluye proteger las libertades y los derechos sagrados de todos los ciudadanos, incluidos los grupos más vulnerables, y responsabilizar a quienes violan los derechos humanos. T... evaluaciones

La IA no debe replicar las desigualdades existentes

La capacidad de asegurar los beneficios y evitar los riesgos de la IA no se comparte equitativamente. Los beneficios de la IA y otras tecnologías digitales para la humanidad solo pueden lograrse plenamente si se desarrollan teniendo en cuenta las necesidades, intereses, idiomas y contextos de diferentes países y comunidades diversas. 

Específicamente: 

• Incidentes perjudiciales dirigidos a mujeres, juventudesAl reconocer que invertir en la juventud significa invertir en un futuro mejor, los gobiernos participantes de OGP están creando oportunidades significativas para que los jóvenes participen en los procesos gubernamentales. técnico... Más, minorías y otros grupos vulnerables han demostrado la importancia de adquirir, diseñar, probar e implementar tecnologías de IA a través de un enfoque de derechos humanos y géneroLos gobiernos participantes de OGP están trayendo perspectivas de género a áreas de políticas populares, asegurando la diversidad en los procesos participativos y apuntando específicamente a las brechas de género en las políticas para abordar los gobiernos ... Más lente. 
• Las tecnologías digitales no son neutrales, sino que reproducen sesgos inherentes a sus datos, programación y usos. Para abordar verdaderamente estos sesgos en los algoritmos es necesario abordar los sesgos en nuestras instituciones y sociedades, pero también es necesario contar con mecanismos sólidos de quejas públicas, independientes y regulares. auditoríasLos marcos institucionales y legales son necesarios para garantizar la integridad de la información financiera y el cumplimiento de las normas y procedimientos presupuestarios. Especificaciones técnicas: Estos..., y una estricta aplicación de las normas puede ayudar a erradicar y abordar estos sesgos en la IA.

 Las normas globales son importantes pero significan poco sin reformas nacionales  

Si bien la gobernanza global es importante, debe traducirse en regulaciones y reformas significativas de propiedad nacional para garantizar que se maximicen los beneficios de las tecnologías digitales para la sociedad y al mismo tiempo se minimicen los riesgos. Los reformadores nacionales de los gobiernos y la sociedad civil son clave para liderar esta agenda.

Los reformadores del gobierno abierto pueden liderar el camino al:

• Desarrollar un marco político nacional sólido para la IA, a través de un proceso abierto e inclusivo, que brinde garantías al público de que se gestionan los riesgos y que es posible un uso responsable de la IA. Una gobernanza sólida crea el contexto para más innovación, no menos. Por el contrario, la falta de un marco aumenta los riesgos percibidos y reales y puede provocar una reacción pública y el abandono de soluciones potencialmente valiosas. 
• Utilizar procesos de adquisiciones abiertos, inclusivos y responsables para garantizar la supervisión y una toma de decisiones sólida, incluso en ausencia de un marco legislativo sólido.

Los valores de gobierno abierto de transparencia, participación, inclusión y rendición de cuentas son clave para garantizar que la adopción de tecnologías digitales, como la IA, ayude a mejorar las vidas de las personas y las comunidades y fortalezca las democracias. Revisar la Guía Open Gov sobre gobernanza digital para más recomendaciones y ejemplos.