Hacia una propiedad colectiva de la IA

La inteligencia artificial ha dejado de ser simplemente una innovación disruptiva, o incluso un sector industrial. Es una fuerza transformadora que provoca trastornos diarios en el mundo del trabajo, en las cadenas de valor, en educaciónLa rendición de cuentas dentro del sistema de educación pública es clave para mejorar los resultados y logros, y la rendición de cuentas es casi imposible sin políticas transparentes y oportunidades de participación...pero también en nuestra imaginación y en nuestra relación con el mundo.

Poco a poco, se está infiltrando en la esencia misma de nuestras vidas.

¿El problema? Esta revolución está impulsada fundamentalmente por un puñado de empresas, inversores e investigadores. Los esfuerzos de los gobiernos y la comunidad internacional sin duda han logrado forjar un consenso sobre los principios generales que deberían regir el desarrollo de este nuevo orden civilizatorio, pero prácticamente no han modificado la trayectoria de Silicon Valley.

Los debates globales sobre la «seguridad de la IA» a menudo se han centrado en evitar los riesgos existenciales desconocidos del futuro, mientras que los perjuicios reales del presente suelen quedar sin abordarse. Los encomiables esfuerzos de Europa por «ponerse al día» o establecer marcos regulatorios como el RGPD, la Ley de Servicios Digitales, la Ley de Protección de Datos y la Ley de IA también pasan por alto lo más esencial: esta revolución debe ser democrática. Nos corresponde a nosotros, de forma colectiva y tras un debate informado, decidir el futuro que deseamos.

Seamos claros: hasta la fecha, no existe una gobernanza internacional estructurada de la IA. Aunque grupos como el G7 han establecido principios, existe una oportunidad para que los líderes mundiales den un paso más allá. El Pacto Digital Global ha sentado las bases. Están surgiendo regulaciones nacionales y regionales, comenzando con la Ley Europea de IA que entró en vigor en 2025. Pero no existe un marco global único que garantice que esta tecnología servirá a la dignidad humana y al bienestar social. justiciaPara abordar las barreras que impiden que los ciudadanos satisfagan sus necesidades de justicia, los gobiernos participantes de OGP están trabajando para ampliar la transparencia, la rendición de cuentas y la inclusión en todos los sistemas de justicia... y el equilibrio democrático. La legitimidad democrática de la IA solo puede provenir de una deliberación abierta y continua en la que participen quienes se ven afectados por ella.

La semana pasada, cuando el G7 se reunió para debatir el futuro de la IA, los miembros tuvieron una oportunidad única para aprovechar los esfuerzos anteriores y establecer un camino para la deliberación abierta en la que participen los afectados por las tecnologías digitales no reguladas.

Una crisis democrática antes que una tecnológica.

Sin embargo, sin siquiera mencionar la concentración del mercado en torno a un oligopolio reducido y el riesgo de que acaparen sectores enteros de la economía, sin reconsiderar la necesidad de analizar y apoyar las transformaciones radicales del mundo laboral y sin detenerse en el coste medioambiental de los caminos que se están siguiendo actualmente —todo ello sin ningún debate real—, queda claro que ya se han producido los primeros accidentes democráticos extremadamente preocupantes.

El Robodebt escándalo en Australia, el Calificación de nivel A algoritmo en el Reino Unido, El sistema de detección de fraudes en los Países BajosEstos casos ilustran claramente el costo humano de los sistemas implementados sin salvaguardias, sin supervisión independiente y sin mecanismos de recurso efectivos. Los sesgos en los sistemas de reconocimiento facial y de vigilancia predictiva han reforzado la discriminación existente y erosionado la confianza en las instituciones.

Peor aún, quizás, en un momento en que nuestras democracias representativas se ven debilitadas por una crisis de instituciones y representación —una crisis que no comenzó con la IA—, la creciente integración de la IA en los procesos de toma de decisiones, que impone silenciosamente su racionalidad algorítmica, diluye la responsabilidad humana y enmascara los efectos del poder, promete exacerbar aún más una crisis que está socavando las democracias abiertas.

La IA y el desafío de la igualdad relacional

La IA está exacerbando una tensión que la tecnología digital ya había puesto de manifiesto. Por un lado, el acceso generalizado a la información y la capacidad de análisis distribuido prometen un nivel de poder horizontal sin precedentes: cualquier ciudadano puede verificar, cuestionar y proponer. Por otro lado, esta misma estructura horizontal debilita a los intermediarios tradicionales —partidos políticos, sindicatos, medios de comunicación, administraciones públicas— sin los cuales la responsabilidad y la rendición de cuentas resultan imposibles.

La IA puede utilizarse para fortalecer los procesos democráticos: simplificando el acceso a los servicios públicos, detectando el fraude, facilitando la toma de decisiones complejas y mejorando la capacidad de respuesta de las instituciones. Pero también puede socavarlos con la misma facilidad: ocultando decisiones, automatizando la discriminación y concentrando el poder en manos de quienes controlan los modelos.

La cuestión es política y sencilla: ¿queremos una IA que fortalezca la capacidad de los ciudadanos para comprender, deliberar y decidir? ¿O una IA que les arrebate ese poder? ¿Se utilizará para empoderarnos? ¿O para convertirnos en seres pasivos y dóciles?

Un legado francés

Hace casi diez años, en diciembre de 2016, París fue sede de la Open Government Partnership (OGP) Cumbre GlobalEn aquel momento, Francia presidía esta alianza sin precedentes, compuesta por representantes de más de 70 países y cientos de organizaciones de la sociedad civil, unidas por una convicción común: transparenciaDe acuerdo con los Artículos de Gobernanza de OGP, la transparencia ocurre cuando "la información en poder del gobierno (incluidas las actividades y decisiones) es abierta, completa, oportuna y está disponible gratuitamente para el público... Más, participacion ciudadanaDe acuerdo con los Artículos de Gobernanza de OGP, la participación ciudadana ocurre cuando "los gobiernos buscan movilizar a los ciudadanos para que participen en el debate público, brinden aportes y hagan contribuciones que conduzcan a m ... Más La rendición de cuentas del gobierno no es un lujo democrático, sino algo esencial para la supervivencia de nuestras instituciones.

En la historia de la relación entre democracia y tecnología, estos diez años son una eternidad. Hemos presenciado el debilitamiento del orden basado en el derecho internacional, ataques —ya sean patrocinados por el Estado o no— contra el Estado de derecho, y la captura y distorsión de la esfera pública por parte de las redes sociales.

Hoy en día, el rápido auge de la inteligencia artificial suscita temores ante amenazas aún peores: una concentración de poder sin precedentes y sin controles ni contrapesos, el uso no regulado de la IA en el ámbito de la información y la proliferación de herramientas de intrusión cibernética.

Francia ha situado sistemáticamente los asuntos tecnopolíticos —y las cuestiones de gobernanza digital— en su agenda internacional. Además de su continuo compromiso con el multilateralismo y su participación en foros de diálogo entre múltiples partes interesadas, representados cada año en París por el Foro de la Paz de París, también ha demostrado un compromiso constante con la búsqueda de una gobernanza abierta y compartida de diversos aspectos de la esfera digital. El papel de liderazgo de Francia ha llevado a la Llamamiento de París para la confianza y la seguridad en el ciberespacio en 2018, El Llamamiento de Christchurch contra el contenido terrorista en 2019, la Alianza Global sobre Inteligencia Artificial en 2020 y la Proceso de Pall Mall sobre herramientas de intrusión cibernética en 2024. En febrero de 2025, en el Cumbre para la Acción sobre la IAFrancia volvió a reunir a la comunidad internacional, buscando construir un consenso entre múltiples partes interesadas en un contexto donde las divisiones se están profundizando.

¿Qué une a todas estas iniciativas? Se basan en la misma convicción fundamental. Las revoluciones digitales, como todas las revoluciones industriales, son también revoluciones políticas. Requieren una respuesta democrática, que solo puede desarrollarse mediante un diálogo estrecho y participativo entre gobiernos, sociedad civil, investigadores y empresas. Y los principios generales no bastan: la infraestructura, las instituciones y, sobre todo, la cooperación concreta son parte integral de la solución.

La labor de los activistas hace diez años presagió los excesos que presenciamos hoy. Proclamó que la democracia no era un derecho garantizado y que debía protegerse. Diez años después, quizás sea necesario señalar que, a la inversa, la destrucción de los lazos sociales, la solidaridad y la dignidad humana tampoco es inevitable.

La búsqueda de una gobernanza abierta

Más allá de los principios generales, que son tan difíciles de poner en práctica, el mundo de los colectivos multisectoriales y la democracia abierta está presenciando una proliferación de iniciativas locales, que hoy representan una gran cantidad de experiencias e iniciativas que debemos conocer, supervisar y analizar.

A nivel mundial, hay muchos ejemplos que podemos tomar como referencia. Plataformas como la Open Government Partnership han tenido éxito. La República Dominicana es co-creando un Código de Ética de IA con agencias gubernamentales, organizaciones de la sociedad civil y tecnólogos que darán forma a cómo se implementa y gobierna la IA. Colombia es desarrollar un modelo de gobernanza de IA a través de un mecanismo de diálogo entre múltiples partes interesadas: la sociedad civil y la academia están actualmente redactando un proyecto de ley al respecto. Y Nigeria se ha comprometido a construir un marco de gobernanza digital inclusivo, con un mecanismo de coordinación entre múltiples partes interesadas y una política nacional sobre el uso ético de las tecnologías emergentes.

Estas iniciativas, arraigadas en el contexto local y basadas en la participación ciudadana en el poder y la toma de decisiones, son prometedoras: la deliberación y la participación ciudadana son posibles. No obstaculizan la innovación; al contrario, fomentan un progreso que toda la sociedad percibe de forma genuina.

Los próximos dos años serán decisivos. En todo el mundo, los gobiernos están tomando decisiones fundamentales que definirán el despliegue de la IA durante la próxima década. Las estrategias nacionales están pasando de la planificación a la implementación. La contratación públicaLa transparencia en el proceso de contratación puede ayudar a combatir la corrupción y el despilfarro que afectan a una parte importante de los presupuestos de contratación pública a nivel mundial. Especificaciones técnicas: Compromisos que apuntan a... Más Se están estableciendo marcos de referencia. Las estructuras regulatorias están tomando forma.

Estas decisiones se toman ahora, con o sin garantías democráticas. Una vez que se han adquirido los sistemas, se han contratado a los proveedores y se han establecido las estructuras institucionales, corregir el rumbo se vuelve exponencialmente más difícil. Invertir desde el principio en marcos transparentes y participativos evita correcciones costosas y genera confianza pública desde el inicio.

Las redes sociales nos han enseñado que las decisiones iniciales, si no se regulan a tiempo, crean posiciones, dinámicas de poder y modelos económicos muy difíciles de cambiar. Los sistemas opacos que se implementan hoy se convierten en la infraestructura del mañana, y la gobernanza se reduce a la gestión de daños en lugar de al diseño.

La dignidad humana en el centro

En última instancia, el problema va más allá de lo técnico. regulaciónLos reformadores del gobierno están desarrollando regulaciones que consagran valores de transparencia, participación y rendición de cuentas en las prácticas gubernamentales. Especificaciones técnicas: Acta de creación o reforma...Se trata de lo que deseamos preservar: la dignidad humana frente a sistemas que podrían reducirnos a perfiles, puntuaciones y predicciones. El valor del trabajo frente a transformaciones que podrían volver a millones de personas «inútiles» a ojos de los algoritmos de eficiencia. La posibilidad misma de la deliberación democrática frente a herramientas capaces de manipular la atención, fabricar realidades paralelas y segmentar el debate público en cámaras de eco herméticas.

La trayectoria de la IA debe estar marcada por los desafíos globales, nacionales y locales, y por los intereses de todos, no solo por los intereses privados de las grandes empresas tecnológicas y sus accionistas. Definir el «interés público» de la IA mediante conversaciones abiertas e inclusivas con la sociedad civil garantiza que su desarrollo se alinee con los valores públicos, fomente la confianza y prevenga la captura política y la concentración de poder.

Estos riesgos no son distopías lejanas. Ya están aquí, en parte, de forma insidiosa. Y solo una gobernanza abierta, inclusiva y rigurosa nos permitirá afrontarlos.

En 2016, París afirmó que la democracia del siglo XXI sería abierta o no existiría. En 2026, debemos ir más allá: la democracia del siglo XXI será capaz de gobernar la inteligencia artificial, o será gobernada por ella.