Inclusion et droits dans l'intelligence artificielle (IT0086)

Problème abordé :

L'intelligence artificielle (IA) est un agent de changement sociétal, qui produit des impacts significatifs, bien que pas toujours visibles ou compris, sur nos comportements et prédit des effets futurs encore plus importants qui pourraient être à la fois bénéfiques et très risqués. « La manière dont nous interagissons avec l'IA déterminera le monde dans lequel nous vivons » est une déclaration clé de la communication de la Commission européenne au Parlement européen, « L'intelligence artificielle pour l'Europe », annonçant l'élaboration de la loi sur l'IA, l'une des premières lois au monde à réglementer le développement et l'utilisation des systèmes d'IA. En tant que document stratégique national, le Plan national de relance et de résilience (PNRR) envisage également l'utilisation des systèmes d'IA dans le cadre de diverses mesures politiques. Dans ce contexte, il est nécessaire de promouvoir et d'améliorer les évaluations d'impact ex ante spécifiques sur les applications de l'IA, en équilibrant les profils techniques avec la protection des droits fondamentaux. Cela contribuera à rendre les mesures du PNRR concernant la cybersécurité, la loi annuelle sur la concurrence, le programme national de gestion des déchets et l'adoption du plan École 4.0 plus efficaces et plus équitables. Tout système d’IA risque de créer ou d’amplifier des discriminations en raison de biais inhérents aux ensembles de données et, par conséquent, aux algorithmes utilisés. Il est donc essentiel d’analyser périodiquement les biais potentiels des systèmes d’IA pour identifier et atténuer les risques associés. Les politiques réglementaires que le gouvernement italien est en train de définir sur le sujet, à commencer par le projet de loi « Dispositions et délégation au gouvernement sur l’intelligence artificielle », devraient être élaborées avec la participation de toutes les parties prenantes intéressées (experts du domaine, organismes de recherche), y compris les administrations publiques, les organisations de la société civile et les citoyens. L’objectif est d’enrichir le processus d’évaluation et de renforcer le cadre réglementaire pour garantir des décisions plus justes et plus fiables de la part de ceux qui utilisent les systèmes d’IA.

Description de l'engagement :

Pour mettre en œuvre efficacement cet engagement, une collaboration avec le programme Democratic Innovations Accelerator proposé par People Powered a été décidée. Ce programme fournit du mentorat et des ressources pour renforcer la participation civique à la définition et à la gouvernance des politiques publiques en Europe. Promu par l'OGP IT Community Participation Hub, le processus participatif sur « Risques et opportunités de l'intelligence artificielle pour améliorer l'équité et l'inclusion » vise à lancer une discussion délibérative nationale basée sur les principes du gouvernement ouvert. Les principaux résultats attendus sont les suivants : le renforcement des compétences pour la mise en œuvre et la gestion des processus participatifs ; la cartographie des pratiques, avec une attention particulière aux biais de genre, intergénérationnels et intersectionnels ; la définition partagée des principes éthiques pour l'utilisation de l'IA ; et la formulation de recommandations sur l'inclusivité des données et des algorithmes dans l'IA, à remettre aux organismes nationaux concernés. Ces recommandations seront également transmises à d'autres régions par l'intermédiaire de la Région des Pouilles, coordinatrice de la communauté thématique « données et IA » au sein de la Commission ITD de la Conférence des Régions, et partagées au sein du Centre de compétences régional sur l'intelligence artificielle en PA, créé par la Région des Pouilles en octobre 2023.

Comment l'engagement résoudra-t-il le problème?

Cet engagement ouvrira des espaces d’implication de la société civile pour sensibiliser aux risques liés à l’IA
et co-concevoir des systèmes d'IA utilisés par les administrations publiques. La collaboration avec People Powered permettra
l’élaboration d’un plan d’action promu par le Pôle de participation qui est potentiellement intéressant pour
la communauté informatique de l'OGP. Cette opportunité met l'accent sur un problème actuel très pertinent, en utilisant
processus participatif comme moyen d'impliquer l'ensemble de la communauté. Cette approche favorise la visibilité du pôle de participation et renforce les relations au sein de la communauté, en impliquant les acteurs moins actifs.
L'initiative permettra de réfléchir aux implications éthiques et sociales de l'IA et de produire des résultats nationaux précieux et co-créés. Le programme est essentiel pour l'Italie dans la lutte contre les discriminations existantes à l'égard des femmes, des jeunes et d'autres groupes, ainsi que celles qui pourraient découler de l'utilisation des technologies et des systèmes d'IA dans les secteurs privé et public. Impliquant l'ensemble de la Communauté, composée d'environ 100 organisations - dont les deux tiers représentent la société civile -, l'engagement peut jeter les bases d'une utilisation consciente et équitable de l'IA par les administrations publiques et d'une plus grande implication de la société civile dans la surveillance des risques potentiels et des discriminations.

Pourquoi l’engagement est-il pertinent pour les valeurs de l’OGP ?

L'OGP invite à identifier des réformes et des actions ambitieuses dans le domaine de la gouvernance numérique, en réfléchissant à l'impact des technologies sur les droits de l'homme. La protection des droits de tous exige que la réflexion sur l'IA implique un large public qui est souvent exclu des décisions politiques. En ce sens, l'engagement s'appuie sur le « Décalogue de l'IA, Lignes directrices pratiques pour l'utilisation de l'IA dans les administrations publiques », promu par l'AGID, et sur le Plan triennal pour l'informatique de l'administration publique, qui établit des principes pour la transition numérique de l'administration publique, tels que l'inclusivité et l'accessibilité des services, les approches centrées sur l'utilisateur et l'ouverture des logiciels comme première option, à garantir dans toutes les activités et la création de plateformes et d'applications publiques. Cette approche comprend la conception universelle, l'accessibilité intégrée et l'adoption de politiques, de réglementations et de processus de formation et de communication qui favorisent l'équité dans l'accès et l'utilisation des technologies. L'engagement est pertinent car il se concentre sur l'identification des opportunités et des risques de l'IA et vise à renforcer le rôle et la contribution de la communauté informatique de l'OGP, composée d'une centaine d'organisations, dans le domaine des droits. Il cherche également à établir un dialogue avec les acteurs gouvernementaux chargés de définir les lignes directrices d'utilisation de l'IA.

Description des activités et des résultats :

Lancer une phase de collecte d'études, d'informations et de données pour évaluer la diffusion de l'utilisation de l'IA dans les secteurs privé et public en Italie
Résultat : Rapport à l'OGF sur les conclusions (janvier 2025)
Participer au mentorat des représentants d’organisations responsables de la
engagement
Résultat : Conception du processus participatif « Risques et opportunités de l’intelligence artificielle pour améliorer l’équité et l’inclusion » (avril 2025)
Organiser une rencontre sur le sujet, ouverte à la Communauté
Résultat : Ordre du jour de la réunion (février 2025)
Piloter des initiatives visant à partager les outils développés par le projet Aequitas et d'autres initiatives européennes avec les administrations publiques intéressées (au sein et en dehors de l'OGP IT) afin de fournir des méthodes pratiques pour traiter et atténuer les biais et concevoir de nouveaux systèmes d'IA, en appliquant des pratiques et des méthodologies d'équité dès la conception
Résultat : Document de proposition aux administrations publiques pour une participation pilote (décembre 2025), Atelier public pour diffuser et diffuser les outils identifiés (décembre 2025)
Mettre en œuvre et coordonner le processus participatif avec le soutien de People Powered, en impliquant la communauté informatique de l'OGP et les réseaux actifs au sein du Participation Hub
Résultat : Rapport sur les résultats du processus (janvier 2026)
Elaboration participative de recommandations au Gouvernement sur les données et les algorithmes
l'inclusion dans l'IA et sa promotion
Résultat : « Recommandations de la communauté italienne du gouvernement ouvert sur l'utilisation de l'intelligence artificielle » (mai 2026), Transmission des recommandations aux organismes nationaux compétents (mai 2026)