Construire une intelligence artificielle responsable au sein du gouvernement : un programme de réforme pratique

L'intelligence artificielle (IA) évolue à une vitesse fulgurante. Les investissements explosent, les gouvernements déploient des systèmes dans l'ensemble des services publics et de nouveaux modèles d'IA, toujours plus puissants et sophistiqués, voient le jour. Le risque ne réside pas seulement dans l'arrivée tardive des réglementations, mais aussi dans l'intégration opaque et incontrôlée de l'IA au sein de l'État, une intégration quasi impossible à démanteler.

Ahead of the Sommet indien sur l'impact de l'IA cette semaine, le Open Government PartnershipLe Open Government Partnership (OGP) est une initiative multipartite axée sur l'amélioration de la transparence du gouvernement, la garantie d'opportunités de participation des citoyens aux affaires publiques et le renforcement ... Autres (OGP) présente des arguments clairs : La gouvernance de l'IA n'est pas seulement un ensemble de principes, c'est un ensemble nécessaire de réformes pratiques que les pays peuvent co-créer et mettre en œuvre dès maintenant.

Le fossé : des principes globaux, une mise en œuvre inégale

Ces dernières années, des progrès significatifs ont été réalisés en matière de cadres internationaux pour une IA responsable, grâce aux recommandations de OCDE et UNESCOCependant, de nombreux pays doivent encore traduire les engagements de haut niveau en mécanismes opérationnels. Cela implique des règles de transparence claires, des garanties applicables en matière de marchés publics, un contrôle indépendant et des mécanismes significatifs. participation du publicDonner aux citoyens la possibilité de contribuer au processus décisionnel du gouvernement conduit à une gouvernance plus efficace, à une meilleure prestation des services publics et à des résultats plus équitables. Spécification technique....

Les conséquences d'une telle erreur sont bien réelles. Des échecs retentissants, allant de systèmes de détection de fraude défaillants à des biais dans la reconnaissance faciale, illustrent les risques liés au déploiement de systèmes automatisés sans garanties robustes ni responsabilisation.

Proposition de l'OGP : passer des normes aux réformes concrètes

Le Partenariat pour un gouvernement ouvert (PGO) est un partenariat conçu pour aider les pays à traduire les valeurs du PGO en actions concrètes au niveau national. Nous ne créons pas de normes. Mais grâce aux engagements du PGO et aux Défi du gouvernement ouvertLes gouvernements nationaux et locaux travaillent avec la société civile pour co-créer des réformes assorties d'échéances, mesurables et évaluées de manière indépendante.

Le modèle d'OGP correspond parfaitement aux besoins actuels de la gouvernance de l'IA :

• TransparenceSelon les articles de gouvernance de l'OGP, la transparence se produit lorsque "les informations détenues par le gouvernement (y compris sur les activités et les décisions) sont ouvertes, complètes, opportunes, librement accessibles au public... Autres: Le public sait où l'IA est utilisée, dans quel but, avec quelles données, et qui sont les parties prenantes responsables.
• Participation et l'inclusionLes gouvernements participants à l'OGP s'efforcent de créer des gouvernements qui servent véritablement tous les peuples. Les engagements dans ce domaine peuvent concerner les personnes handicapées, les femmes et les filles, les lesbiennes, les gays, les bisexuels, les tr... AutresCe sont les communautés concernées et la société civile qui façonnent les règles et les choix, et non pas seulement les experts techniques ou les fournisseurs.
• Responsabilité et surveillance: vérifications du déploiement, suivi de l'impact et voies de recours.
• Droit de la personneUn élément essentiel d'un gouvernement ouvert comprend la protection des libertés et des droits sacrés de tous les citoyens, y compris les groupes les plus vulnérables, et la responsabilisation de ceux qui violent les droits de l'homme. T..., diversité et équitéL’IA n’amplifie pas la discrimination, ne porte pas atteinte à la vie privée et n’érode pas la confiance dans les institutions publiques.

La preuve que c'est possible : des réformes déjà en cours dans les pays membres de l'OGP

Partout dans le monde, des réformateurs au sein des gouvernements et de la société civile utilisent déjà l'OGP pour co-créer et mettre en œuvre des mesures pratiques visant à garantir que l'IA soit sûre, éthique et guidée par l'intérêt public.

On peut citer comme exemples les registres d'IA du secteur public et les évaluations d'impact publiées pour prise de décision automatiséeAlors que les gouvernements se tournent de plus en plus vers les algorithmes pour soutenir la prise de décision pour les services publics, la transparence et la responsabilité de l'utilisation des algorithmes sont nécessaires pour minimiser leurs dommages et augmenter ... Autres, des mécanismes de gouvernance multipartites et des organes de surveillance dédiés. 

Les réformes couvrent un large éventail de contextes, notamment :

• CanadaLes organismes utilisant des systèmes de décision automatisés doivent réaliser et publier des évaluations d'impact avant leur déploiement.
• Colombie: le développement d'un mécanisme de dialogue multipartite pour concevoir la gouvernance de l'IA.
• Kenya: la mise en place d'un cadre pour une gouvernance inclusive, sûre et responsable des technologies émergentes, axée sur l'IA.
• Nigéria: a produit un lauréat du prix Open Gov Challenge engagementLes engagements du PGO sont des promesses de réforme co-créées par les gouvernements et la société civile et soumises dans le cadre d'un plan d'action. Les engagements comprennent généralement une description du problème, des actions concrètes... renforcer le cadre juridique pour gouvernance numériqueAlors que les technologies en évolution offrent de nouvelles opportunités aux gouvernements et aux citoyens pour faire progresser l'ouverture et la responsabilité, les gouvernements participants à l'OGP s'efforcent de créer des politiques qui traitent de la ... Autres par la mise en place d'un mécanisme national de coordination multipartite pour transformation numériqueLes gouvernements s'efforcent d'accroître l'accès aux services gouvernementaux et leur qualité, d'améliorer la transparence et de créer des opportunités de participation en utilisant les technologies de l'information et des communications. Autres et l’élaboration d’une politique nationale sur l’utilisation éthique, sûre et responsable des technologies numériques.
• Uruguay: a créé un organisme de surveillance publique de l'utilisation de l'IA par le gouvernement.

Cela représente un passage d'une adoption technique fermée des systèmes d'IA dans le secteur public à gouvernance de l'IA publiquement responsable et participative.

Une offre mondiale concrète : l’apprentissage entre pairs au service des acteurs de la mise en œuvre

Le Sommet indien sur l'impact de l'IA de cette semaine sera l'occasion de nombreux échanges sur la sécurité, l'innovation et la compétitivité. Ces questions sont essentielles. Toutefois, la gouvernance de l'IA dans le secteur public nécessite également une infrastructure d'un autre ordre : des réseaux internationaux où les acteurs de la mise en œuvre peuvent partager leurs expériences, leurs modèles et résoudre des problèmes concrets.

C’est pourquoi OGP investit dans le Réseau d'algorithmes ouvertsCe réseau réunit des représentants gouvernementaux, de la société civile et des experts œuvrant pour la transparence et la responsabilité algorithmiques, en mettant l'accent sur le soutien pratique à leur mise en œuvre. Il comprend des pionniers de la réforme des « algorithmes ouverts », ainsi que de nouveaux acteurs qui façonnent la gouvernance de l'IA grâce aux engagements du Partenariat pour un partenariat ouvert (PPO).

Un message d'urgence 

Les deux prochaines années représentent une fenêtre d'opportunité cruciale, mais qui se referme rapidement. Une fois les systèmes d'IA acquis, les fournisseurs sont engagés et les institutions s'installent dans leurs routines. La gouvernance démocratique devient alors plus difficile à adapter a posteriori. Les pays qui privilégient la transparence et la responsabilité ont plus de chances de réussir. dès le début permettra d'éviter des corrections de cap coûteuses, de renforcer la confiance du public et de récolter les fruits de systèmes d'IA bien déployés.

Le message d'OGP à l'approche du Sommet indien sur l'impact de l'IA est clair : La gouvernance de l'IA doit être mise en place au le public. Par défaut, cela permettra de créer l'infrastructure nécessaire au public.  Les pays n'ont pas besoin d'attendre un alignement mondial parfait pour entamer une telle évolution. Ils peuvent commencer par adopter des réformes concrètes qui rendent l'utilisation de l'IA au sein des gouvernements transparente et responsable, et ainsi renforcer progressivement les normes.

L’OGP est prêt à travailler avec les réformateurs au sein des gouvernements et de la société civile pour transformer les principes mondiaux en plans d’action nationaux, appuyés par des rapports indépendants et fondés sur les droits de l’homme.