Ignorer la navigation

Trois façons de mieux régir l’utilisation de l’IA

Tim HughesetSarah Kennedy|

Le développement de l’intelligence artificielle (IA) offre un potentiel d’avantages positifs importants pour la société. Cependant, de profondes inquiétudes subsistent quant aux impacts négatifs potentiels sur la démocratie, les droits fondamentaux et la vie des citoyens s'ils ne sont pas gouvernés correctement. Le gouvernement ouvert et ses principes directeurs de transparence, responsabilité, inclusion et la participation ont un rôle clé à jouer pour garantir que l’IA soit utilisée de manière responsable et au service du public.

L'OGP et le gouvernement du Kenya ont réuni des réformateurs du gouvernement et de la société civile de 12 pays pour discuter des moyens de gouverner les technologies numériques nouvelles et émergentes. Voici trois conclusions clés pour la gouvernance de l’IA.

La société doit définir l'IA

La trajectoire de l’IA doit être façonnée par les défis mondiaux, nationaux et locaux auxquels nous sommes confrontés et par les intérêts de tous les membres de la société – et non par les intérêts privés des grandes entreprises technologiques et de leurs actionnaires. 

Cela implique de se poser des questions sur quoi, pourquoi et qui : quel est le défi sociétal à relever ? Comment l’IA peut-elle aider à relever ce défi ? Et qui bénéficiera et qui perdra de son utilisation ? Identifier le problème et évaluer comment une technologie peut le résoudre, et avec quelles conséquences, devrait faire partie intégrante de la conceptualisation, de la création, de la gouvernance et de l’évaluation de l’utilisation de l’IA. 

Ces principes peuvent être mis en pratique en :

  • Définir « l’intérêt public » pour l’IA par le biais de conversations ouvertes, inclusives et multipartites, y compris la société civile et le public. Cela peut garantir que l’IA est développée d’une manière qui soit cohérente avec les valeurs, les intérêts et les préoccupations du public, contribuant ainsi à un plus grand impact public et à une plus grande confiance du public.
  • Maintenir la surveillance humaine et la responsabilité en matière d’IA et prise de décision automatisée. Les décisions prises par un algorithme doivent pouvoir être contestées par des humains pour garantir que leurs résultats correspondent à l'objectif visé. Cela implique non seulement d'avoir un « humain dans la pièce », mais également de procéder à des tests préalables au déploiement, à une surveillance continue et à un impact et un impact transparents. droits de l'homme évaluations.

L’IA ne doit pas reproduire les inégalités existantes

La capacité de bénéficier des avantages et d’éviter les risques de l’IA n’est pas partagée de manière égale. Les avantages de l’IA et des autres technologies numériques pour l’humanité ne peuvent être pleinement exploités que s’ils sont développés en tenant compte des besoins, des intérêts, des langues et des contextes des différents pays et des diverses communautés. 

Plus précisément: 

  • Incidents préjudiciables visant les femmes, jeunesse, les minorités et d’autres groupes vulnérables ont démontré l’importance d’acquérir, de concevoir, de tester et de mettre en œuvre des technologies d’IA dans le cadre des droits de l’homme et le sexe lentille. 
  • Les technologies numériques ne sont pas neutres, mais reproduisent des biais inhérents à leurs données, leurs programmations et leurs usages. S'attaquer véritablement à ces préjugés dans les algorithmes nécessite de s'attaquer aux préjugés de nos institutions et de nos sociétés, mais aussi de solides mécanismes de plainte du public, des mécanismes indépendants réguliers audits, et une application stricte de la réglementation peut aider à éliminer et à remédier à ces préjugés dans l’IA.

 Les normes mondiales sont importantes mais ne signifient pas grand-chose sans réformes nationales  

Si la gouvernance mondiale est importante, elle doit se traduire par des réglementations et des réformes significatives prises en charge par les pays afin de garantir que les avantages des technologies numériques pour la société soient maximisés tout en minimisant les risques. Les réformateurs nationaux issus des gouvernements et de la société civile sont essentiels pour diriger ce programme.

Les réformateurs du gouvernement ouvert peuvent montrer la voie en :

  • Élaborer un cadre politique national solide pour l’IA, par le biais d’un processus ouvert et inclusif, qui donne l’assurance au public que les risques sont gérés et qu’une utilisation responsable de l’IA est possible. Une gouvernance solide crée le contexte propice à davantage d’innovation, et non à moins. À l’inverse, l’absence de cadre accroît les risques perçus et réels et peut conduire à des réactions négatives du public et à l’abandon de solutions potentiellement utiles. 
  • Utiliser des processus d’approvisionnement ouverts, inclusifs et responsables pour garantir une surveillance et une prise de décision solide, même en l’absence d’un cadre législatif solide.

Les valeurs de gouvernement ouvert que sont la transparence, la participation, l’inclusion et la responsabilité sont essentielles pour garantir que l’adoption des technologies numériques, telles que l’IA, contribue à améliorer la vie des personnes et des communautés et à renforcer les démocraties. Vérifiez Guide Open Gov sur la gouvernance numérique pour plus de recommandations et d’exemples.

Pas encore de commentaires

Laissez un commentaire

Votre adresse email n'apparaitra pas. Les champs obligatoires sont marqués *

Contenu similaire

Vignette du défi Open Gov

Le défi du gouvernement ouvert

Rejoignez des centaines de réformateurs du monde entier - au sein des gouvernements et de la société civile - qui s'efforcent de rendre leurs communautés plus fortes, plus ouvertes, participatives, inclusives et responsables.

Vignette pour la gouvernance numérique : prise de décision automatisée, algorithmes et intelligence artificielle

Gouvernance numérique : prise de décision automatisée, algorithmes et intelligence artificielle

Vignette pour traiter les informations préjudiciables en ligne Autres

Traiter les informations préjudiciables en ligne

La désinformation, la violence sexiste en ligne et les discours de haine ont un impact considérable sur l'espace civique et les processus démocratiques en ligne. Les gouvernements devraient prendre des mesures pour promouvoir des écosystèmes d’information en ligne sains et sûrs tout en…

Open Government Partnership