Trois façons de mieux régir l’utilisation de l’IA

Le développement de l’intelligence artificielle (IA) offre un potentiel d’avantages positifs importants pour la société. Cependant, de profondes inquiétudes subsistent quant aux impacts négatifs potentiels sur la démocratie, les droits fondamentaux et la vie des citoyens s'ils ne sont pas gouvernés correctement. Le gouvernement ouvert et ses principes directeurs de transparenceSelon les articles de gouvernance de l'OGP, la transparence se produit lorsque "les informations détenues par le gouvernement (y compris sur les activités et les décisions) sont ouvertes, complètes, opportunes, librement accessibles au public... Plus, responsabilité, inclusionLes gouvernements participants à l'OGP s'efforcent de créer des gouvernements qui servent véritablement tous les peuples. Les engagements dans ce domaine peuvent concerner les personnes handicapées, les femmes et les filles, les lesbiennes, les gays, les bisexuels, les tr... Plus et la participation ont un rôle clé à jouer pour garantir que l’IA soit utilisée de manière responsable et au service du public.

L'OGP et le gouvernement du Kenya ont réuni des réformateurs du gouvernement et de la société civile de 12 pays pour discuter des moyens de gouverner les technologies numériques nouvelles et émergentes. Voici trois conclusions clés pour la gouvernance de l’IA.

La société doit définir l'IA

La trajectoire de l’IA doit être façonnée par les défis mondiaux, nationaux et locaux auxquels nous sommes confrontés et par les intérêts de tous les membres de la société – et non par les intérêts privés des grandes entreprises technologiques et de leurs actionnaires. 

Cela implique de se poser des questions sur quoi, pourquoi et qui : quel est le défi sociétal à relever ? Comment l’IA peut-elle aider à relever ce défi ? Et qui bénéficiera et qui perdra de son utilisation ? Identifier le problème et évaluer comment une technologie peut le résoudre, et avec quelles conséquences, devrait faire partie intégrante de la conceptualisation, de la création, de la gouvernance et de l’évaluation de l’utilisation de l’IA. 

Ces principes peuvent être mis en pratique en :

• Définir « l’intérêt public » pour l’IA par le biais de conversations ouvertes, inclusives et multipartites, y compris la société civile et le public. Cela peut garantir que l’IA est développée d’une manière qui soit cohérente avec les valeurs, les intérêts et les préoccupations du public, contribuant ainsi à un plus grand impact public et à une plus grande confiance du public.
• Maintenir la surveillance humaine et la responsabilité en matière d’IA et prise de décision automatiséeAlors que les gouvernements se tournent de plus en plus vers les algorithmes pour soutenir la prise de décision pour les services publics, la transparence et la responsabilité de l'utilisation des algorithmes sont nécessaires pour minimiser leurs dommages et augmenter ... Plus. Les décisions prises par un algorithme doivent pouvoir être contestées par des humains pour garantir que leurs résultats correspondent à l'objectif visé. Cela implique non seulement d'avoir un « humain dans la pièce », mais également de procéder à des tests préalables au déploiement, à une surveillance continue et à un impact et un impact transparents. droits de l'hommeUn élément essentiel d'un gouvernement ouvert comprend la protection des libertés et des droits sacrés de tous les citoyens, y compris les groupes les plus vulnérables, et la responsabilisation de ceux qui violent les droits de l'homme. T... évaluations.

L’IA ne doit pas reproduire les inégalités existantes

La capacité de bénéficier des avantages et d’éviter les risques de l’IA n’est pas partagée de manière égale. Les avantages de l’IA et des autres technologies numériques pour l’humanité ne peuvent être pleinement exploités que s’ils sont développés en tenant compte des besoins, des intérêts, des langues et des contextes des différents pays et des diverses communautés. 

Plus précisément: 

• Incidents préjudiciables visant les femmes, jeunesseReconnaissant qu'investir dans la jeunesse signifie investir dans un avenir meilleur, les gouvernements participants au PGO créent des opportunités significatives pour que les jeunes participent aux processus gouvernementaux. Technique... Plus, les minorités et d’autres groupes vulnérables ont démontré l’importance d’acquérir, de concevoir, de tester et de mettre en œuvre des technologies d’IA dans le cadre des droits de l’homme et le sexeLes gouvernements participants à l'OGP apportent des perspectives de genre dans les domaines politiques populaires, assurent la diversité dans les processus participatifs et ciblent spécifiquement les écarts entre les sexes dans les politiques pour aborder le gouvernement ... Plus lentille. 
• Les technologies numériques ne sont pas neutres, mais reproduisent des biais inhérents à leurs données, leurs programmations et leurs usages. S'attaquer véritablement à ces préjugés dans les algorithmes nécessite de s'attaquer aux préjugés de nos institutions et de nos sociétés, mais aussi de solides mécanismes de plainte du public, des mécanismes indépendants réguliers auditsDes cadres institutionnels et juridiques sont nécessaires pour garantir l'intégrité des informations financières et le respect des règles et procédures budgétaires. Spécifications techniques : Ces..., et une application stricte de la réglementation peut aider à éliminer et à remédier à ces préjugés dans l’IA.

 Les normes mondiales sont importantes mais ne signifient pas grand-chose sans réformes nationales  

Si la gouvernance mondiale est importante, elle doit se traduire par des réglementations et des réformes significatives prises en charge par les pays afin de garantir que les avantages des technologies numériques pour la société soient maximisés tout en minimisant les risques. Les réformateurs nationaux issus des gouvernements et de la société civile sont essentiels pour diriger ce programme.

Les réformateurs du gouvernement ouvert peuvent montrer la voie en :

• Élaborer un cadre politique national solide pour l’IA, par le biais d’un processus ouvert et inclusif, qui donne l’assurance au public que les risques sont gérés et qu’une utilisation responsable de l’IA est possible. Une gouvernance solide crée le contexte propice à davantage d’innovation, et non à moins. À l’inverse, l’absence de cadre accroît les risques perçus et réels et peut conduire à des réactions négatives du public et à l’abandon de solutions potentiellement utiles. 
• Utiliser des processus d’approvisionnement ouverts, inclusifs et responsables pour garantir une surveillance et une prise de décision solide, même en l’absence d’un cadre législatif solide.

Les valeurs de gouvernement ouvert que sont la transparence, la participation, l’inclusion et la responsabilité sont essentielles pour garantir que l’adoption des technologies numériques, telles que l’IA, contribue à améliorer la vie des personnes et des communautés et à renforcer les démocraties. Vérifiez Guide Open Gov sur la gouvernance numérique pour plus de recommandations et d’exemples.