Ignorer la navigation

Rendre les algorithmes responsables envers les citoyens

Algoritmos que rinden cuentas a la ciudadanía

Paula Perez|

Aujourd'hui, Institut AI Now, Institut Ada Lovelace et l’équipe de Open Government Partnership (OGP) a lancé la première étude du genre qui analyse la première vague de cadres politiques qui favorisent la transparence et la responsabilité de l'utilisation des algorithmes par les gouvernements dans plusieurs juridictions. 

Étant donné que la plupart de ces politiques en sont encore à des stades de mise en œuvre très récents, l'étude couvre les premières tendances de mise en œuvre plutôt que l'impact à plus long terme et fournit des conseils et des leçons aux décideurs politiques responsables de la mise en œuvre. Vous pouvez trouver quelques-unes des principales conclusions ici et accédez au rapport complet ici

At DroitsCon 2021, des représentants du gouvernement et des organisations de la société civile, y compris les membres du Réseau d'algorithmes ouverts, discuté leur expérience dans la mise en œuvre d'initiatives de transparence des algorithmes et l'engagement du public dans la politique algorithmique. Voici quelques-unes des idées et des défis qu'ils ont partagés, qui ont grandement contribué aux conclusions du rapport : 

  • Les algorithmes sont complexes et les niveaux de sensibilisation du public varient. En raison de l'attention accrue des médias dans différents pays et de plusieurs scandales comme dans le Pays-Bas et l’équipe de UK, les gens sont de plus en plus conscients et préoccupés par la façon dont l'utilisation des données et des algorithmes par le secteur public peut avoir un impact significatif sur eux. Mais pour aller au-delà et parvenir à une transparence et une participation significatives, il est important de rendre l'information compréhensible pour le public (comme la France l'a fait en utilisant un vidéo pour expliquer un algorithme), s'engager avec les communautés affectées sur la conception et la mise en œuvre d'algorithmes, et fournir des mécanismes concrets pour l'examen public. Certaines des premières leçons de la consultations publiques mis en œuvre autour du Charte des algorithmes en Nouvelle-Zélande suggèrent qu'il est nécessaire de s'engager de manière proactive avec le public dès les premières étapes par le biais d'ateliers, des médias et de partenariats avec les communautés marginalisées, ainsi que de fournir des opportunités de rétroaction en plusieurs phases. 
  • Il y a un manque de langage partagé ou cohérent. Des concepts tels que les algorithmes, la prise de décision automatisée et l'intelligence artificielle sont utilisés avec différentes significations et compréhensions selon les juridictions et les communautés. Comme dans tous les domaines politiques émergents, la construction d'une compréhension commune prend du temps, mais pour impliquer les citoyens de manière significative et coordonner les politiques avec les différentes agences gouvernementales qui utilisent des algorithmes, il est important de travailler à surmonter l'ambiguïté.
  • La disponibilité et la qualité des données ne doivent pas être sous-estimées. Les données saisies dans un algorithme ont un impact sur le résultat de la décision dans des domaines tels que la santé, l'éducation, les marchés publics et autres. Des données de faible qualité, qui sont produites avec peu ou pas de surveillance de la part du public, ainsi que des données manquantes provenant de groupes spécifiques (généralement les plus marginalisés) peuvent introduire des biais et de la discrimination dans les algorithmes et entraîner des décisions politiques médiocres et discriminatoires. Les efforts visant à améliorer la qualité et la disponibilité des données doivent être renforcés. 
  • Les cadres juridiques et politiques qui soutiennent la mise en œuvre de la responsabilité algorithmique sont importants. Les cadres transversaux autour de domaines tels que l'accès à l'information, la réglementation de la protection des données, l'infrastructure numérique et la responsabilité en droit administratif, qui varient selon les contextes régionaux et les pays, peuvent avoir un impact sur la mise en œuvre des politiques de responsabilité algorithmique. Ceci est particulièrement important dans des contextes ou des pays où les conversations autour de l'intelligence artificielle et de la politique algorithmique en sont encore à leurs balbutiements. Alors que l'utilisation d'algorithmes dans le secteur public continue d'augmenter, la responsabilité algorithmique peut également être considérée comme un portail pour discuter des problèmes systémiques liés aux cadres fondamentaux.

À l'approche du 10e anniversaire d'OGP et avec plus de 100 pays et membres locaux co-créant leurs plans d'action cette année, les coprésidents d'OGP ont fait un appel à l'action à tous les membres pour promouvoir l'innovation numérique inclusive dans les engagements de leur plan d'action. Nous espérons que les enseignements de cette étude et des discussions d'apprentissage entre pairs pourront soutenir les efforts des gouvernements et de la société civile pour faire progresser la responsabilité algorithmique, y compris dans le cadre de leurs plans d'action OGP.

Pas encore de commentaires

Laissez un commentaire

Votre adresse email n'apparaîtra pas. Les champs obligatoires sont marqués *

contenu similaire

Miniature pour Open Algorithms Network

Réseau d'algorithmes ouverts

Découvrez le réseau informel de gouvernements chargés de la mise en œuvre de l'OGP, qui mobilise une coalition internationale de personnes travaillant sur la responsabilité algorithmique.

Vignette pour les algorithmes ouverts: expériences de France, des Pays-Bas et de Nouvelle-Zélande Défis et solutions

Algorithmes ouverts: expériences de France, des Pays-Bas et de Nouvelle-Zélande

Les algorithmes - des systèmes analytiques qui traitent les données et complètent ou remplacent la prise de décision précédemment entreprise par les gens - sont devenus un moyen essentiel pour les gouvernements d'améliorer la prestation des services publics…

Vignette de l'appel à l'action mondial du coprésident pour tous les membres de l'OGP

Coprésident Appel mondial à l'action pour tous les membres du PGO

Pour soutenir Open Renewal, les coprésidents de l'OGP, la République de Corée et Maria Baron de Directorio Legislativo, ont lancé un appel à l'action mondial pour tous les membres de l'OGP en 2021…

Open Government Partnership