Cet article fait partie de la «série de blogs sur les algorithmes ouverts» de l'OGP. Lire les autres articles de la série ici.

Aujourd'hui, Institut AI Now, Institut Ada Lovelace et par Open Government PartnershipLa Open Government Partnership (OGP) est une initiative multipartite axée sur l'amélioration de la transparence du gouvernement, la garantie d'opportunités de participation des citoyens aux affaires publiques et le renforcement ... Plus (OGP) a lancé la première étude du genre qui analyse la première vague de cadres politiques qui favorisent transparenceSelon les articles de gouvernance de l'OGP, la transparence se produit lorsque "les informations détenues par le gouvernement (y compris sur les activités et les décisions) sont ouvertes, complètes, opportunes, librement accessibles au public... Plus et la responsabilité de l'utilisation des algorithmes par les gouvernements dans plusieurs juridictions. 

Étant donné que la plupart de ces politiques en sont encore à des stades de mise en œuvre très récents, l'étude couvre les premières tendances de mise en œuvre plutôt que l'impact à plus long terme et fournit des conseils et des leçons aux décideurs politiques responsables de la mise en œuvre. Vous pouvez trouver quelques-unes des principales conclusions ici et accédez au rapport complet ici. 

At DroitsCon 2021, des représentants du gouvernement et des organisations de la société civile, y compris les membres du Réseau d'algorithmes ouverts, discuté leur expérience dans la mise en œuvre d'initiatives de transparence des algorithmes et l'engagement du public dans la politique algorithmique. Voici quelques-unes des idées et des défis qu'ils ont partagés, qui ont grandement contribué aux conclusions du rapport : 

• Les algorithmes sont complexes et les niveaux de sensibilisation du public varient. En raison de l'attention accrue des médias dans différents pays et de plusieurs scandales comme dans le Netherlands et par UK, les gens sont de plus en plus conscients et préoccupés par la façon dont l'utilisation des données et des algorithmes par le secteur public peut avoir un impact significatif sur eux. Mais pour aller au-delà et parvenir à une transparence et une participation significatives, il est important de rendre l'information compréhensible pour le public (comme la France l'a fait en utilisant un vidéo pour expliquer un algorithme), s'engager avec les communautés affectées sur la conception et la mise en œuvre d'algorithmes, et fournir des mécanismes concrets pour l'examen public. Certaines des premières leçons de la consultations publiques mis en œuvre autour du Charte des algorithmes en Nouvelle-Zélande suggèrent qu'il est nécessaire de s'engager de manière proactive avec le public dès les premières étapes par le biais d'ateliers, des médias et de partenariats avec les communautés marginalisées, ainsi que de fournir des opportunités de rétroaction en plusieurs phases. 

• Il y a un manque de langage partagé ou cohérent. Des concepts comme les algorithmes, prise de décision automatiséeAlors que les gouvernements se tournent de plus en plus vers les algorithmes pour soutenir la prise de décision pour les services publics, la transparence et la responsabilité de l'utilisation des algorithmes sont nécessaires pour minimiser leurs dommages et augmenter ... Plus et l'intelligence artificielle sont utilisées avec des significations et des compréhensions différentes selon les juridictions et les communautés. Comme dans tous les domaines politiques émergents, la construction d'une compréhension commune prend du temps, mais pour impliquer de manière significative les citoyens et coordonner les politiques avec les différentes agences gouvernementales qui utilisent des algorithmes, il est important de travailler à surmonter l'ambiguïté.

• La disponibilité et la qualité des données ne doivent pas être sous-estimées. Les données entrées dans un algorithme ont un impact sur le résultat de la décision dans des domaines tels que la santé, l'éducation La responsabilité au sein du système d'éducation publique est essentielle pour améliorer les résultats et la réussite, et la responsabilité est presque impossible sans des politiques transparentes et des opportunités de participation ..., marchés publics, etc. Des données de mauvaise qualité, produites avec peu ou pas de contrôle de la part du public, ainsi que des données manquantes de groupes spécifiques (généralement les plus marginalisés) peuvent introduire des biais et de la discrimination dans les algorithmes et entraîner des décisions politiques médiocres et discriminatoires. Les efforts visant à améliorer la qualité et la disponibilité des données doivent être renforcés. 

• Les cadres juridiques et politiques qui soutiennent la mise en œuvre de la responsabilité algorithmique sont importants. Cadres transversaux autour de domaines tels que l'accès à l'information, la protection des données réglementationLes réformateurs du gouvernement élaborent des réglementations qui consacrent les valeurs de transparence, de participation et de responsabilité dans les pratiques gouvernementales. Spécifications techniques : Acte de création ou de réforme..., l'infrastructure numérique et la responsabilité en droit administratif, qui varient selon les contextes régionaux et les pays, peuvent avoir un impact sur la mise en œuvre des politiques de responsabilité algorithmique. Ceci est particulièrement important dans des contextes ou des pays où les conversations autour de l'intelligence artificielle et de la politique algorithmique en sont encore à leurs balbutiements. Alors que l'utilisation d'algorithmes dans le secteur public continue d'augmenter, la responsabilité algorithmique peut également être considérée comme un portail pour discuter des problèmes systémiques liés aux cadres fondamentaux.

À l'approche du 10e anniversaire d'OGP et avec plus de 100 pays et membres locaux co-créant leurs plans d'action cette année, les coprésidents d'OGP ont fait un appel à l'action à tous les membres pour promouvoir l'innovation numérique inclusive dans leur plan d'actionLes plans d'action sont au cœur de la participation d'un gouvernement à l'OGP. Ils sont le produit d'un processus de co-création dans lequel le gouvernement et la société civile développent conjointement des engagements en faveur d'un gouvernement ouvert... engagements. Nous espérons que les leçons tirées de cette étude et des discussions sur l'apprentissage par les pairs pourront soutenir les efforts des gouvernements et de la société civile pour faire progresser la responsabilité algorithmique, y compris dans le cadre de leurs plans d'action OGP.