Ignorer la navigation
Nouvelle-Zélande

Examen de l'utilisation des algorithmes par le gouvernement (NZ0019)

Vue d'ensemble

D'un coup d'œil

Plan d'action: Plan d'action de la Nouvelle-Zélande 2018-2020

Cycle du plan d'action: 2018

Statut: actif

Institutions

Institution principale: Stats NZ (en collaboration avec le ministère de l'Intérieur (responsable numérique du gouvernement))

Institution (s) de soutien: NA

Domaines politiques

Prise de décision automatisée, Gouvernance numérique, Technologie scientifique

Revue IRM

Rapport IRM: Rapport de conception de la Nouvelle-Zélande 2018-2020

En vedette: en attente de révision IRM

Premiers résultats: examen IRM en attente

Design i

Vérifiable: oui

Pertinent par rapport aux valeurs du PGO: la participation citoyenne

Impact potentiel:

Exécution i

Achèvement:

Description

Engagement 8: Examen de l'utilisation des algorithmes par le gouvernement
Objectif:
Augmenter la transparence et la responsabilité de la façon dont le gouvernement utilise
algorithmes.
Ambition:
Pour que les Néo-Zélandais soient informés et aient confiance en la manière dont la
gouvernement utilise des algorithmes - processus de prise de décision automatique utilisés par
programmes informatiques - pour identifier les modèles dans les données.
Status Quo:
Les avancées dans les environnements numériques et de données changent notre vie,
travailler et interagir. Ces environnements en mutation présentent des avantages considérables.
améliorer la vie des citoyens, mais pose également des défis à la société.
s'assurer que les données sont utilisées correctement.
Des outils tels que la modélisation de données et les algorithmes ont un pouvoir considérable
améliorer des vies. Bien que ces outils soient de plus en plus utilisés par le gouvernement
agences pour soutenir la prise de décision, il n’existe pas d’accord convenu entre les gouvernements
approche des algorithmes ou des décisions qu’ils prennent en charge.
Le Data Steward en chef (directeur de Stats NZ) a récemment publié
les principes pour une utilisation sûre et efficace des données et des analyses avec
Commissaire à la protection de la vie privée. À l'aide de ces informations, le responsable des données en chef entreprend
un examen pangouvernemental avec le Chief Digital Officer (Chief Executive Officer)
du ministère de l'intérieur) pour accroître la transparence et la
la responsabilité de la façon dont le gouvernement utilise les algorithmes - pour améliorer la vie
des Néo-Zélandais. L’accent sera mis initialement sur des algorithmes opérationnels qui
avoir pour résultat ou d’informer des décisions ayant un impact direct sur des individus ou des groupes.
Disposer de conseils, de contrôles et de transparence est essentiel pour les nouveaux
Les Néo-Zélandais à comprendre comment leurs données personnelles sont utilisées et à
la confiance et l'intégrité des données utilisées par le gouvernement
tient en leur nom. Agence chef de file: Stats NZ (en collaboration avec le ministère de l'Intérieur
(Responsable numérique du gouvernement))
Chronologie: Octobre 2018 - Juin 2020
Engagement 8: Examen de l'utilisation des algorithmes par le gouvernement
Transparence des valeurs OGP,
Responsabilité
Jalons vérifiables et mesurables à remplir
l'engagement
Date de début Date de fin
Effectuer un examen initial des systèmes opérationnels existants
algorithmes et leur utilisation dans une gamme de
agences gouvernementales7 8
1 June 2018 31 October
2018
Envisager les prochaines étapes pour l’assurance de l’ensemble du gouvernement
liés à l'utilisation d'algorithmes en collaboration
avec des représentants de la société civile
31 Octobre
2018
28 Février
2019
Mettre à jour cet engagement (et ses jalons) pour
refléter les progrès réalisés dans les étapes précédentes
Mars 1
2019
Mars 31
2019

Résumé du statut à mi-parcours de l'IRM

8. Examen de l'utilisation par le gouvernement des algorithmes

Objectif: Accroître la transparence et la responsabilité de la façon dont le gouvernement utilise les algorithmes.

Jalons:

  1. «Achever un premier examen des algorithmes opérationnels existants et de leur utilisation dans un éventail d'organismes gouvernementaux»;
  2. «Envisager les prochaines étapes de l'assurance pangouvernementale liée à l'utilisation d'algorithmes en collaboration avec les représentants de la société civile»;
  3. «Mettre à jour cet engagement (et ses jalons) pour refléter les progrès réalisés dans les jalons précédents».

Date de début: Juin 2018

Date de fin: June 2020

Contexte et objectifs

L'objectif et l'ambition de l'engagement sont d'accroître la transparence et la responsabilité concernant l'utilisation des algorithmes par le gouvernement en s'assurant que le public est informé et a confiance en leur utilisation. Il note qu'il n'y a pas d'approche inter-gouvernementale concertée des algorithmes ou des décisions qu'ils soutiennent. Cela soutient les opinions exprimées par les auteurs et les participants lors de l'élaboration du plan d'action selon lesquelles l'utilisation par le gouvernement d'algorithmes devait être plus transparente et responsable, l'un d'entre eux déclarant qu '«il est impuissant pour les citoyens d'être soumis à des processus numériques qui sont opaques et peuvent contenir des biais et des hypothèses cachés». Les commentaires renforcent l'importance du sujet et le désir mutuel d'accroître la transparence et la responsabilité.

Il s'agit d'un travail que Stats NZ et le Chief Digital Officer du gouvernement ont commencé en mai 2018 après avoir conseillé aux ministres que de nombreux organismes gouvernementaux utilisent déjà la modélisation des données et des algorithmes pour aider à la prise de décision; il est nécessaire de s'assurer que les algorithmes sont utilisés de manière appropriée, éthique et sans biais; et il n'y a pas d'enregistrement centralisé de ces outils et des décisions qu'ils soutiennent. Comme ce travail est un nouveau domaine, sa portée initiale est limitée et doit être élargie et spécifiée sur la base de l'examen initial. Il répond à la valeur de la participation civique de l'OGP, car l'engagement collaborera avec les représentants de la société civile pour envisager les prochaines étapes concernant l'utilisation des algorithmes.

Le travail consiste à effectuer un examen initial, travailler avec les représentants de la société civile pour examiner les prochaines étapes de l'assurance pangouvernementale de l'utilisation des algorithmes et des actions ultérieures découlant des progrès des étapes 1 et 2. En suivant les conseils de Stats NZ, ils feront rapport publiquement sur les étapes 2 et 3 et que Le jalon 3 est un lieu d'attente pour l'ajout d'activités ultérieures jusqu'en juin 2020, le chercheur de l'IRM conclut que les jalons sont suffisamment précis pour être vérifiés.

Des experts externes en algorithmes ont informé le chercheur de l'IRM que l'approche de l'examen initial permettant à 14 agences d'auto-identifier leurs algorithmes était minime et manquait de profondeur. Un autre a noté l'absence d'une liste complète, l'omission de certains algorithmes importants, la nécessité d'un débat public plus approfondi sur l'éthique et a demandé un calendrier précis pour les rapports aux ministres. Dans la perspective des étapes 2 et 3, ces parties prenantes s'attendent à ce que la politique gouvernementale exige que tous les algorithmes utilisés par le gouvernement soient connus, catalogués dans un registre et transparents; le travail effectué pour accroître la capacité des fonctionnaires à comprendre ce que font les algorithmes et à développer des compétences pour les mettre à jour; et que le gouvernement a une première politique ouverte avec des directives pour les algorithmes ouverts à travers le gouvernement. D'autres ont demandé l'assurance que ces travaux permettraient de gagner la confiance recherchée par le gouvernement et étaient ravis de pouvoir s'appuyer sur les principes pour une utilisation sûre et efficace des données et des analyses, publiés par le commissaire à la protection de la vie privée et le responsable en chef des données du gouvernement en mai 2018. Ils ont appuyé un processus vérifiable évaluant les risques et d'autres facteurs liés à la sécurité. Un autre a noté que le Data Futures Partnership, qui a donné des conseils dans ce domaine, ne fonctionne plus car il a été établi pour une durée spécifique et a estimé que cet engagement tel qu'il était rédigé n'engendrait pas la confiance. D'autres ont noté que l'intelligence artificielle (IA) tourne souvent autour de l'utilisation d'algorithmes et souhaitent savoir si cette revue couvre l'IA. L'engagement se concentre cependant sur l'augmentation de la transparence et de la responsabilité des algorithmes, et le chercheur de l'IRM a été informé le 12 août 2019 qu '«il n'y a actuellement aucune capacité d'étendre la portée de ces travaux pour couvrir l'IA». Tous ont soutenu un engagement public plus large.

S'il est pleinement mis en œuvre tel que conçu, l'engagement aurait un impact potentiel mineur, car les jalons tels qu'énoncés ne peuvent pas atteindre la déclaration d'ambition ni produire les résultats convenus par les ministres en mai 2018. La réforme transformatrice nécessiterait un programme pour former les fonctionnaires à comprendre ce que font les algorithmes et comment pour les mettre à jour, ainsi que l'engagement du public au sens large et le travail détaillé de politique et de mise en œuvre intergouvernementales identifiés par les parties prenantes. L'étape 3 du plan d'action permet à Stats NZ d'envisager les prochaines étapes en consultation avec les représentants de la société civile et d'établir de nouvelles étapes.

Prochaines étapes

Si cet engagement est reporté au prochain plan d'action ou s'il y a des améliorations dans la mise en œuvre de cet engagement, le chercheur IRM recommande de travailler pour:

  • documenter tous les algorithmes utilisés par le gouvernement et rendre le registre accessible au public;
  • dialoguer largement avec le public au cours de ces travaux; et
  • élaborer et mettre en œuvre des politiques, des lignes directrices et une formation nécessitant des algorithmes ouverts à l'échelle du gouvernement.
Communication au ministre des Statistiques et ministre des Services numériques gouvernementaux, https://data.govt.nz/assets/Blog-files/Review-of-Government-Algorithms-Report-14-May-2018-for-release.pdf
La revue initiale, publiée en octobre 2018, fait état de 14 agences gouvernementales qui ont auto-évalué les algorithmes qu'elles utilisent pour exercer leurs fonctions, en se concentrant sur les domaines ayant le plus d'impact direct sur les décisions liées aux personnes, https://www.data.govt.nz/assets/Uploads/Algorithm-Assessment-Report-Oct-2018.pdf
Réunion des chercheurs de l'IRM avec des chefs d'engagement, 14 février 2019.
Rencontre avec le représentant de NZ Rise, 23 janvier 2019, et approuvée par NZGov Tech, 18 février 2019.
Suggéré par Miriam Lips, professeur Digital Government, Victoria University of Wellington, 18 février 2019.
Rencontre avec le représentant de NZ Rise, 23 janvier 2019, et approuvée par NZGov Tech, 18 février 2019.
Entretien avec Jan Rivers, 22 janvier 2019.
Entretien d'un chercheur de l'IRM avec NZGov Tech, 18 février 2019.
Avis de la State Service Commission à l'IRM, 12 août 2019.

Engagements

  1. Engagement avec le Parlement

    NZ0012, 2018, renforcement des capacités

  2. Parlement des jeunes

    NZ0013, 2018, renforcement des capacités

  3. Boîte à outils pour les sortants

    NZ0014, 2018, renforcement des capacités

  4. Rendre la législation secondaire de la Nouvelle-Zélande facilement accessible

    NZ0015, 2018, Gouvernement électronique

  5. Participation du public à l'élaboration de politiques

    NZ0016, 2018, renforcement des capacités

  6. Conception des services

    NZ0017, 2018, renforcement des capacités

  7. Informations officielles

    NZ0018, 2018, Accès à l'information

  8. Examen de l'utilisation des algorithmes par le gouvernement

    NZ0019, 2018, Prise de décision automatisée

  9. Transparence des pratiques de données

    NZ0020, 2018, renforcement des capacités

  10. Surveillance des pratiques de gestion de l'information

    NZ0021, 2018, Législation et Réglementation

  11. Open Data Organisations gouvernementales

    NZ0022, 2018, Accès à l'information

  12. Approvisionnement ouvert

    NZ0023, 2018, Accès à l'information

  13. Budget ouvert

    NZ0005, 2016, Accès à l'information

  14. Améliorer les pratiques d'information officielles

    NZ0006, 2016, Accès à l'information

  15. Améliorer l'accès aux données ouvertes et les principes

    NZ0007, 2016, Accès à l'information

  16. Suivi des progrès et des résultats de la diffusion de données sur un gouvernement ouvert

    NZ0008, 2016, Accès à l'information

  17. Engagement continu pour OGP

    NZ0009, 2016, renforcement des capacités

  18. Engagement étoilé Améliorer l'accès à la législation

    NZ0010, 2016, renforcement des capacités

  19. Améliorer les pratiques politiques

    NZ0011, 2016, renforcement des capacités

  20. Résultat BPS 10 - Les Néo-Zélandais peuvent finaliser facilement leurs transactions avec le gouvernement dans un environnement numérique

    NZ0001, 2014, Gouvernement électronique

  21. Stratégie d'action TIC 13 - Ouverture par défaut: réutilisation active d'actifs informationnels

    NZ0002, 2014, Accès à l'information

  22. Évaluation du système national d'intégrité

    NZ0003, 2014, Anti-Corruption

  23. L'accord de relation Kia TūTahi

    NZ0004, 2014, renforcement des capacités

NE PAS suivre ce lien ou vous serez interdit sur le site!