Transparence de la prise de décision automatisée (AU0024)

Résumé

Le but de cet engagement est d’assurer une plus grande transparence sur l’utilisation de la prise de décision automatisée (ADM) au sein du gouvernement et de contribuer à une intelligence artificielle (IA) sûre et responsable tout en facilitant l’innovation. Cet objectif devrait être atteint grâce à : • une gouvernance, des capacités et des orientations améliorées pour soutenir l'utilisation sûre et responsable de l'IA en Australie ; • la prise en compte d'un cadre juridique cohérent régissant la prise de décision automatisée par les agences gouvernementales australiennes ; et • une transparence et des protections améliorées pour les personnes. traitement des informations par des entités soumises à la Loi sur la protection de la vie privée de 1988.

Pourquoi cet engagement est important

La concrétisation de cet engagement vise à répondre aux préoccupations de la communauté concernant la transparence et l'intégrité des décisions prises à l'aide des systèmes ADM, ainsi que concernant l'utilisation sûre et responsable de l'IA. Il est important qu’il existe un cadre juridique cohérent pour soutenir le recours à la prise de décision automatisée, afin que les services gouvernementaux puissent fonctionner de manière éthique, impartiale et avec des garanties appropriées. Il est également nécessaire de soutenir la transparence et l'intégrité des décisions prises à l'aide des systèmes ADM, notamment en permettant aux individus de demander des informations significatives sur la manière dont les décisions automatisées, ayant un effet juridique ou tout aussi important, sont prises lorsqu'elles utilisent des informations personnelles. Ces objectifs se reflètent à la fois dans la réponse du gouvernement à la Commission royale Robodebt, qui s'est engagée à examiner les options pour un cadre juridique cohérent pour ADM, et dans la réponse du gouvernement au rapport d'examen de la Loi sur la protection des renseignements personnels. Une plus grande transparence sur l'utilisation de l'ADM contribue à renforcer la confiance du public dont l'Australie a besoin pour tirer pleinement parti des avantages de l'IA, notamment les opportunités d'améliorer la productivité, de faciliter la croissance économique et d'améliorer les résultats des Australiens dans les domaines de la santé, de l'éducation, de l'environnement et de la sécurité nationale. Ce travail aidera le gouvernement australien à progresser dans ce domaine en développement rapide et à établir des mécanismes de gouvernance pour garantir que l’IA soit développée et utilisée de manière sûre et responsable en Australie. Ces mécanismes peuvent inclure des réglementations, des normes, des outils, des cadres, des principes et des pratiques commerciales.

Domaines de défi OGP associés

• Gouvernance numérique • Accès à l'information

Comment mesurer l’impact de cet engagement

• Le gouvernement australien est en mesure de faire preuve de transparence dans l'utilisation de l'ADM. • Des mécanismes de gouvernance sont établis pour garantir que l'IA soit développée et utilisée de manière sûre et responsable en Australie.

Autres informations pertinentes, par exemple demandes de renseignements, travaux de recherche en cours

Le ministère de l'Industrie, des Sciences et des Ressources (DISR) a récemment organisé une consultation publique sur l'IA sûre et responsable, qui a donné lieu à plus de 500 réponses réaffirmant les attentes de la communauté concernant la transparence dans l'utilisation des technologies d'IA, en particulier par le gouvernement. Le gouvernement australien examine actuellement ces soumissions. Le 19 septembre 2023, le député Ed Husic, ministre de l'Industrie et des Sciences, et la sénatrice Katy Gallagher, ministre des Finances, ont annoncé la création du groupe de travail sur l'IA au sein du gouvernement pour se concentrer sur l'utilisation sûre et responsable de l'IA au sein du gouvernement. Le groupe de travail relève du sous-comité du Conseil des secrétaires sur l'avenir du travail et est dirigé conjointement par la Digital Transformation Agency (DTA) et le DISR. Il développe des approches en matière de gouvernance, de gestion des risques, de compétences et de capacités, ainsi que d’utilisation technique et de préparation à l’IA à l’échelle pangouvernementale. Le ministère du Procureur général progresse dans les travaux sur la réponse du gouvernement au rapport d'examen de la loi sur la protection de la vie privée, qui a été publié le 28 septembre 2023, qui comprend un accord sur les propositions concernant l'utilisation de l'ADM (propositions 19.1 à 19.3). La réponse du gouvernement à la Commission royale Robodebt s'est engagée à examiner les possibilités de réforme législative afin d'introduire un cadre juridique cohérent dans lequel l'automatisation des services gouvernementaux peut fonctionner de manière éthique, sans parti pris et avec des garanties appropriées, qui incluront la prise en compte des voies d'examen et des mécanismes de transparence (recommandation 17.1). OGP Global propose d'autres recommandations sur la gouvernance numérique et la prise de décision automatisée dans son Guide du gouvernement ouvert.

Jalons*

1.1 Groupe de travail sur la mise à jour de l'IA au sein du gouvernement Groupe de travail chargé de mettre à jour les orientations provisoires sur l'utilisation de l'IA générative pour les agences.

1.2 Réponse du gouvernement Publication de la réponse du gouvernement au rapport d'examen de la Loi sur la protection des renseignements personnels

1.3 Réponse du gouvernement à la publication de la réponse du gouvernement à la Commission royale Robodebt

1.4 Nouvelle législation Introduire une législation pour protéger les informations personnelles des Australiens, y compris en ce qui concerne l'utilisation d'ADM.

1.5 Ébauche d'élaboration de politiques L'AGD dirigera l'élaboration de politiques et le processus de définition des options permettant d'élaborer un cadre législatif pangouvernemental complet et cohérent pour l'ADM en réponse à la recommandation 17.1 de la Commission royale Robodebt, y compris une consultation au sein du gouvernement et une consultation ciblée avec les parties prenantes externes. Cela inclura l’examen des options d’automatisation des services gouvernementaux afin de fonctionner de manière éthique, impartiale et avec des garanties appropriées.

1.6 Consultation publique L'AGD dirigera la consultation publique et donnera des conseils sur les options de mise en œuvre d'un cadre législatif pangouvernemental pour l'ADM, et finalisera la législation pour examen et introduction par le gouvernement.

1.7 Mettre en œuvre un nouveau cadre AGD pour diriger la mise en œuvre de tout cadre législatif pangouvernemental pour la SMA, y compris l'élaboration de documents d'orientation et la fourniture de conseils aux agences.

*Des jalons supplémentaires ou plus détaillés pourraient être ajoutés en 2024, après examen du gouvernement.

Examen du plan d'action

Engagement 1. Transparence de la prise de décision automatisée

Engagement 1. Transparence de la prise de décision automatisée. Département du procureur général; Bureau de l'ombudsman du Commonwealth.

Pour une description complète de l’engagement, voir l’engagement 1 dans Australie Open Government Partnership Plan d'action national 2023-2025.

Contexte et objectifs:

Cet engagement, proposé par les membres du gouvernement, mais reflétant une préoccupation publique croissante reconnue par les membres de la société civile de l'OGP, [1] L'objectif de ce projet est de répondre aux préoccupations générales de toute l'Australie concernant les décisions prises par le gouvernement à l'aide de la prise de décision automatisée (ADM). S'alignant sur les travaux gouvernementaux déjà en cours, il répond à la recommandation 17.1 du rapport de la Commission royale de juillet 2023 sur le programme Robodebt. [2] Pendant six ans, le système a automatiquement comparé les données des bénéficiaires de l'aide sociale fournies à Centrelink avec celles de l'Australian Tax Office et a envoyé des lettres demandant par erreur aux bénéficiaires de rembourser des milliers de dollars au gouvernement. Cette situation a eu des conséquences sociales très graves, notamment des cas de suicide.

Les trois premières étapes de l'engagement ont été mises en œuvre en 2023, avant la période de mise en œuvre officielle de ce plan d'action : publication de l'intelligence artificielle (IA) dans les orientations provisoires mises à jour du groupe de travail gouvernemental sur l'utilisation des outils d'IA génératifs publics pour les agences en novembre, [3] en publiant la réponse du gouvernement au rapport d'examen de la Loi sur la protection des renseignements personnels en septembre, [4] et la publication de la réponse du gouvernement au rapport Robodebt de la Commission royale en novembre. [5] Les deux réponses prévoient des réformes juridiques que l’engagement entend mettre en œuvre au cours de la période de mise en œuvre.

Potentiel de résultats : Substantiel

Cet engagement vise à rétablir la confiance du public dans l'utilisation des données par le gouvernement, grâce à une nouvelle législation protégeant l'utilisation des données personnelles dans les décisions relatives aux données, ainsi qu'à un cadre législatif pour les données. Il s'agit d'une priorité pour les Australiens, comme en témoignent le volume et la diversité des soumissions à la Commission royale et les questions soulevées lors des précédentes enquêtes publiques du Sénat sur le programme Robodebt. [6] Selon le Law Council, le secteur communautaire, y compris l’assistance juridique communautaire, et les nombreux Australiens touchés par Robodebt, ont été responsables de la mise en évidence des problèmes soulevés par le projet. [7] En acceptant les recommandations de la Commission royale, le ministre des Services gouvernementaux a souligné l’importance de veiller à ce que le Robodebt ne se reproduise plus, reconnaissant le tribut qu’il a coûté à ceux qui se sont suicidés et à leurs familles. [8] La législation qui sera introduite par cet engagement devrait garantir que les individus puissent demander des informations utiles sur la manière dont les décisions automatisées sont prises lors de l’utilisation des informations personnelles.

Dans un premier temps, l'engagement prévoit d'introduire une nouvelle législation protégeant les renseignements personnels, y compris lorsque l'ADM est utilisé, en 2024. Le ministère du Procureur général (AGD) a précisé que la législation sera accompagnée de directives aux agences et que le Bureau du Commissaire à l'information (OAIC) ​​continuera de conseiller le public sur cette question. [9] La réponse à l’examen de la Loi sur la protection des renseignements personnels a engagé le gouvernement à mettre en œuvre des réformes qui assureront une meilleure protection de la vie privée tout en encourageant l’innovation numérique. [10] La proposition 19.1 de la réponse du gouvernement exige que les entités réglementées s'assurent que leurs politiques de confidentialité définissent les types d'informations personnelles qui seront utilisées dans les « décisions substantiellement automatisées » qui ont un effet juridique ou autrement significatif sur un individu, et la proposition 19.3 propose que les individus aient le droit de demander des informations significatives, sans jargon et claires sur la manière dont sont prises les décisions automatisées qui ont un effet juridique (ou tout aussi significatif) sur les droits d'un individu. [11] Les médias notent que ces propositions s'inspirent de l'article 22 du règlement général sur la protection des données (RGPD) de l'Union européenne. [12] mais s'appliquerait à un éventail plus large de prises de décision automatisées que celles prévues par le RGPD, qui s'applique uniquement aux décisions automatisées, plutôt qu'aux décisions substantiellement automatisées. [13]

En 2025, l'engagement prévoit d'introduire et de mettre en œuvre un cadre législatif transparent pour l'ensemble du gouvernement en matière d'automatisation automatisée, axé sur l'automatisation éthique et sûre des services gouvernementaux, ainsi que d'élaborer des documents d'orientation et des conseils à l'intention des agences. Dirigé par AGD, il sera élaboré en consultation avec le gouvernement, des parties prenantes externes ciblées et par le biais d'une consultation publique en 2024-25. La réponse du gouvernement à la Commission royale a déclaré qu'il examinerait les possibilités de garantir un cadre juridique cohérent, clair et transparent pour la prise de décisions gouvernementales impliquant l'automatisation, en exploitant les avancées technologiques en matière d'intelligence artificielle et d'automatisation, et qu'il élaborerait un cadre juridique complet et cohérent pour soutenir la prise de décision automatisée, conformément aux principes recommandés par la Commission royale. [14]

Les membres de la société civile de l’OGF qui ont fourni des commentaires sur cet engagement ont reconnu l’ampleur et la clarté de ses étapes, à travers la législation proposée introduisant un changement contraignant. [15] Bien que l’engagement n’offre pas d’assurances sur la portée particulière de la législation prévue, en mai 2024, le procureur général a décrit la portée de la réforme de la Loi sur la protection des renseignements personnels qui sera introduite en août 2024. [16] Le gouvernement a convenu que les types de renseignements personnels à utiliser dans les décisions largement automatisées qui ont un effet juridique ou un effet similaire significatif sur les droits d’un individu devraient être clairement décrits dans les politiques de confidentialité. [17] En juin, la loi de 2024 sur le Tribunal de révision administrative a été promulguée. Cette loi a remplacé le Tribunal d'appel administratif par le Tribunal de révision administrative et a rétabli le Conseil de révision administrative pour soutenir les améliorations continues de la prise de décision administrative dans l'ensemble du gouvernement. [18] En tant qu'organisme indépendant, le Conseil a le pouvoir de déterminer les questions qui doivent faire l'objet d'une enquête en rapport avec ses fonctions. L'annonce de mai 2024 de la nomination du prochain Commissaire australien à l'information continue de garantir que les orientations gouvernementales visant à assurer la promotion et la protection appropriées des droits d'accès à l'information et de confidentialité continueront d'être une priorité absolue. [19]

Si le gouvernement continue de faire progresser ce niveau de changement législatif relatif à la gouvernance de l’ADM au sein du gouvernement, à l’amélioration de la transparence et de la protection des renseignements personnels, et à l’amélioration des capacités et des orientations en matière de gouvernance non législative, le potentiel de résultats de cet engagement serait substantiel.

Opportunités, défis et recommandations pendant la mise en œuvre

Le gouvernement est bien placé pour faire progresser la transparence de cet engagement en matière de droit administratif administratif. En vertu des directives de rédaction australiennes, la branche Transparency and Administrative Law (TAL) de l'AGD est habilitée à concevoir la nouvelle législation de l'engagement. [20] Cet engagement bénéficiera également du travail parallèle du groupe de travail sur l’IA au sein du gouvernement. [21] En outre, le gouvernement a créé en février 2024 un nouveau groupe d’experts en intelligence artificielle chargé de conseiller le ministère de l’Industrie, des Sciences et des Ressources sur les travaux immédiats en matière de transparence, de tests et de responsabilité, y compris les options de protection de l’IA dans les environnements à haut risque. [22] Le principal défi de cet engagement est de formuler une législation qui tienne compte à la fois de la protection de la vie privée et de la valeur de transparence du gouvernement ouvert.

Des jalons supplémentaires non législatifs, qui s'appuient sur le travail parallèle du gouvernement en matière de gestion des données administratives, pourraient contribuer à l'élaboration et à la mise en œuvre d'un cadre politique pangouvernemental en matière de gestion des données administratives, que le cadre législatif relatif à la gestion des données administratives soit adopté ou non dans son intégralité. Pour soutenir la mise en œuvre de cet engagement et pour utiliser pleinement la période de deux ans prévue par ce plan d'action, l'IRM recommande :