Transparence de la prise de décision automatisée (AU0024)

Résumé

Le but de cet engagement est d’assurer une plus grande transparence sur l’utilisation de la prise de décision automatisée (ADM) au sein du gouvernement et de contribuer à une intelligence artificielle (IA) sûre et responsable tout en facilitant l’innovation. Cet objectif devrait être atteint grâce à : • une gouvernance, des capacités et des orientations améliorées pour soutenir l'utilisation sûre et responsable de l'IA en Australie ; • la prise en compte d'un cadre juridique cohérent régissant la prise de décision automatisée par les agences gouvernementales australiennes ; et • une transparence et des protections améliorées pour les personnes. traitement des informations par des entités soumises à la Loi sur la protection de la vie privée de 1988.

Pourquoi cet engagement est important

La concrétisation de cet engagement vise à répondre aux préoccupations de la communauté concernant la transparence et l'intégrité des décisions prises à l'aide des systèmes ADM, ainsi que concernant l'utilisation sûre et responsable de l'IA. Il est important qu’il existe un cadre juridique cohérent pour soutenir le recours à la prise de décision automatisée, afin que les services gouvernementaux puissent fonctionner de manière éthique, impartiale et avec des garanties appropriées. Il est également nécessaire de soutenir la transparence et l'intégrité des décisions prises à l'aide des systèmes ADM, notamment en permettant aux individus de demander des informations significatives sur la manière dont les décisions automatisées, ayant un effet juridique ou tout aussi important, sont prises lorsqu'elles utilisent des informations personnelles. Ces objectifs se reflètent à la fois dans la réponse du gouvernement à la Commission royale Robodebt, qui s'est engagée à examiner les options pour un cadre juridique cohérent pour ADM, et dans la réponse du gouvernement au rapport d'examen de la Loi sur la protection des renseignements personnels. Une plus grande transparence sur l'utilisation de l'ADM contribue à renforcer la confiance du public dont l'Australie a besoin pour tirer pleinement parti des avantages de l'IA, notamment les opportunités d'améliorer la productivité, de faciliter la croissance économique et d'améliorer les résultats des Australiens dans les domaines de la santé, de l'éducation, de l'environnement et de la sécurité nationale. Ce travail aidera le gouvernement australien à progresser dans ce domaine en développement rapide et à établir des mécanismes de gouvernance pour garantir que l’IA soit développée et utilisée de manière sûre et responsable en Australie. Ces mécanismes peuvent inclure des réglementations, des normes, des outils, des cadres, des principes et des pratiques commerciales.

Domaines de défi OGP associés

• Gouvernance numérique • Accès à l'information

Comment mesurer l’impact de cet engagement

• Le gouvernement australien est en mesure de faire preuve de transparence dans l'utilisation de l'ADM. • Des mécanismes de gouvernance sont établis pour garantir que l'IA soit développée et utilisée de manière sûre et responsable en Australie.

Autres informations pertinentes, par exemple demandes de renseignements, travaux de recherche en cours

Le ministère de l'Industrie, des Sciences et des Ressources (DISR) a récemment organisé une consultation publique sur l'IA sûre et responsable, qui a donné lieu à plus de 500 réponses réaffirmant les attentes de la communauté concernant la transparence dans l'utilisation des technologies d'IA, en particulier par le gouvernement. Le gouvernement australien examine actuellement ces soumissions. Le 19 septembre 2023, le député Ed Husic, ministre de l'Industrie et des Sciences, et la sénatrice Katy Gallagher, ministre des Finances, ont annoncé la création du groupe de travail sur l'IA au sein du gouvernement pour se concentrer sur l'utilisation sûre et responsable de l'IA au sein du gouvernement. Le groupe de travail relève du sous-comité du Conseil des secrétaires sur l'avenir du travail et est dirigé conjointement par la Digital Transformation Agency (DTA) et le DISR. Il développe des approches en matière de gouvernance, de gestion des risques, de compétences et de capacités, ainsi que d’utilisation technique et de préparation à l’IA à l’échelle pangouvernementale. Le ministère du Procureur général progresse dans les travaux sur la réponse du gouvernement au rapport d'examen de la loi sur la protection de la vie privée, qui a été publié le 28 septembre 2023, qui comprend un accord sur les propositions concernant l'utilisation de l'ADM (propositions 19.1 à 19.3). La réponse du gouvernement à la Commission royale Robodebt s'est engagée à examiner les possibilités de réforme législative afin d'introduire un cadre juridique cohérent dans lequel l'automatisation des services gouvernementaux peut fonctionner de manière éthique, sans parti pris et avec des garanties appropriées, qui incluront la prise en compte des voies d'examen et des mécanismes de transparence (recommandation 17.1). OGP Global propose d'autres recommandations sur la gouvernance numérique et la prise de décision automatisée dans son Guide du gouvernement ouvert.

Jalons*

1.1 Groupe de travail sur la mise à jour de l'IA au sein du gouvernement Groupe de travail chargé de mettre à jour les orientations provisoires sur l'utilisation de l'IA générative pour les agences.

1.2 Réponse du gouvernement Publication de la réponse du gouvernement au rapport d'examen de la Loi sur la protection des renseignements personnels

1.3 Réponse du gouvernement à la publication de la réponse du gouvernement à la Commission royale Robodebt

1.4 Nouvelle législation Introduire une législation pour protéger les informations personnelles des Australiens, y compris en ce qui concerne l'utilisation d'ADM.

1.5 Ébauche d'élaboration de politiques L'AGD dirigera l'élaboration de politiques et le processus de définition des options permettant d'élaborer un cadre législatif pangouvernemental complet et cohérent pour l'ADM en réponse à la recommandation 17.1 de la Commission royale Robodebt, y compris une consultation au sein du gouvernement et une consultation ciblée avec les parties prenantes externes. Cela inclura l’examen des options d’automatisation des services gouvernementaux afin de fonctionner de manière éthique, impartiale et avec des garanties appropriées.

1.6 Consultation publique L'AGD dirigera la consultation publique et donnera des conseils sur les options de mise en œuvre d'un cadre législatif pangouvernemental pour l'ADM, et finalisera la législation pour examen et introduction par le gouvernement.

1.7 Mettre en œuvre un nouveau cadre AGD pour diriger la mise en œuvre de tout cadre législatif pangouvernemental pour la SMA, y compris l'élaboration de documents d'orientation et la fourniture de conseils aux agences.

*Des jalons supplémentaires ou plus détaillés pourraient être ajoutés en 2024, après examen du gouvernement.