Description de la réforme Cette action cherche à créer un guide de bonnes pratiques pour la transparence algorithmique et l'explicabilité des décisions automatisées, à travers un processus de co-création avec le personnel du secteur public, le monde universitaire, la société civile et les spécialistes de l'intelligence artificielle. Le guide réunira les principes, recommandations et méthodes pour enregistrer l'ouverture et l'explicabilité des algorithmes utilisés dans la gestion publique du gouvernement de la ville autonome de Buenos Aires (GCBA). Ensuite, on élaborera un cursus de formation en utilisant le guide comme un recours pédagogique avec la fin de la capacité et la connaissance du personnel du GCBA sur les critères de transparence algorithmique et l'utilisation de l'intelligence artificielle dans le secteur public.

Problème(s) abordé(s) par la réforme L'utilisation et la mise en œuvre approfondies d'algorithmes et d'outils d'intelligence artificielle (IA) dans divers domaines, en particulier dans le secteur public en raison de son impact sur la prestation de services, exigent des normes claires de transparence et de rendu des comptes. L'intégration des principes du gouvernement ouvert, en particulier la restitution des données et la transparence active, contribue à réduire l'opacité dans le volume des décisions automatisées. La Ville autonome de Buenos Aires est devenue pionnière en matière de garantie politique d'accès à l'information publique en mettant en œuvre la loi 104 d'accès à l'information publique depuis 1998. De plus, il dispose d'une vaste trajectoire dans l'impulsion de l'agenda du gouvernement ouvert, consolidé dans trois plans d'action développés dans le cadre du programme local de l'alliance pour le gouvernement ouvert, et projette un nouveau plan pour 2025. Dans ce contexte, vous cherchez à appliquer cette expérience aux nouveaux projets qui plantent l’avancée de l’intelligence artificielle. Cependant, dans de nombreux cas, les équipes responsables s'occupent des guides ou des ressources spécialisées qui sistematisent les informations pour l'évaluation et l'audit de ces systèmes. Par ailleurs, la disponibilité d'informations techniques accessibles est si limitée, ce qui rend difficile la surveillance de la communication efficace avec la population. Renforcer les capacités institutionnelles et progresser dans la création de cadres normatifs et opérationnels pour l'explicabilité et la participation, ce qui est fondamental pour consolider une utilisation plus transparente, fiable et équitable de ces technologies dans le milieu public.

Cette action représente une étape significative pour résoudre le problème abordé antérieurement, car il faut établir des lignes claires pour la transparence et l'explicabilité de l'intelligence artificielle et des algorithmes dans le secteur public. Il favorise les mécanismes de transparence, de supervision et de contrôle ciudadano qui promeuvent un usage professionnel et responsable de la technologie dans le domaine des décisions gouvernementales. En particulier, ce compromis établit un cadre de bonnes pratiques pour la transparence algorithmique dans la ville autonome de Buenos Aires, avec la fin d'impulsionr un utilisateur responsable de l'intelligence artificielle dans l'administration publique, en faisant converger les agendas d'accès à l'information et de gouvernement ouvert. De plus, la mise en œuvre d'un cursus de capacité de travail à l'institutionnalisation et à la connaissance de ces connaissances au sein du personnel du gouvernement de la ville autonome de Buenos Aires (GCBA), contribue à la pérennité et à l'amélioration continue de la gouvernance des algorithmes.

Pertinence par rapport aux valeurs OGP Transparence : La transparence dans l'utilisation des algorithmes dans la gestion publique est un principe reconnu internationalement et essentiel pour générer une confiance dans l'utilisation de l'intelligence artificielle. La faute d'accéder à des informations claires sur votre fonction peut générer une déconfiance et augmenter le jeu de sesgo dans les décisions automatisées. Par conséquent, il faut que les algorithmes gouvernementaux soient compréhensibles et accessibles au public, en ligne avec les normes globales de l'IA responsable.

Rendement des données : Ce compromis propose d'établir des outils et des méthodes pour garantir le moniteur citoyen sur l'utilisation d'algorithmes dans le secteur public. De plus, la diffusion d'un guide et d'un parcours de formation permet au personnel d'intégrer les critères de rendu des comptes dans le développement et la mise en œuvre de l'intelligence artificielle. L'explicabilité des algorithmes et l'application de bonnes pratiques contribuent à un rendu des comptes efficace.

Participation citoyenne : La collaboration de divers acteurs dans la gouvernance algorithmique est fondamentale pour renforcer la confiance publique dans l'intelligence artificielle. Faire participer la société civile, le monde universitaire et les spécialistes à la co-création de la direction garantissant que les lignes directrices soient inclusives et reflètent les nécessités et les préoccupations des différents secteurs.

Résultats attendus La conclusion du projet devrait être consolidée et financée par un guide ouvert qui établira de bonnes pratiques pour la transparence et l'explicabilité des algorithmes dans la gestion publique développée au moyen d'un processus de co-création avec des services publics, universitaires, sociétaires et spécialisés en IA. Ce travail implique le renforcement des capacités techniques et méthodologiques dans l'évaluation et l'utilisation responsable des systèmes d'intelligence artificielle, ce qui contribue à réduire l'opacité du volume de décisions automatisées et à promouvoir une culture d'éthique et de rendu des données dans le secteur public. De plus, l'expérience accumulée est projetée comme un modèle reproductible et évolutif, qui permet de générer un précédent qui pourrait être adopté dans d'autres juridictions et contextes, et de promouvoir une participation municipale municipale et un débat continu dans un tourbillon de transparence algorithmique.

Jalons Phase de diagnostic et de cartographie : Réalisation d'une analyse situationnelle pour identifier les acteurs clés, les défis et les opportunités en matière de transparence algorithmique. Cette phase comprend la pertinence des expériences internationales, une cartographie de l'utilisation actuelle des systèmes automatisés de décision dans le secteur public et la création d'une table de travail entre les différentes zones du gouvernement de la ville de Buenos Aires comprises dans cette thématique avec une société civile et spécialisée.

Co-création et élaboration du guide : Développement du contenu entre les centres de travail collaboratifs et consultatifs avec des spécialistes pour définir les bonnes pratiques et recommandations techniques en matière de transparence algorithmique et l'utilisation responsable des systèmes de décision automatisés.

Armado and publicación de capacitación: Développement d'un cursus personnel du gouvernement de la ville de Buenos Aires avec contenu sur le guide desarrollada, transparence algorithmique, explicabilité et mise en œuvre responsable des algorithmes. 

Diffusion et rétroalimentation : Mise en œuvre d'une stratégie de communication pour connaître le guide, accompagnée de mécanismes pour enregistrer les commentaires et améliorer le document de forme itérative en base sur la rétroalimentation des zones gouvernementales, de la société civile et des spécialistes.

La société civile est-elle impliquée ?

Oui, la société civile participera activement à la co-création du guide, en apportant des recommandations et en révisant les normes proposées.