Description de la réforme La Direction Générale de Transparence et de Participation de la Generalitat Valenciana promeut la création du GVA Confia-Registre d'Algorithmes de la Generalitat. « GVA Confia » est une application informatique permettant la mise en œuvre d'une politique de transparence algorithmique. Cet outil, qui prend la forme d'un catalogue, vise à informer les citoyens sur l'utilisation dans l'administration valencienne de systèmes algorithmiques ayant un impact sur la prise de décision publique ou sur la sphère juridique des citoyens. En d’autres termes, l’enregistrement n’affecte pas les systèmes algorithmiques en fonction de leur structure mais de leur finalité. « GVA Confia » cherche à offrir des informations sur les systèmes algorithmiques qui incluent l'intelligence artificielle, mais aussi sur ces autres systèmes algorithmiques sans IA, mais qui affectent les décisions publiques. 
De cette façon, le Registre des Algorithmes de la Generalitat n’est pas seulement un outil puissant de transparence algorithmique, mais il est également un outil de responsabilisation sur l’utilisation de ces technologies dans les procédures administratives ou dans les processus de prise de décision publique. 
De plus, cette application informatique est conçue pour respecter le principe général de compressibilité et de clarté, c'est-à-dire fournir l'information aussi clairement que possible, en veillant à ce qu'elle soit facilement compréhensible en utilisant un langage clair. De plus, le registre d’algorithmes est conçu pour fournir des informations dans les deux langues officielles de la région. Un autre des principes observés est celui de la transparence maximale, car il cherche à maintenir la restriction d’accès à l’information minimale et basée sur des critères stricts de protection ou de sécurité des données personnelles. Le principe de publicité a également été pris en compte, en vertu duquel l'administration doit fournir des informations véridiques sur ses actions. D’autre part, les principes d’orientation citoyenne et de continuité dans le temps sont transversaux à la planification de cet outil. Dans la même optique, on a tenté de respecter les principes de planification et d'évaluation, puisque « GVA Confia » est né comme un projet pilote qui cherche à étudier l'impact sur la société de la transparence algorithmique et à évoluer au fil du temps, en s'adaptant aux besoins des citoyens et de l'administration publique. 


Problème(s) abordé(s) par la réforme Les administrations publiques sont actuellement plongées dans un processus de numérisation sans précédent. Au XXIe siècle, la société exige une Administration plus agile, plus efficace et plus efficiente dans la gestion et la distribution des ressources publiques. Les nouvelles capacités informatiques, le progrès des applications de l’intelligence artificielle et l’incorporation croissante de profils professionnels dotés de compétences numériques dans les administrations génèrent des synergies qui nous permettent de profiter du potentiel innovant pour transformer les administrations bureaucratiques en administrations numériques. 
Toutefois, la mise en œuvre de nouvelles technologies, dans un souci d’efficacité, d’économie et de simplification administrative, doit également impliquer une responsabilisation quant à la manière dont elle est réalisée. Des études de cas antérieures ont montré que les systèmes informatiques ne sont pas sans risque. Certains exemples comme le cas du système Horizon au Royaume-Uni, du système SyRI aux Pays-Bas ou de BOSCO en Espagne, ont montré que l’utilisation de systèmes algorithmiques peut avoir un impact négatif sur les droits fondamentaux, les libertés civiles ou la prise de décision publique. C’est pourquoi la transparence algorithmique constitue l’un des piliers fondamentaux de la transparence à l’heure actuelle. 
D’autre part, le manque d’information sur l’utilisation des nouvelles technologies, ainsi que l’opacité de certains systèmes algorithmiques, génèrent une méfiance dans l’utilisation de ces applications pour la prise de décision publique puisque certains secteurs du public s’inquiètent du manque de contrôle ou du traitement massif des données personnelles. 
De plus, il existe un vide réglementaire, tant national qu’international, sur les normes éthiques auxquelles doivent se conformer les systèmes algorithmiques et d’intelligence artificielle, notamment dans la sphère publique. De plus, l’utilisation de certains de ces systèmes entre en conflit avec les réglementations sur la protection des données personnelles et des droits numériques ou sur la transparence.


Avec le développement du « GVA ConfIA-Registre des Algorithmes de la Generalitat », un système de transparence et de responsabilité dans l'utilisation des systèmes algorithmiques et d'intelligence artificielle est mis en place. « Confia » signifie « confiance » en espagnol. En proposant des informations détaillées dans « GVA ConfIA » sur le type de systèmes algorithmiques utilisés, la confiance des citoyens dans l'utilisation de ce type de technologie est renforcée, ce qui se traduit par une gestion plus efficace des ressources publiques. 
Les informations incluses dans le Registre des Algorithmes de la Generalitat couvrent des domaines liés à l'architecture du système, au code de l'algorithme, au type de données qu'il traite, au niveau de risque potentiel, aux mesures de remédiation, aux informations sur les licences et les brevets, etc.  De cette manière, nous parvenons à une administration publique plus transparente et responsable avec la mise en œuvre et le développement de ces technologies. En outre, la confiance des citoyens dans l’institution et dans l’utilisation des systèmes algorithmiques dans les procédures administratives et la prise de décision publique est renforcée. 
Une administration plus transparente, plus claire, plus accessible, plus inclusive est une administration plus proche et plus fiable. Cela facilite la responsabilisation et promeut les valeurs démocratiques.


Pertinence par rapport aux valeurs de l'OGP La création du Registre des algorithmes est pertinente pour la transparence car elle permet aux citoyens de savoir quel type de systèmes algorithmiques et d'intelligence artificielle l'administration publique utilise pour la prise de décision publique et lesquels d'entre eux ont un impact sur la sphère juridique individuelle ou collective. De plus, des informations sont fournies sur le problème à résoudre et sur la manière dont l'algorithme contribue à la solution. Des informations sur les risques potentiels et les systèmes d’urgence sont également incluses. En bref, il ne s’agit pas seulement de proposer une liste de systèmes, mais de proposer toutes les informations pour que les citoyens sachent comment ils influencent leur vie.
D’autre part, GVA Confia a un impact direct sur la responsabilité de l’Administration de la Generalitat Valenciana. En fournissant des informations sur les systèmes algorithmiques, un audit citoyen ouvert est permis. Les citoyens comme les organismes de contrôle peuvent vérifier si les algorithmes fonctionnent correctement et s’ils le font de manière juste, équitable et inclusive. De cette manière, l'Administration de la Generalitat peut également développer des stratégies pour la mise en œuvre responsable de ces technologies, en particulier les systèmes d'intelligence artificielle qui génèrent des difficultés dans la traçabilité des informations.
Enfin, en ce qui concerne la participation civique, le Registre des algorithmes de la Generalitat est un outil de transparence publique, d’accès libre et gratuit, qui facilitera les demandes d’accès aux informations publiques sur les systèmes algorithmiques. Proposer une liste de systèmes et expliquer leur fonctionnement permet aux citoyens d’être conscients de l’impact de ces systèmes sur la vie publique. Il est donc plus facile de définir quelles informations supplémentaires sont nécessaires si vous souhaitez connaître en profondeur le fonctionnement du système. Dans le cas où des demandes d'accès systématiques sont envisagées sur un même sujet, l'inclusion d'un champ dans le registre offrant cette information sur tous les algorithmes est valorisée. 


Résultats escomptés D'ici la fin de la période de mise en œuvre du GVA Confia-Registre d'Algorithmes de la Generalitat, nous espérons introduire tous les systèmes algorithmiques dans le domaine de la santé qui influencent la prise de décision médicale. En outre, nous espérons que les systèmes de différents domaines liés à des domaines critiques de soins, tels que le secteur du travail, seront enregistrés dans le registre des algorithmes. 
Nous espérons également que le registre des algorithmes sera élargi avec davantage d’informations relatives à l’évaluation des risques liés à la protection des données personnelles ou à l’identification des organismes compétents pour leur contestation. 


Jalons Le calendrier proposé pour ce défi est structuré en X phases. La phase I est la conception d'une application en phase bêta avec les champs minimaux requis par la réglementation sur la transparence (loi 1/2022, du 13 avril, de la Generalitat, sur la transparence et la bonne gouvernance de la Communauté valencienne). Ce prototype devrait être prêt d’ici mars 2025. Un groupe de professionnels du « Bureau régional pour l'application de l'intelligence artificielle en santé de la Communauté valencienne » testera cette application et leurs contributions seront prises en compte pour une première conception de l'application dans une version stable. 
Dans la phase II, le premier téléchargement des systèmes algorithmiques du projet pilote aura lieu dans l'application dans sa version stable. Cette application dans le cadre d'un projet pilote sera présentée à la société afin que les citoyens connaissent le registre d'algorithmes et commencent à l'utiliser (mai 2025). Un premier rapport d’évaluation de la mise en œuvre sera produit après les six premiers mois (décembre 2025). 
La phase III comprendra davantage de systèmes algorithmiques ayant un impact sur les décisions publiques (2026). Dans la phase IV, la possibilité d’étendre les fonctionnalités du registre d’algorithmes en fonction des besoins sociaux et administratifs (2027-2028) sera étudiée. 


La société civile est-elle impliquée ?

Oui. 
La société civile est impliquée dans l’élaboration de l’action à travers la participation de la fondation CIVIO à la conception du projet pilote. Cette entité de la société civile est composée d'une équipe multidisciplinaire chargée d'analyser la transparence des administrations publiques en Espagne et a mené différentes recherches sur la transparence algorithmique publique. CIVIO est l'organisation qui a poursuivi l'Administration Générale de l'État espagnol en justice pour pouvoir accéder au code source de BOSCO, un système algorithmique développé par le Ministère de la Transition Écologique pour l'octroi d'aides aux groupes vulnérables en matière énergétique et qui s'est avéré présenter des défauts de mise en œuvre. 
Nous considérons que la participation de ce groupe d’experts est la clé pour développer un outil qui soit non seulement fonctionnel pour l’administration, mais aussi pour les citoyens et pour les groupes d’experts dans le domaine de la transparence algorithmique dans la société civile. 
De plus, cette collaboration a vocation à la continuité dans le temps, puisqu'il est prévu que CIVIO continue de participer aux étapes ultérieures du développement de l'application.