Crear registros de algoritmos públicos (FR0094)

¿Cuál es el problema público que abordará el compromiso? ● Los algoritmos juegan un papel cada vez mayor en el sector público, ya sea que se utilicen para calcular el impuesto sobre la renta, determinar quién recibe un trasplante de corazón o identificar el riesgo de quiebra de las empresas. ● Los departamentos gubernamentales y los usuarios solo tienen una imagen parcial e incompleta de los sistemas algorítmicos utilizados. , a pesar de que visibilizarlas es el primer paso para mejorar su gobernanza

¿Cuál es el compromiso? ● Ayudar a los ministerios y departamentos del gobierno central a crear un registro público de algoritmos ● Este registro es obligatorio según las reglas de transparencia de algoritmos descritas en el Código que rige las relaciones entre los departamentos gubernamentales y el público (CRPA) (ver https://guides.etalab.gouv.fr/algorithmes/, en francés) ● Los componentes básicos están ahí, como el prototipo de registro de algoritmos propuesto por Etalab en consulta con los ministerios y las autoridades locales (ver https://guides.etalab.gouv.fr/algorithmes/invent aire/ [en francés], un artículo sobre el enfoque de Etalab publicado en el blog de OGP en 164 https://www.opengovpartnership.org/stories/bui lding-public-algorithm-registers-lessons-learnedfrom-the-french-approach/, y un próximo artículo sobre un taller internacional colaborativo realizado en junio de 2021 durante RightsCon, una cumbre anual sobre derechos humanos en la era digital, que reunió a investigadores , gobiernos y miembros de la sociedad civil)

¿Cómo contribuirá el compromiso a la solución del problema público? ● Los administradores de datos ministeriales están involucrados en la creación del registro, ya que los algoritmos ahora están bajo su competencia. ● Etalab coordinará un grupo de trabajo para ayudar a los ministerios a utilizar las herramientas existentes (prototipo de registro) y brindar un nivel básico de apoyo. La idea también es que los ministerios compartan las mejores prácticas. ● La creación de este registro tiene varios beneficios: o Para los departamentos gubernamentales: Familiarizarse con los sistemas algorítmicos y sus impactos es el primer paso para establecer la gobernanza sobre estos sistemas. o Para los ciudadanos: la ley francesa exige que los ciudadanos estén informados del uso de algoritmos para la toma de decisiones. El registro hace visibles los sistemas algorítmicos.

¿Por qué este compromiso es relevante para los valores de OGP? Este compromiso ejemplifica los siguientes valores de OGP: ● Transparencia: al proporcionar a la sociedad civil una visión general de los algoritmos que utiliza el gobierno, este compromiso contribuye directamente a hacer que las políticas públicas sean más transparentes, al mismo tiempo que compila un registro de los algoritmos públicos 165 que actualmente utilizan departamentos gubernamentales y divulgar abiertamente los principales usos de estos datos. ● Participación ciudadana: En la actualidad es difícil publicar estos registros, pero también permitirán a la sociedad civil identificar algoritmos mejorables u otros que representen riesgos para ciertos segmentos de la población. ● Rendición de cuentas pública: El desarrollo de un primer conjunto de registros, que involucró la participación voluntaria de los departamentos, reveló el simple hecho de que el desarrollo de estos registros los llevó a reevaluar sus procedimientos. Además, estos registros se consideran la base de otras obligaciones de divulgación (a nivel local y nacional) de las que son responsables los departamentos (según lo dispuesto en la CRPA).

Información adicional ● Francia es conocida internacionalmente por su innovador marco legal sobre algoritmos públicos (Ley de la República Digital de 2016). Fue uno de los primeros países en incorporar un compromiso sobre algoritmos en su plan de acción de OGP 2018-2020. Además, es miembro de la Red de Algoritmos Abiertos de OGP, que también incluye representantes de los gobiernos de Canadá, el Reino Unido, los Países Bajos y Nueva Zelanda (ver artículos de blog: https://www.opengovpartnership.org/stories/op en-algoritmos-experiencias-de-francia-países-bajos-y-nueva-zelanda/ y https://www.opengovpartnership.org/stories/refl ciones-sobre-la-implementación-de-políticas-algorítmicas-del-sector-público/). 166 ● Este compromiso se basa en el plan de acción de OGP 2018-2020. Además, una serie de organizaciones gubernamentales y de la sociedad civil con las que Francia está en contacto están explorando actualmente el tema de los registros (en el Reino Unido, Chile, Nueva Zelanda, así como las organizaciones sin fines de lucro Access Now y AlgorithmWatch), planteando en particular el tema de las normas. A través de este compromiso, Francia seguirá posicionándose como líder mundial en algoritmos públicos y participará en los debates sobre este tema.

Actividad hito con entregable verificable Fecha de inicio Fecha de finalización Inicio de implementación de registros 01/09/2021 01/03/2022 Evaluación intermedia de la iniciativa 01/03/2022 31/12/2022

Revisión del plan de acción

Compromiso 44. Construir registros públicos de algoritmos

● Verificable: Sí

● ¿Tiene una lente de gobierno abierto? No

● Potencial de resultados: poco claro