Transparencia de algoritmos públicos (FR0035)

• Algoritmos abiertos: experiencias de Francia, los Países Bajos y Nueva Zelanda (Junio ​​1, 2020)

Mejora de la transparencia de los algoritmos públicos y los códigos fuente.
Instituciones principales:
Ministro de Estado para el Sector Digital, adscrito al Primer Ministro
Otros interesados:
NA
Nuevo compromiso
Principios de OGP con los que está asociado el compromiso:
Acceso a la información, responsabilidad.
Desafios
Los algoritmos tienen un papel cada vez más importante en la implementación de políticas públicas, por ejemplo, en los campos de la educación y las finanzas públicas. Su transparencia es de vital importancia para proporcionar a los ciudadanos información sobre decisiones administrativas.
La Ley para una República Digital, promulgada en 7 en octubre de 2016, introdujo dos disposiciones principales que promueven una mayor transparencia en el Código de Relaciones entre el Público y la Administración. El primero extiende el principio de información al procesamiento algorítmico: cualquier persona que sea objeto de una decisión administrativa individual tomada sobre la base de un algoritmo debe ser informada del hecho y puede exigir acceso a las principales reglas operativas del algoritmo (su contribución, datos usado, etc.). El segundo incluye los códigos fuente en la lista de documentos administrativos comunicables.
Además, el artículo 16 de la misma ley prevé que las administraciones fomenten el uso de software libre y formatos abiertos durante el desarrollo, la compra y el uso de la totalidad o parte de dichos sistemas de información.
Ambiciones
Acompañando la apertura de algoritmos públicos y códigos fuente
La implementación de estas nuevas disposiciones requiere el acompañamiento de las administraciones y, de manera más general, una mejor comprensión de los problemas, potencialidades y riesgos involucrados en el uso de algoritmos en la gestión de la acción pública.
Es por esta razón que Etalab se ha comprometido a desarrollar una metodología en colaboración con las administraciones para abrir algoritmos y códigos contenidos en sus sistemas de información. Dicha asistencia ya está en marcha con la Dirección General de Finanzas Públicas (DGFiP) (apertura del código fuente de la calculadora de impuestos) y el Ministerio de Educación Superior, Investigación e Innovación (misión sobre las condiciones para abrir el sistema de admisión Post-Bac). Además, la Dirección Interministerial de Sistemas de Información y Comunicaciones (DINSIC) ha emprendido la composición de una guía sobre cómo abrir los códigos fuente de las administraciones, comenzando con una consulta sobre una versión inicial de la guía realizada desde diciembre 2017 hasta enero 2018.
Los problemas específicos relacionados con los algoritmos de aprendizaje también se tendrán en cuenta en el trabajo sobre el uso de algoritmos en la acción pública.
La hoja de ruta en detalle

Produciendo 5 monografías de algoritmos públicos para identificar problemas técnicos, legales y organizacionales. Conseguir que la sociedad civil participe en su estudio. 2019
Hacer recomendaciones a las administraciones sobre información esencial sobre algoritmos públicos, de conformidad con el principio de transparencia algorítmica 1er semestre 2018
Redacción de una guía para la apertura de códigos fuente públicos para uso de las administraciones 1er semestre 2018
Organización de hackatones basados ​​en algoritmos públicos de apertura 2do semestre 2018 - 2do semestre 2019
Un caso de aplicación de la apertura de modelos y códigos fuente: OpenFisca
Desde 2014, Etalab ha estado desarrollando y poniendo OpenFisca a disposición de las administraciones públicas y la sociedad civil. OpenFisca es un motor de cómputo abierto y API. Permite modelar el sistema socio-fiscal, simular el impacto de las reformas y desarrollar servicios orientados a los ciudadanos.
OpenFisca hizo posible construir my-aides.gouv.fr, una plataforma de simulación de asistencia social, gracias a la cual se realizan más de 100,000 cada mes.
Hoy, OpenFisca es utilizado por muchos actores (parlamentarios, funcionarios públicos, investigadores) para evaluar el impacto de futuras reformas. Por ejemplo, en 2018, un equipo del grupo de trabajo "Acceso a derechos y servicios, lucha contra el no recurso" utilizó OpenFisca para simular diferentes escenarios para simplificar el cálculo de los beneficios sociales y su impacto en situaciones familiares típicas.
OpenFisca utiliza la calculadora de impuestos sobre la renta puesta a disposición en 2016 por la DGFIP para realizar algunas de estas simulaciones.
OpenFisca ilustra las oportunidades creadas por la apertura y el intercambio de algoritmos y el código fuente de la administración.
Permite a los ciudadanos y a los tomadores de decisiones públicas comprender, evaluar y mejorar las decisiones públicas en materia social y fiscal.
También permite agrupar modelos de cálculo que coexisten dentro de múltiples administraciones, y a fortiori, para mejorar su calidad y reducir sus costos.
Para promover estas acciones en el área de la transparencia social y fiscal, la DINSIC se compromete a:
Fomentar la apertura de modelos existentes, datos y códigos fuente en el campo socio-fiscal, para acompañar a las administraciones en la evaluación de las reformas. Este trabajo
se llevará a cabo en consulta con las administraciones productoras (Dirección de Presupuesto, Dirección del Tesoro, Dirección de Finanzas Públicas, organismos de seguridad social, etc.) y puede incluir a aquellos involucrados en la redacción y el seguimiento de las reformas (asambleas parlamentarias, Tribunal de Cuentas, etc.) ;
Mejorar la comprensión de los ciudadanos de las normas sociales y fiscales para estimular la creación de servicios basados ​​en OpenFisca, como es el caso de la plataforma mes-aides.gouv.fr. Estos servicios podrían ser desarrollados tanto por las administraciones como por la sociedad civil;
Desarrollar colaboraciones con países socios para apoyarlos en sus iniciativas para abrir datos y algoritmos en torno a la transparencia socio-fiscal y la participación ciudadana en las reformas.
Además de estas acciones transversales, los siguientes ministerios han hecho sus propios compromisos:
EL MINISTERIO DE EDUCACIÓN NACIONAL SE COMPROMETE A
Abra varios de sus algoritmos y códigos fuente.
LA AGENCIA NACIONAL DE SEGURIDAD DEL SISTEMA DE INFORMACIÓN (ANSSI) SE COMPROMETE A
Participe en la composición de una guía para abrir códigos de fuentes públicas para uso de las administraciones y enfóquese particularmente en preguntas relacionadas con las mejores prácticas de desarrollo y seguridad.
Abra el código fuente para el sistema de explotación segura CLIP (CLIP OS).

6 Mejora de la transparencia de los algoritmos públicos y los códigos fuente.

Lenguaje del compromiso tal como aparece en el plan de acción:

Los algoritmos tienen un papel cada vez más importante en la implementación de políticas públicas, por ejemplo, en los campos de la educación y las finanzas públicas. Su transparencia es de vital importancia para proporcionar a los ciudadanos información sobre decisiones administrativas.

La Ley para una República Digital, promulgada en 7 en octubre de 2016, introdujo dos disposiciones principales que promueven una mayor transparencia en el Código de Relaciones entre el Público y la Administración. El primero extiende el principio de información al procesamiento algorítmico: cualquier persona que sea objeto de una decisión administrativa individual tomada sobre la base de un algoritmo debe ser informada del hecho y puede exigir acceso a las principales reglas operativas del algoritmo (su contribución, datos usado, etc.). El segundo incluye los códigos fuente en la lista de documentos administrativos comunicables.

Además, el artículo 16 de la misma ley prevé que las administraciones fomenten el uso de software libre y formatos abiertos durante el desarrollo, la compra y el uso de la totalidad o parte de dichos sistemas de información.

La implementación de estas nuevas disposiciones requiere el acompañamiento de las administraciones y, de manera más general, una mejor comprensión de los problemas, potencialidades y riesgos involucrados en el uso de algoritmos en la gestión de la acción pública.

Es por esta razón que Etalab se ha comprometido a desarrollar una metodología en colaboración con las administraciones para abrir algoritmos y códigos contenidos en sus sistemas de información. Dicha asistencia ya está en marcha con la Dirección General de Finanzas Públicas (DGFiP) (apertura del código fuente de la calculadora de impuestos) y el Ministerio de Educación Superior, Investigación e Innovación (misión sobre las condiciones para abrir el sistema de admisión Post-Bac). Además, la Dirección Interministerial de Sistemas de Información y Comunicaciones (DINSIC) ha emprendido la composición de una guía sobre cómo abrir los códigos fuente de las administraciones, comenzando con una consulta sobre una versión inicial de la guía realizada desde diciembre 2017 hasta enero 2018. Los problemas específicos relacionados con los algoritmos de aprendizaje también se tendrán en cuenta en el trabajo sobre el uso de algoritmos en la acción pública. [ 26 ]

Hitos

6.1 Produciendo monografías de algoritmos públicos 5 para identificar problemas técnicos, legales y organizativos. Conseguir que la sociedad civil participe en su estudio.

6.2 Hacer recomendaciones a las administraciones sobre información esencial sobre algoritmos públicos, de conformidad con el principio de transparencia algorítmica

6.3 Redacta una guía para abrir códigos fuente públicos para uso de las administraciones

6.4 Organizando hackatones basados ​​en algoritmos públicos de apertura

Fecha de inicio: 2018

Fecha de finalización: 2019

Contexto y objetivos

Los algoritmos se utilizan cada vez más en las relaciones entre el público y la administración pública, para la inscripción en la educación superior y la atribución de subsidios o cálculos de impuestos. El 2016 Digital Republic Bill introdujo dos disposiciones principales que fomentan una mayor transparencia en el Código de Relaciones entre el Público y la Administración. Sin embargo, al final de 2017, las agencias gubernamentales aún no cumplían. [ 27 ] Un informe parlamentario publicado en febrero 2018 destaca la utilidad de los algoritmos. Los relatores vieron los algoritmos como mejoras al servicio público. Argumentaron que el problema de los algoritmos surge cuando la ley no es lo suficientemente clara, lo que requiere que la administración tome una decisión y la publique. [ 28 ]

Sin embargo, ha habido varias quejas públicas sobre el uso de algoritmos en los últimos años. Algoritmos para la matrícula en la educación superior: admisión post-Bac y posterior Parcoursup [ 29 ]- han sido particularmente criticados por los usuarios. Un sindicato de estudiantes ganó un juicio contra la Universidad de Antillas después de que se negó a hacer público el algoritmo para seleccionar a los solicitantes. [ 30 ] Varios funcionarios electos pidieron al defensor del pueblo sobre la transparencia de los algoritmos después de que los estudiantes denunciaron la opacidad e injusticia del sistema. Esto llevó al defensor del pueblo a solicitar que se hicieran públicos todos los criterios integrados en los algoritmos a nivel nacional y local. [ 31 ]

Este compromiso busca resolver la transparencia insuficiente de los algoritmos proporcionando apoyo a las agencias individuales responsables de diseminar información sobre algoritmos y códigos fuente. El compromiso se considera relevante para el acceso a la información. Su objetivo es mejorar el acceso a la información sobre las reglas y criterios operativos del algoritmo. Sin embargo, no se compromete a la publicación de ningún nuevo algoritmo o código fuente.

El investigador de IRM considera que el texto del compromiso es lo suficientemente específico como para ser verificable. Cada hito contiene información concreta sobre los resultados previstos. Sin embargo, Milestones 1, 2 y 4 podrían beneficiarse de una mayor precisión en el formato y los números.

Esta iniciativa, tal como está formulada, podría tener un efecto potencial menor. El compromiso no requiere la publicación de información sobre algoritmos existentes que afectan la vida de los ciudadanos. Uno de los problemas identificados por el informe parlamentario es que existen problemas técnicos, legales y organizativos relacionados con el uso de algoritmos que son obstáculos para la transparencia. Por lo tanto, producir monografías que podrían ser utilizadas como estudios de caso por las agencias gubernamentales a cargo de proporcionar información sobre su algoritmo, junto con una guía de usuario y recomendaciones, podría ser un paso positivo hacia adelante.

Próximos pasos

El próximo plan de acción podría centrarse en la transparencia de los algoritmos y los códigos fuente, con los siguientes pasos:

• Incluya un compromiso sobre la apertura real de algoritmos y códigos fuente, más allá del apoyo a las agencias gubernamentales.
• Tome medidas para que los algoritmos sean entendibles para el público en general. [ 32 ]
• Asegure la apertura de las bases de datos de los algoritmos seleccionados. [ 33 ]

6 Mejora de la transparencia de los algoritmos públicos y los códigos fuente.

Terminación: limitada

Etalab publicó dos guías para ayudar a las administraciones a abrir códigos fuente públicos y utilizar algoritmos públicos. [xxxi] Etalab también organizó un webinar para capacitar a funcionarios públicos sobre algoritmos públicos. [xxxii] Un informe publicado recientemente indicó que los recursos y la capacitación de los funcionarios públicos siguen siendo en gran medida insuficientes para una adecuada implementación de la Ley de República Digital y el uso ético de los algoritmos públicos. [xxxiii]Según la autoevaluación del gobierno, se despriorizó la producción de cinco monografías de algoritmos. No se encontró evidencia sobre la organización de hackatones.