Saltar navegación
Francia

Transparencia de algoritmos públicos (FR0035)

Resumen

De un vistazo

Plan de ACCION: Plan de acción de Francia 2018-2020

Ciclo del plan de acción: 2018

Estado: Activo

Instituciones

Institución principal: Ministro de Estado para el Sector Digital, adscrito al Primer Ministro

Instituciones de apoyo: todos los ministerios

Áreas de política

Gobierno Electrónico

Revisión de IRM

Informe de IRM: Revisión pendiente de IRM

Estelares: Revisión pendiente de IRM

Resultados iniciales: revisión pendiente de IRM

Diseño i

Verificable: sí

Relevante para los valores de OGP: acceso a la información

Impacto potencial:

Implementación i

Terminación: Revisión pendiente de IRM

Descripción

Mejora de la transparencia de los algoritmos públicos y los códigos fuente.
Instituciones principales:
Ministro de Estado para el Sector Digital, adscrito al Primer Ministro
Otros interesados:
NA
Nuevo compromiso
Principios de OGP con los que está asociado el compromiso:
Acceso a la información, responsabilidad.
Desafíos
Los algoritmos tienen un papel cada vez más importante en la implementación de políticas públicas, por ejemplo, en los campos de la educación y las finanzas públicas. Su transparencia es de vital importancia para proporcionar a los ciudadanos información sobre decisiones administrativas.
La Ley para una República Digital, promulgada en 7 en octubre de 2016, introdujo dos disposiciones principales que promueven una mayor transparencia en el Código de Relaciones entre el Público y la Administración. El primero extiende el principio de información al procesamiento algorítmico: cualquier persona que sea objeto de una decisión administrativa individual tomada sobre la base de un algoritmo debe ser informada del hecho y puede exigir acceso a las principales reglas operativas del algoritmo (su contribución, datos usado, etc.). El segundo incluye los códigos fuente en la lista de documentos administrativos comunicables.
Además, el artículo 16 de la misma ley prevé que las administraciones fomenten el uso de software libre y formatos abiertos durante el desarrollo, la compra y el uso de la totalidad o parte de dichos sistemas de información.
Ambiciones
Acompañando la apertura de algoritmos públicos y códigos fuente
La implementación de estas nuevas disposiciones requiere el acompañamiento de las administraciones y, de manera más general, una mejor comprensión de los problemas, potencialidades y riesgos involucrados en el uso de algoritmos en la gestión de la acción pública.
Es por esta razón que Etalab se ha comprometido a desarrollar una metodología en colaboración con las administraciones para abrir algoritmos y códigos contenidos en sus sistemas de información. Dicha asistencia ya está en marcha con la Dirección General de Finanzas Públicas (DGFiP) (apertura del código fuente de la calculadora de impuestos) y el Ministerio de Educación Superior, Investigación e Innovación (misión sobre las condiciones para abrir el sistema de admisión Post-Bac). Además, la Dirección Interministerial de Sistemas de Información y Comunicaciones (DINSIC) ha emprendido la composición de una guía sobre cómo abrir los códigos fuente de las administraciones, comenzando con una consulta sobre una versión inicial de la guía realizada desde diciembre 2017 hasta enero 2018.
Los problemas específicos relacionados con los algoritmos de aprendizaje también se tendrán en cuenta en el trabajo sobre el uso de algoritmos en la acción pública.
La hoja de ruta en detalle

Produciendo 5 monografías de algoritmos públicos para identificar problemas técnicos, legales y organizacionales. Conseguir que la sociedad civil participe en su estudio. 2019
Hacer recomendaciones a las administraciones sobre información esencial sobre algoritmos públicos, de conformidad con el principio de transparencia algorítmica 1er semestre 2018
Redacción de una guía para la apertura de códigos fuente públicos para uso de las administraciones 1er semestre 2018
Organización de hackatones basados ​​en algoritmos públicos de apertura 2do semestre 2018 - 2do semestre 2019
Un caso de aplicación de la apertura de modelos y códigos fuente: OpenFisca
Desde 2014, Etalab ha estado desarrollando y poniendo OpenFisca a disposición de las administraciones públicas y la sociedad civil. OpenFisca es un motor de cómputo abierto y API. Permite modelar el sistema socio-fiscal, simular el impacto de las reformas y desarrollar servicios orientados a los ciudadanos.
OpenFisca hizo posible construir my-aides.gouv.fr, una plataforma de simulación de asistencia social, gracias a la cual se realizan más de 100,000 cada mes.
Hoy, OpenFisca es utilizado por muchos actores (parlamentarios, funcionarios públicos, investigadores) para evaluar el impacto de futuras reformas. Por ejemplo, en 2018, un equipo del grupo de trabajo "Acceso a derechos y servicios, lucha contra el no recurso" utilizó OpenFisca para simular diferentes escenarios para simplificar el cálculo de los beneficios sociales y su impacto en situaciones familiares típicas.
OpenFisca utiliza la calculadora de impuestos sobre la renta puesta a disposición en 2016 por la DGFIP para realizar algunas de estas simulaciones.
OpenFisca ilustra las oportunidades creadas por la apertura y el intercambio de algoritmos y el código fuente de la administración.
Permite a los ciudadanos y a los tomadores de decisiones públicas comprender, evaluar y mejorar las decisiones públicas en materia social y fiscal.
También permite agrupar modelos de cálculo que coexisten dentro de múltiples administraciones, y a fortiori, para mejorar su calidad y reducir sus costos.
Para promover estas acciones en el área de la transparencia social y fiscal, la DINSIC se compromete a:
Fomentar la apertura de modelos existentes, datos y códigos fuente en el campo socio-fiscal, para acompañar a las administraciones en la evaluación de las reformas. Este trabajo
se llevará a cabo en consulta con las administraciones productoras (Dirección de Presupuesto, Dirección del Tesoro, Dirección de Finanzas Públicas, organismos de seguridad social, etc.) y puede incluir a aquellos involucrados en la redacción y el seguimiento de las reformas (asambleas parlamentarias, Tribunal de Cuentas, etc.) ;
Mejorar la comprensión de los ciudadanos de las normas sociales y fiscales para estimular la creación de servicios basados ​​en OpenFisca, como es el caso de la plataforma mes-aides.gouv.fr. Estos servicios podrían ser desarrollados tanto por las administraciones como por la sociedad civil;
Desarrollar colaboraciones con países socios para apoyarlos en sus iniciativas para abrir datos y algoritmos en torno a la transparencia socio-fiscal y la participación ciudadana en las reformas.
Además de estas acciones transversales, los siguientes ministerios han hecho sus propios compromisos:
EL MINISTERIO DE EDUCACIÓN NACIONAL SE COMPROMETE A
Abra varios de sus algoritmos y códigos fuente.
LA AGENCIA NACIONAL DE SEGURIDAD DEL SISTEMA DE INFORMACIÓN (ANSSI) SE COMPROMETE A
Participe en la composición de una guía para abrir códigos de fuentes públicas para uso de las administraciones y enfóquese particularmente en preguntas relacionadas con las mejores prácticas de desarrollo y seguridad.
Abra el código fuente para el sistema de explotación segura CLIP (CLIP OS).

Resumen de estado intermedio de IRM

6 Mejora de la transparencia de los algoritmos públicos y los códigos fuente.

Lenguaje del compromiso tal como aparece en el plan de acción:

Los algoritmos tienen un papel cada vez más importante en la implementación de políticas públicas, por ejemplo, en los campos de la educación y las finanzas públicas. Su transparencia es de vital importancia para proporcionar a los ciudadanos información sobre decisiones administrativas.

La Ley para una República Digital, promulgada en 7 en octubre de 2016, introdujo dos disposiciones principales que promueven una mayor transparencia en el Código de Relaciones entre el Público y la Administración. El primero extiende el principio de información al procesamiento algorítmico: cualquier persona que sea objeto de una decisión administrativa individual tomada sobre la base de un algoritmo debe ser informada del hecho y puede exigir acceso a las principales reglas operativas del algoritmo (su contribución, datos usado, etc.). El segundo incluye los códigos fuente en la lista de documentos administrativos comunicables.

Además, el artículo 16 de la misma ley prevé que las administraciones fomenten el uso de software libre y formatos abiertos durante el desarrollo, la compra y el uso de la totalidad o parte de dichos sistemas de información.

La implementación de estas nuevas disposiciones requiere el acompañamiento de las administraciones y, de manera más general, una mejor comprensión de los problemas, potencialidades y riesgos involucrados en el uso de algoritmos en la gestión de la acción pública.

Es por esta razón que Etalab se ha comprometido a desarrollar una metodología en colaboración con las administraciones para abrir algoritmos y códigos contenidos en sus sistemas de información. Dicha asistencia ya está en marcha con la Dirección General de Finanzas Públicas (DGFiP) (apertura del código fuente de la calculadora de impuestos) y el Ministerio de Educación Superior, Investigación e Innovación (misión sobre las condiciones para abrir el sistema de admisión Post-Bac). Además, la Dirección Interministerial de Sistemas de Información y Comunicaciones (DINSIC) ha emprendido la composición de una guía sobre cómo abrir los códigos fuente de las administraciones, comenzando con una consulta sobre una versión inicial de la guía realizada desde diciembre 2017 hasta enero 2018. Los problemas específicos relacionados con los algoritmos de aprendizaje también se tendrán en cuenta en el trabajo sobre el uso de algoritmos en la acción pública. []

Hitos

6.1 Produciendo monografías de algoritmos públicos 5 para identificar problemas técnicos, legales y organizativos. Conseguir que la sociedad civil participe en su estudio.

6.2 Hacer recomendaciones a las administraciones sobre información esencial sobre algoritmos públicos, de conformidad con el principio de transparencia algorítmica

6.3 Redacta una guía para abrir códigos fuente públicos para uso de las administraciones

6.4 Organizando hackatones basados ​​en algoritmos públicos de apertura

Fecha de inicio: 2018

Fecha de finalización: 2019

Contexto y objetivos

Los algoritmos se utilizan cada vez más en las relaciones entre el público y la administración pública, para la inscripción en la educación superior y la atribución de subsidios o cálculos de impuestos. El 2016 Digital Republic Bill introdujo dos disposiciones principales que fomentan una mayor transparencia en el Código de Relaciones entre el Público y la Administración. Sin embargo, al final de 2017, las agencias gubernamentales aún no cumplían. [] Un informe parlamentario publicado en febrero 2018 destaca la utilidad de los algoritmos. Los relatores vieron los algoritmos como mejoras al servicio público. Argumentaron que el problema de los algoritmos surge cuando la ley no es lo suficientemente clara, lo que requiere que la administración tome una decisión y la publique. []

Sin embargo, ha habido varias quejas públicas sobre el uso de algoritmos en los últimos años. Algoritmos para la matrícula en la educación superior: admisión post-Bac y posterior Parcoursup []- han sido particularmente criticados por los usuarios. Un sindicato de estudiantes ganó un juicio contra la Universidad de Antillas después de que se negó a hacer público el algoritmo para seleccionar a los solicitantes. [] Varios funcionarios electos pidieron al defensor del pueblo sobre la transparencia de los algoritmos después de que los estudiantes denunciaron la opacidad e injusticia del sistema. Esto llevó al defensor del pueblo a solicitar que se hicieran públicos todos los criterios integrados en los algoritmos a nivel nacional y local. []

Este compromiso busca resolver la transparencia insuficiente de los algoritmos proporcionando apoyo a las agencias individuales responsables de diseminar información sobre algoritmos y códigos fuente. El compromiso se considera relevante para el acceso a la información. Su objetivo es mejorar el acceso a la información sobre las reglas y criterios operativos del algoritmo. Sin embargo, no se compromete a la publicación de ningún nuevo algoritmo o código fuente.

El investigador de IRM considera que el texto del compromiso es lo suficientemente específico como para ser verificable. Cada hito contiene información concreta sobre los resultados previstos. Sin embargo, Milestones 1, 2 y 4 podrían beneficiarse de una mayor precisión en el formato y los números.

Esta iniciativa, tal como está formulada, podría tener un efecto potencial menor. El compromiso no requiere la publicación de información sobre algoritmos existentes que afectan la vida de los ciudadanos. Uno de los problemas identificados por el informe parlamentario es que existen problemas técnicos, legales y organizativos relacionados con el uso de algoritmos que son obstáculos para la transparencia. Por lo tanto, producir monografías que podrían ser utilizadas como estudios de caso por las agencias gubernamentales a cargo de proporcionar información sobre su algoritmo, junto con una guía de usuario y recomendaciones, podría ser un paso positivo hacia adelante.

Próximos pasos

El próximo plan de acción podría centrarse en la transparencia de los algoritmos y los códigos fuente, con los siguientes pasos:

  • Incluya un compromiso sobre la apertura real de algoritmos y códigos fuente, más allá del apoyo a las agencias gubernamentales.
  • Tome medidas para que los algoritmos sean entendibles para el público en general. []
  • Asegure la apertura de las bases de datos de los algoritmos seleccionados. []
[] Por un gobierno transparente y colaborativo: Plan de acción nacional de Francia 2018 – 2020, https://www.opengovpartnership.org/wp-content/uploads/2018/08/France-Action-Plan-2018-2020-English.pdf (accedido en 10 enero 2019).
[] Xavier Berne, "Transparencia de Algoritmos: La Loi Numérique Ignorée de Nombreuses Administrations", Siguiente Inpacto, 2017, https://www.nextinpact.com/news/105098-transparence-algorithmes-loi-numerique-ignoree-nombreuses-administrations.htm (acceso en 10 febrero 2019).
[] Rapport de MM, Cédric Villani, député et Gérard Longuet, sénateur, “Fait au nom de l'Office Parlementaire d'Evaluation des Choix Scientifiques et Technologiques No. 305 (2017 – 2018) —15 février 2018”; Xavier Berne, "Transparencia de Algoritmos: La Loi Numérique Ignorée de Nombreuses Administrations", Siguiente Inpacto, 2017, https://www.nextinpact.com/news/105098-transparence-algorithmes-loi-numerique-ignoree-nombreuses-administrations.htm (acceso en 10 febrero 2019).
[] Estos términos se refieren a los nombres del sistema digital desarrollado para gestionar la inscripción de estudiantes en universidades francesas.
[] Camille Stromboni, "Parcoursup: La Justice Enjoint à une Université de Publier son Algorithme de Tri" Le Monde, 6 Febrero 2019.
[] Camille Stromboni, "Parcoursup: Le Défenseur des Droits Demande plus de Transparence" Le Monde, 21 enero 2019.
[] Aurélie Jean, "La Transparence des Algorithmes: Une (Fausse) Bonne Idée?" Le Point, 20 April 2019, https://www.lepoint.fr/invites-du-point/aurelie-jean-la-transparence-des-algorithmes-une-fausse-bonne-idee-20-04-2019-2308681_420.php (Se accede en 29 de abril a 2019).
[] Danièle Bourcier y Primavera De Filippi. “Transparencia de los algoritmos de cara a los datos abiertos: Quel Statut pour les Données d'Apprentissage? Revue Française d'Administration Publique 167, no. 3 (2018): 525-37.

Compromisos

  1. Transparencia de los servicios públicos

    FR0030, 2018, Gobierno electrónico

  2. Transparencia de la contratación pública

    FR0031, 2018, Acceso a la información

  3. Transparencia de la Ayuda al Desarrollo

    FR0032, 2018, Acceso a la información

  4. Expandir datos abiertos

    FR0033, 2018, Acceso a la información

  5. Políticas y administración de datos mejoradas

    FR0034, 2018, Acceso a la información

  6. Transparencia de Algoritmos Públicos

    FR0035, 2018, Gobierno electrónico

  7. Datos abiertos a nivel subnacional

    FR0036, 2018, Acceso a la información

  8. Laboratorio estatal de inteligencia artificial

    FR0037, 2018, Toma de decisiones automatizada

  9. Fomento de la capacidad administrativa

    FR0038, 2018, desarrollo de capacidades

  10. Incubadoras de servicio público

    FR0039, 2018, desarrollo de capacidades

  11. Simplifique los flujos de datos

    FR0040, 2018, Acceso a la información

  12. Foro abierto de Etat

    FR0041, 2018, Gobierno electrónico

  13. Panel de procedimientos en línea

    FR0042, 2018, Gobierno electrónico

  14. Cumbre Govtech

    FR0043, 2018, desarrollo de capacidades

  15. Mejorar los mecanismos de consulta pública

    FR0044, 2018, Gobierno electrónico

  16. Transparencia internacional y participación ciudadana

    FR0045, 2018, ayuda

  17. Participación pública en el desarrollo sostenible

    FR0046, 2018, Acceso a la información

  18. Los principios Ciencia Abierta

    FR0047, 2018, Acceso a la información

  19. Participación ciudadana en Cour Des Comptes

    FR0048, 2018, Acceso a la información

  20. Transparencia de representantes de intereses

    FR0049, 2018, Acceso a la información

  21. Acceso a la información sobre funcionarios públicos

    FR0050, 2018, Acceso a la información

  22. Datos abiertos de autoridades regionales y locales

    FR0001, 2015, Acceso a la información

  23. Publicar decisiones e informes del Consejo Municipal en línea

    FR0002, 2015, Gobierno electrónico

  24. Publicar permisos de construcción en formato de datos abiertos

    FR0003, 2015, Acceso a la información

  25. Compromiso destacado Aumentar la transparencia en la contratación pública

    FR0004, 2015, Acceso a la información

  26. Mejorar la transparencia en la ayuda internacional al desarrollo

    FR0005, 2015, Acceso a la información

  27. Acceso abierto a evaluaciones de políticas públicas

    FR0006, 2015, Gobierno electrónico

  28. Involucre a los ciudadanos en el trabajo de Cour Des Comptes

    FR0007, 2015, Acceso a la información

  29. Acceso a las obligaciones de transparencia de los funcionarios públicos

    FR0008, 2015, Acceso a la información

  30. Compromiso destacado Beneficiarios reales

    FR0009, 2015, anticorrupción

  31. Transparencia en las industrias extractivas

    FR0010, 2015, anticorrupción

  32. Transparencia en las negociaciones comerciales comerciales internacionales

    FR0011, 2015, Acceso a la información

  33. Fix My Neighborhood

    FR0012, 2015, Gobierno electrónico

  34. Reparación digital

    FR0013, 2015, Acceso a la información

  35. Coproducción de infraestructura de datos con la sociedad civil

    FR0014, 2015, Acceso a la información

  36. Compromiso destacado Recursos legales abiertos

    FR0015, 2015, Acceso a la información

  37. Reforma Mecanismos Participativos

    FR0016, 2015, Reglamento Abierto

  38. Mediacion y Justicia

    FR0017, 2015, Acceso a la justicia

  39. Compromiso destacado Abrir y circular datos

    FR0018, 2015, Acceso a la información

  40. Modelos de cálculo abierto y simuladores

    FR0019, 2015, Acceso a la información

  41. Plataforma abierta para recursos gubernamentales

    FR0020, 2015, Gobierno electrónico

  42. Mejorar los servicios públicos a través del gobierno electrónico y la interacción del usuario

    FR0021, 2015, Gobierno electrónico

  43. Empoderar a la sociedad civil para apoyar a las escuelas

    FR0022, 2015, Gobierno electrónico

  44. Diversificar el reclutamiento dentro de las instituciones públicas

    FR0023, 2015, desarrollo de capacidades

  45. Cambio cultural

    FR0024, 2015, desarrollo de capacidades

  46. Difundir la innovación pública

    FR0025, 2015, desarrollo de capacidades

  47. Compromiso destacado Proteger contra conflictos de intereses

    FR0026, 2015, anticorrupción

  48. Sociedad civil y transparencia en la planificación de conferencias COP21

    FR0027, 2015, Medio ambiente y clima

  49. Datos abiertos y clima / Desarrollo sostenible

    FR0028, 2015, Acceso a la información

  50. Colaborar con la sociedad civil sobre clima y desarrollo sostenible

    FR0029, 2015, Medio ambiente y clima

NO siga este enlace o será prohibido en el sitio!