Creación de registros de algoritmos públicos: lecciones aprendidas del enfoque francés

Esta pieza es parte de la "Serie de blogs de algoritmos abiertos" de OGP. Leer otras publicaciones de la serie esta página.

Mas de En los últimos años, el uso de herramientas de toma de decisiones automatizadas por parte de los gobiernos. ha crecido significativamente. Hacer que estas herramientas sean transparentes y visibles es esencial para garantizar que no se utilicen indebidamente y para que los gobiernos rindan cuentas. Ha habido una llamada creciente de la sociedad civil para que los gobiernos establezcan registros públicos de los sistemas automatizados de toma de decisiones que utilizan. Varias agencias centrales en gobiernos nacionales y ciudades, como New York, Amsterdam, Helsinkiy ciudades francesas Nantes y Antibes, ya he respondido a la llamada. 

Un enfoque colaborativo 

En Francia, el Ley de la República Digital mandatos transparenciaDe acuerdo con los Artículos de Gobernanza de OGP, la transparencia ocurre cuando "la información en poder del gobierno (incluidas las actividades y decisiones) es abierta, completa, oportuna y está disponible gratuitamente para el público... Más de algoritmos públicos. Entre otras obligaciones, obliga a los organismos públicos a enumerar públicamente las principales herramientas algorítmicas para la toma de decisiones y publicar sus reglas. Sin embargo, en la práctica, las agencias luchan por cumplir con esta obligación, en parte debido a la falta de orientación sobre cómo inventariar algoritmos, qué información incluir y cómo presentarla.

En el verano de 2020, Etalab, el grupo de trabajo del gobierno francés para la política de datos, lanzó un grupo de trabajo con servidores públicos del centro (el Ministerio de EducaciónLa rendición de cuentas dentro del sistema de educación pública es clave para mejorar los resultados y logros, y la rendición de cuentas es casi imposible sin políticas transparentes y oportunidades de participación... y el Departamento de Aduanas) y los gobiernos locales (es decir, las ciudades de Antibes y Lyon) para explorar este tema. Seleccionados de forma voluntaria, cada servidor público tenía en mente la transparencia y el gobierno abierto y se encontraba en una etapa diferente de construcción de un registro algorítmico en su agencia, desde la exploración hasta la casi implementación. 

El objetivo era crear una comunidad de práctica y producir orientación práctica pública en torno a los registros. El grupo se reunió regularmente hasta diciembre de 2020, compartiendo avances, obstáculos y comentarios. 

La primera versión del registro en la práctica

El trabajo del grupo culminó en la primera versión de un documento de orientación (en francés) en febrero de 2021.

El documento propone cuatro categorías de información que se pueden recopilar para cada algoritmo sobre: 

• Agencia responsable
• Contexto global y cómo el algoritmo está integrado en el proceso de toma de decisiones
• Impacto de la decisión
• Funcionamiento técnico del algoritmo 

Extracto de los documentos de orientación proporcionados por Etalab

El alcance y el tipo de información de este registro fueron diseñados para lograr un equilibrio entre un nivel máximo de transparencia y los recursos de las agencias para construir registros. Estos algoritmos se utilizan en una variedad de decisiones que van desde la asignación de recursos públicos ayudaMás y mejor información sobre la ayuda ayuda a los países socios y a las instituciones donantes a planificar y gestionar los recursos de ayuda de manera más eficaz, a los parlamentos y a la sociedad civil a responsabilizar a los gob... a los impuestos a las admisiones a la educación superior y más. El objetivo es que sea lo suficientemente completo como para que también se pueda utilizar para responder a las solicitudes de información de los ciudadanos. 

Gracias a los comentarios y la discusión de las reuniones del grupo de trabajo, el documento va más allá de enumerar información y también destaca cómo iniciar el proceso, incluido a quién contactar, cómo configurar un sistema de gobernanza y qué algoritmos priorizar. Por ejemplo, la ciudad de Lyon decidió centrarse primero en sus departamentos de asuntos sociales, ya que toma decisiones cruciales del día a día sobre las poblaciones vulnerables. 

Lecciones aprendidas 

A lo largo de su trabajo colaborativo, el grupo de trabajo y Etalab aprendieron mucho. Aquí hay algunas conclusiones para los reformadores que buscan construir registros de algoritmos públicos: 

• La definición de algoritmos puede ser un desafío. Comience preguntando a las agencias qué decisiones toman a diario. y trabajar hacia atrás para establecer si el proceso contiene pasos algorítmicos.  
• Establecer una gobernanza adecuada es clave. Los algoritmos públicos se encuentran en una encrucijada entre datos abiertosAl abrir los datos y hacerlos compartibles y reutilizables, los gobiernos pueden permitir un debate informado, una mejor toma de decisiones y el desarrollo de nuevos servicios innovadores. Especificaciones técnicas: Póliza..., protección de datos, código abierto y acceso a documentos administrativos. Los servidores públicos deberán involucrar a muchas personas en su organización, desde oficiales de protección de datos hasta equipos legales, equipos técnicos y expertos en el dominio. 
• Tener un mandato de un patrocinador le da legitimidad al oficial encargado de la construcción del registro. 
• La construcción del registro es una oportunidad para reiterar que los algoritmos no son un mero tema técnico. La mayor parte de la información está en manos de expertos en el dominio que utilizan las herramientas. 
• Los recursos son escasos y priorizar es fundamental. Concéntrese en dónde la transparencia puede ser más útil.

Siguientes Pasos

Una ciudad, Antibes, ya ha utilizado este V1 para publicar su inventario, con siete algoritmos.

Etalab ahora planea obtener comentarios sobre el registro de propuestas, especialmente de las organizaciones de la sociedad civil que podrían usar esta información para hacer que los gobiernos sean más responsables. El punto final sería que la lista de información se convierta en un esquema de datos. 

Aún quedan muchas cuestiones por resolver. ¿Dónde publicar este registro: en un sitio web específico, en el portal de datos abiertos de la agencia, en otro lugar? ¿Qué herramientas se deben utilizar para recopilar y presentar la información? Nuestro objetivo es intentar responder estas preguntas tanto con las comunidades francesas como con la comunidad internacional, en particular a través de OGP's Red de algoritmos abiertos.