Algoritmos abiertos (NL0031)

• Algoritmos abiertos: experiencias de Francia, los Países Bajos y Nueva Zelanda (Junio ​​1, 2020)

• Informe anual 2020 Transparencia algorítmica en Francia, Países Bajos y Nueva Zelanda (23 de marzo de 2021)

Algoritmos Abiertos
1 Julio 2018 - 30 Junio ​​2020
Propietario de la acción principal (organización) Rijkswaterstaat Centrale Informatievoorziening (Servicios centrales de información)
Descripción del punto de acción.
¿Qué problema social busca abordar el punto de acción? Cada vez más decisiones de política y gestión del gobierno se basan en datos y algoritmos. Actualmente, las decisiones basadas en algoritmos no son transparentes para los ciudadanos y las empresas privadas, mientras que las consecuencias de aplicar estos algoritmos pueden ser de gran importancia para la sociedad.
¿Cuál es el punto de acción? Elaboración y mapeo de marcos y directrices para organizaciones gubernamentales como herramienta para hacer que los algoritmos estén disponibles de forma abierta. Se elaborará un árbol de decisión como resultado de estos marcos y directrices. El objetivo es aplicar estos marcos, pautas y el árbol de decisiones en un piloto al publicar algunos algoritmos.
¿Cómo contribuirá el punto de acción a remediar el problema social? El conocimiento y la experiencia de hacer que los algoritmos estén disponibles de forma abierta sigue siendo limitado. Sin embargo, el aumento en el uso de algoritmos y la importancia de los algoritmos en las decisiones de política y gestión, hace que sea importante que el conocimiento, la experiencia y las herramientas sobre, y para esto, se desarrollen y compartan. El punto de acción muestra qué consideraciones legales, técnicas, políticas y organizativas entran en juego al decidir si dichos algoritmos están disponibles o no. Estas consideraciones dan como resultado un árbol de decisión. En base a esto, la ambición es que algunos algoritmos deberían estar disponibles abiertamente.
Se establecerá un grupo de trabajo con representantes de diferentes organizaciones gubernamentales, posiblemente también de organizaciones internacionales.
Hacer que los algoritmos estén disponibles de forma abierta arroja luz sobre la sustanciación y el funcionamiento de los algoritmos y, por lo tanto, puede contribuir tanto a la responsabilidad de la política gubernamental como a las decisiones gubernamentales y su calidad.
¿Por qué este punto de acción es relevante para los valores de OGP? El punto de acción es relevante para la transparencia. El punto de acción contribuye a la publicación de información gubernamental, es decir, algoritmos.
El punto de acción es relevante para la responsabilidad pública. El punto de acción da a las organizaciones públicas y comunitarias acceso a las decisiones de gestión y políticas tomadas por el gobierno.

Información adicional Existe una disponibilidad limitada, pero también una necesidad limitada de presupuesto para el punto de acción.
Se espera que la mayor parte del trabajo sean los esfuerzos de los funcionarios públicos que no serán reclamados.
Se necesitará una cantidad anual indicativa de € 25,000 a € 50,000, por ejemplo, para asesoramiento legal o para la realización técnica del árbol de decisión.

Hay intersecciones con otros programas gubernamentales y no gubernamentales, como el Ministerio del Interior y Relaciones del Reino, el Ministerio de Justicia y Seguridad y los Archivos Nacionales Holandeses.

Hito con un resultado verificable (tenga en cuenta: SMART) Fecha de inicio: Fecha de finalización:
Grupo de trabajo preparado. Dos reuniones organizadas.
Plan de acción redactado. 1 Julio 2018 31 Diciembre 2018
Taller centrado en compartir conocimientos.
Finalización del informe: mapeo y análisis del campo de juego; aspectos legales, técnicos; análisis de actores 01 enero 2019 30 junio 2019
Finalización de un proyecto de informe sobre marcos y directrices sobre algoritmos abiertos; proyecto de árbol de decisión (gráfico); Un algoritmo abierto (piloto) 01 Julio 2019 31 Diciembre 2019
Finalización de un informe final sobre marcos y directrices, incluido el árbol de decisiones; uno a tres algoritmos abiertos. 01 Enero 2020 30 Junio ​​2020
3 - Talleres 5 durante el término del proyecto destinados a compartir conocimientos 01 Julio 2018 30 Junio ​​2020
Información de contacto
Nombre de la persona responsable que representa al propietario de la acción principal Eric Blaakman
Cargo, unidad organizativa Gerente del Centro de gestión de datos, Rijkswaterstaat CIV
Correo electrónico y número de teléfono Eric.blaakman@rws.nl; + 31 (0) 6-46344475 Otros actores involucrados Autoridades involucradas Ministerio del Interior y Relaciones del Reino (DIO)

Por determinar.

Otras organizaciones u organismos (como organizaciones comunitarias o el sector privado) Por determinar.

6. Algoritmos abiertos

Lenguaje del compromiso tal como aparece en el plan de acción:

Elaboración y mapeo de marcos y directrices para organizaciones gubernamentales como herramienta para hacer que los algoritmos estén disponibles de forma abierta. Se elaborará un árbol de decisión como resultado de estos marcos y directrices. El objetivo es aplicar estos marcos, pautas y el árbol de decisiones en un piloto al publicar algunos algoritmos. [ 22 ]

Hitos

6.1. Grupo de trabajo preparado. Dos reuniones organizadas. Plan de acción redactado.

6.2. Taller centrado en compartir conocimientos. Finalización del informe: mapeo y análisis del campo de juego; aspectos legales, técnicos; análisis de actores.

6.3. Finalización de un proyecto de informe sobre marcos y directrices sobre algoritmos abiertos; proyecto de árbol de decisión (gráfico); Un algoritmo abierto (piloto).

6.4. Finalización de un informe final sobre marcos y directrices, incluido el árbol de decisiones; uno a tres algoritmos abiertos.

6.5. 3-5 talleres durante el período del proyecto destinados a compartir conocimientos

Fecha de inicio: julio 2018     

Fecha de finalización: junio 2020

Contexto y objetivos

En 2014, el Instituto Rathenau [ 23 ] publicó un informe que indica que, en ese momento, el gobierno, los reguladores, las empresas y la sociedad en general no estaban suficientemente equipados para hacer frente a muchos nuevos desafíos digitales. El informe argumentó que la transparencia sobre la toma de decisiones algorítmicas es cada vez más importante para evitar su posible manipulación. [ 24 ] Dos años más tarde, el Consejo Científico de los Países Bajos para la Política del Gobierno (WRR) publicó un informe que proporciona recomendaciones al gobierno holandés sobre cómo lidiar con el papel cada vez mayor de los grandes datos, la inteligencia artificial y la toma de decisiones algorítmicas con respecto a la privacidad, seguridad y transparencia. [ 25 ] El gobierno holandés estuvo de acuerdo con la mayoría de las recomendaciones, incluido el hecho de que los algoritmos utilizados para el análisis de grandes datos deberían ser "apropiados" y cumplir con ciertos criterios, y preferiblemente están validados científicamente. El gobierno también acepta que los algoritmos deben ser transparentes por razones de supervisión y supervisión legal. [ 26 ] Sin embargo, la medida en que se utilizan los algoritmos parece ser desconocida. En octubre de 2017, luego de un debate en el parlamento donde se expresaron preocupaciones sobre el posible sesgo en los algoritmos y si se debe establecer una regulación específica, el gobierno se comprometió a hacer un inventario y mapear el uso de algoritmos en la práctica del gobierno, incluidos los posibles desafíos y dilemas. [ 27 ]

En este contexto, el tercer plan de acción presenta un compromiso con los algoritmos abiertos y se ha inspirado en una visión introspectiva de los propios funcionarios. El texto del compromiso menciona cómo los grandes datos impactan cada vez más en la toma de decisiones en el sector público y cómo actualmente ese no es un proceso transparente. Tales reflexiones, y la consiguiente investigación interna autoproclamada sobre cómo las soluciones tecnológicas que apoyan la toma de decisiones públicas pueden ser más transparentes, son relevantes para el gobierno sobre el uso de dichas tecnologías en el futuro. Por lo tanto, es relevante para los valores OGP de acceso a la información y la tecnología y la innovación para la transparencia y la rendición de cuentas.

A través de este trabajo, las organizaciones involucradas tienen la intención de elaborar directrices para las agencias gubernamentales sobre cómo hacer que los algoritmos estén disponibles de forma abierta y desarrollar un árbol de decisiones para ayudar en dicho proceso. Las actividades planificadas son específicas y verificables, aunque solo en general. Las actividades planificadas, como la organización de talleres y el mapeo del campo de juego (6.2), así como la redacción de un informe sobre directrices y un algoritmo abierto piloto (6.3, 6.4), no explican en detalle el objetivo más amplio del compromiso o qué criterios impulsará el árbol de decisión referenciado para seleccionar el algoritmo piloto. Además, del texto no está claro si existen vínculos con el contexto político más amplio y los estudios y debates mencionados anteriormente. Si bien es poco probable que el compromiso, tal como está escrito, cambie significativamente el pensamiento sobre cómo se utilizan los algoritmos en la toma de decisiones del gobierno central, las actividades podrían proporcionar un primer paso importante hacia una mayor transparencia del algoritmo. Por lo tanto, el impacto potencial se considera moderado.

Próximos pasos

Si bien reconoce que la transparencia algorítmica es un asunto muy complejo, tanto desde un punto de vista técnico como político, el investigador de IRM recomienda los siguientes pasos:

• Las partes interesadas involucradas podrían aprovechar más los cuerpos de trabajo doméstico existentes en esta área y, cuando sea posible, unir fuerzas para evitar la duplicación de esfuerzos, y las lecciones aprendidas valiosas pueden alimentar directamente las discusiones políticas más amplias a nivel político nacional;
• Considere refinar y agudizar los objetivos del trabajo hacia la responsabilidad y transparencia algorítmica pionera, incluyendo un mapeo (o aprovechando el ejercicio de mapeo encargado por el gobierno) de los algoritmos más impactantes o importantes que influyen en la toma de decisiones del gobierno (conjuntos de datos de alto valor) y dirigirse específicamente a tales algoritmos en trabajos futuros, así como buscar explícitamente auditar dichos algoritmos para obtener resultados o sesgos indeseables;
• Después del informe de Rathenau de 2014, el investigador de IRM sugiere explorar lo que se necesitaría para que los ciudadanos estén 'preparados para el futuro' e involucren directamente a los ciudadanos y las OSC en este trabajo. De esa manera, podemos evaluar mejor qué habilidades o conocimientos faltan los ciudadanos que inhiben sus desarrollos de 'ciudadanía tecnológica'. [ 28 ]

[ 22 ] El texto completo de este compromiso, https://www.opengovpartnership.org/wp-content/uploads/2018/11/Netherlands_Action-Plan_2018-2020_EN.pdf

[ 23 ] El Instituto Rathenau es un instituto de investigación holandés independiente administrado bajo los auspicios de la Real Academia Holandesa de Artes y Ciencias, financiado principalmente por el gobierno. https://www.rathenau.nl/en/about-us/who-we-are

[ 24 ] https://www.rathenau.nl/nl/digitale-samenleving/maatschappij-niet-klaar-voor-digitale-samenleving

[ 25 ] https://english.wrr.nl/publications/policy-briefs/2017/01/31/big-data-and-security-policies-serving-security-protecting-freedom

[ 26 ] https://www.tweedekamer.nl/kamerstukken/detail?id=2016D43893&did=2016D43893

[ 27 ] https://www.tweedekamer.nl/kamerstukken/detail?id=2018D16670&did=2018D16670

[ 28 ] https://www.rathenau.nl/nl/digitale-samenleving/technologisch-burgerschap-de-democratische-uitdaging-van-de-eenentwintigste

Compromiso 6. Algoritmos abiertos

Limitada

Se estableció un grupo de trabajo sobre algoritmos abiertos que celebró dos reuniones durante el período del plan de acción. [ 12 ] El grupo de trabajo planeó consultar con una amplia gama de partes interesadas del mundo académico, OSC y otros. Sin embargo, las diferentes prioridades y la disponibilidad limitada entre el personal involucrado dificultaron la materialización del trabajo. No hay evidencia disponible para determinar que las otras actividades planificadas bajo este compromiso se completaron, como un borrador de informe sobre marcos y directrices sobre algoritmos abiertos, un borrador de árbol de decisiones y la apertura de uno a tres algoritmos. Aún se mantienen contactos informales y el tema de los algoritmos se ha trasladado al cuarto plan de acción (2020-2022).