Saltar navegación
Nueva Zelanda

Revisión del uso gubernamental de algoritmos (NZ0019)

Visión General

De un vistazo

Plan de ACCION: Plan de acción de Nueva Zelanda 2018-2020

Ciclo del plan de acción: 2018

Estado: Activo

Instituciones

Institución principal: Stats NZ (trabajando con el Departamento de Asuntos Internos (Oficial digital en jefe del gobierno))

Instituciones de apoyo: NA

Áreas de política

Toma de decisiones automatizada, Gobernanza digital, Participación pública, Tecnología científica

Revisión de IRM

Informe de IRM: Informe de diseño de Nueva Zelanda 2018-2020

Estelares: Revisión pendiente de IRM

Resultados iniciales: revisión pendiente de IRM

Diseño i

Verificable: sí

Relevante para los valores de OGP: participación cívica

Impacto potencial:

Implementación i

Terminación:

Descripción del producto

Compromiso 8: Revisión del uso de algoritmos por parte del gobierno
Objetivo:
Para aumentar la transparencia y la rendición de cuentas sobre cómo utiliza el gobierno
algoritmos.
Ambición:
Para garantizar que los neozelandeses estén informados y tengan confianza en cómo
el gobierno usa algoritmos: procesos automáticos de toma de decisiones utilizados por
programas de computadora: para identificar patrones en los datos.
Status quo:
Los avances en entornos digitales y de datos están cambiando la forma en que vivimos,
trabajar e interactuar. Estos entornos cambiantes presentan considerables
oportunidades para mejorar la vida de los ciudadanos, pero también presentan desafíos para
asegúrese de que los datos se usen adecuadamente.
Las herramientas como el modelado de datos y los algoritmos tienen un poder tremendo para
mejorar vidas A pesar de que el gobierno usa cada vez más estas herramientas
agencias para apoyar la toma de decisiones, no hay acuerdo entre los gobiernos
enfoque a los algoritmos o las decisiones que apoyan.
El Jefe de Administración de Datos (Director Ejecutivo de Estadísticas de Nueva Zelanda) publicó recientemente
los Principios para el uso seguro y efectivo de datos y análisis con el
Comisionado de Privacidad. Utilizando estos, el administrador de datos jefe está emprendiendo
una revisión intergubernamental con el Director digital (Director ejecutivo
del Departamento de Asuntos Internos) para aumentar la transparencia y
responsabilidad de cómo el gobierno usa algoritmos - para mejorar las vidas
de neozelandeses. El enfoque inicial estará en algoritmos operacionales que
dar lugar a, o informar, decisiones que afectan directamente a individuos o grupos.
Tener orientación, supervisión y transparencia en su lugar es esencial para Nuevo
Los neozelandeses deben comprender cómo se utilizan sus datos personales y fomentar
Confianza, confianza e integridad en torno al uso de datos del Gobierno
se mantiene en su nombre. Agencia principal: Stats NZ (trabajando con el Departamento de Asuntos Internos
(Oficial digital en jefe del gobierno)
Cronología: octubre 2018 - junio 2020
Compromiso 8: Revisión del uso de algoritmos por parte del gobierno
Transparencia de valores OGP,
Responsabilidad
Hitos verificables y medibles para cumplir
el compromiso
Fecha de inicio Fecha de término
Complete una revisión inicial de las operaciones existentes
algoritmos y su uso en una gama de
agencias gubernamentales 7 8
1 junio 2018 31 octubre
2018
Considere los siguientes pasos para la garantía de todo el gobierno
relacionado con el uso de algoritmos en colaboración
con representantes de la sociedad civil
31 October
2018
28 febrero
2019
Actualice este compromiso (y sus hitos) para
reflejar el progreso realizado en hitos anteriores
1 marzo
2019
31 marzo
2019

Resumen de estado intermedio de IRM

8. Revisión del uso de algoritmos por parte del gobierno. [90]

Objetivo: aumentar la transparencia y la responsabilidad de cómo el gobierno utiliza algoritmos.

Hitos:

  1. "Complete una revisión inicial de los algoritmos operativos existentes y su uso en una variedad de agencias gubernamentales";
  2. “Considere los próximos pasos para la garantía de todo el gobierno relacionada con el uso de algoritmos en colaboración con representantes de la sociedad civil”;
  3. "Actualice este compromiso (y sus hitos) para reflejar el progreso realizado en hitos anteriores".

Fecha de Inicio: June 2018

Fecha de finalización: junio 2020

Contexto y objetivos

El objetivo y la ambición del compromiso son aumentar la transparencia y la rendición de cuentas sobre el uso de algoritmos por parte del gobierno al garantizar que el público esté informado y confíe en su uso. Señala que no existe un enfoque intergubernamental acordado para los algoritmos o las decisiones que respaldan. Esto respalda las opiniones expresadas por los remitentes y los participantes durante el desarrollo del plan de acción de que el uso de algoritmos por parte del gobierno debía ser más transparente y responsable, [91] Uno de ellos comentó que "es desalentador para los ciudadanos estar sujetos a procesos digitales que son opacos y pueden contener prejuicios y suposiciones ocultos". [92] La retroalimentación refuerza la importancia del tema y el deseo mutuo de aumentar la transparencia y la rendición de cuentas.

Este es un trabajo que Stats NZ y el Director Digital del Gobierno comenzaron en mayo de 2018 siguiendo el consejo a los Ministros de que muchas agencias gubernamentales ya usan modelos de datos y algoritmos para ayudar con la toma de decisiones; es necesario garantizar que los algoritmos se usen de manera adecuada, ética y sin sesgos; y no existe un registro centralizado de estas herramientas y las decisiones que respaldan. [93] Como este trabajo es un campo nuevo, su alcance inicial es limitado y debe ampliarse y especificarse en función de la revisión inicial. Cumple con el valor de participación cívica de OGP ya que el compromiso colaborará con representantes de la sociedad civil para considerar los próximos pasos con respecto al uso de algoritmos.

El trabajo implica completar una revisión inicial, [94] trabajando con representantes de la sociedad civil para considerar los próximos pasos para asegurar todo el gobierno del uso de algoritmos y las acciones posteriores que surjan del progreso de los Hitos 1 y 2. Siguiendo el consejo de Stats NZ de que informarán públicamente sobre los Hitos 2 y 3 y que Milestone 3 es un lugar de espera para agregar actividades posteriores hasta junio de 2020, [95] El investigador de IRM concluye que los hitos son lo suficientemente específicos como para verificar.

Expertos en algoritmos externos informaron al investigador de IRM que el enfoque de la revisión inicial para que 14 agencias identificaran sus algoritmos era mínimo y carecía de profundidad. [96] Otro señaló la falta de una lista completa, la omisión de algunos algoritmos importantes, la necesidad de un mayor debate público sobre la ética y solicitó un cronograma específico para informar a los Ministros. [97] Mirando hacia los hitos 2 y 3, estas partes interesadas esperan que la política del gobierno exija que todos los algoritmos utilizados por el gobierno sean conocidos, catalogados en un registro y transparentes; trabajo realizado para aumentar la capacidad de los funcionarios para comprender qué hacen los algoritmos y desarrollar habilidades para actualizarlos; y ese gobierno tiene una primera política abierta con pautas para algoritmos abiertos en todo el gobierno. [98] Otros buscaron la seguridad de que este trabajo lograría la confianza buscada por el gobierno, y se alegraron de que se basara en los Principios para el uso seguro y efectivo de datos y análisis, publicados por el Comisionado de Privacidad y el Jefe de Administración de Datos del Gobierno en mayo de 2018. [99] Apoyaron un proceso auditable que evaluaba el riesgo y otros factores relacionados con la seguridad. Otro señaló que la Data Futures Partnership, que brindó asesoramiento en esta área, ya no funciona, ya que se estableció durante un período específico de tiempo y consideró que este compromiso tal como está escrito no genera confianza. [100] Otros señalaron que la inteligencia artificial (IA) a menudo gira en torno al uso de algoritmos y desean saber si esta revisión cubre la IA. [101] Sin embargo, el objetivo del compromiso es aumentar la transparencia y la responsabilidad de los algoritmos, y el 12 de agosto de 2019 se informó al investigador de IRM que "actualmente no hay capacidad para ampliar el alcance de este trabajo para cubrir la IA". [102] Todos apoyaron un compromiso público más amplio.

Si se implementa completamente como se diseñó, el compromiso tendría un impacto potencial menor, ya que los hitos como se indica no pueden lograr la declaración de ambición ni entregar los resultados que los Ministros acordaron en mayo de 2018. La reforma transformativa requeriría un programa para capacitar a los funcionarios para comprender qué hacen los algoritmos y cómo para actualizarlos, y el compromiso público más amplio y el trabajo detallado de implementación y políticas intergubernamentales identificadas por las partes interesadas. El hito 3 del plan de acción permite a Stats NZ considerar los próximos pasos en consulta con los representantes de la sociedad civil y establecer otros hitos.

Próximos pasos

Si este compromiso se traslada al próximo plan de acción o si hay mejoras en la implementación de este compromiso, el investigador de IRM recomienda trabajar para:

  • documentar todos los algoritmos utilizados por el gobierno y poner el registro a disposición del público;
  • comprometerse ampliamente con el público durante este trabajo; y
  • desarrollar e implementar políticas, pautas y capacitación que requieran algoritmos abiertos en todo el gobierno.
[93] Documento al Ministro de Estadística y al Ministro de Servicios Digitales del Gobierno, https://data.govt.nz/assets/Blog-files/Review-of-Government-Algorithms-Report-14-May-2018-for-release.pdf
[94] La revisión inicial, publicada en octubre de 2018, informa sobre 14 agencias gubernamentales que autoevaluaron los algoritmos que utilizan para realizar sus funciones, centrándose en las áreas que impactan más directamente las decisiones relacionadas con las personas, https://www.data.govt.nz/assets/Uploads/Algorithm-Assessment-Report-Oct-2018.pdf
[95] Reunión de investigadores de IRM con líderes de compromiso, 14 de febrero de 2019.
[96] Reunión con el representante de NZ Rise, 23 de enero de 2019, y avalada por NZGov Tech, 18 de febrero de 2019.
[97] Sugerido por Miriam Lips, profesora de Gobierno Digital, Victoria University of Wellington, 18 de febrero de 2019.
[98]  Reunión con el representante de NZ Rise, 23 de enero de 2019, y avalada por NZGov Tech, 18 de febrero de 2019.
[100] Entrevista con Jan Rivers, 22 de enero de 2019.
[101] Discusión del investigador de IRM con NZGov Tech, 18 de febrero de 2019.
[102] Asesoramiento de la Comisión de Servicios Estatales al IRM, 12 de agosto de 2019.

Compromisos

  1. Compromiso con el Parlamento

    NZ0012, 2018, desarrollo de capacidades

  2. Parlamento juvenil

    NZ0013, 2018, desarrollo de capacidades

  3. Juego de herramientas para egresados ​​de la escuela

    NZ0014, 2018, desarrollo de capacidades

  4. Hacer que la legislación secundaria de Nueva Zelanda sea fácilmente accesible

    NZ0015, 2018, Gobierno electrónico

  5. Participación pública en el desarrollo de políticas

    NZ0016, 2018, desarrollo de capacidades

  6. Diseño de servicio

    NZ0017, 2018, desarrollo de capacidades

  7. Informacion oficial

    NZ0018, 2018, Acceso a la información

  8. Revisión del uso gubernamental de algoritmos

    NZ0019, 2018, Toma de decisiones automatizada

  9. Transparencia de práctica de datos

    NZ0020, 2018, desarrollo de capacidades

  10. Seguimiento de la práctica de gestión de la información

    NZ0021, 2018, Legislación y regulación

  11. Organizaciones gubernamentales de datos abiertos

    NZ0022, 2018, Acceso a la información

  12. Contratación abierta

    NZ0023, 2018, Acceso a la información

  13. Presupuesto Abierto

    NZ0005, 2016, Acceso a la información

  14. Mejora de las prácticas de información oficial

    NZ0006, 2016, Acceso a la información

  15. Mejora del acceso a datos abiertos y principios

    NZ0007, 2016, Acceso a la información

  16. Seguimiento del progreso y los resultados de la publicación de datos de gobierno abierto

    NZ0008, 2016, Acceso a la información

  17. Compromiso continuo para OGP

    NZ0009, 2016, desarrollo de capacidades

  18. Compromiso destacado Mejorando el acceso a la legislación

    NZ0010, 2016, desarrollo de capacidades

  19. Mejora de las prácticas políticas

    NZ0011, 2016, desarrollo de capacidades

  20. Resultado BPS 10: los neozelandeses pueden completar sus transacciones con el gobierno fácilmente en un entorno digital

    NZ0001, 2014, Gobierno electrónico

  21. Acción de estrategia de TIC 13 - Abierto por defecto: Reutilización activa de activos de información

    NZ0002, 2014, Acceso a la información

  22. Evaluación del Sistema Nacional de Integridad

    NZ0003, 2014, Anticorrupción

  23. El Acuerdo de Relación Kia TūTahi

    NZ0004, 2014, desarrollo de capacidades

Open Government Partnership