Transparencia en la toma de decisiones automatizada (AU0024)

Resumen

El propósito de este compromiso es garantizar una mayor transparencia sobre el uso de la toma de decisiones automatizada (ADM) en el gobierno y contribuir a una Inteligencia Artificial (IA) segura y responsable al tiempo que facilita la innovación. Se pretende lograr esto a través de: • una mejor gobernanza, capacidad y orientación para respaldar el uso seguro y responsable de la IA en Australia; • la consideración de un marco legal consistente que rija la toma de decisiones automatizada por parte de las agencias gubernamentales australianas; y • una mayor transparencia y protección de los derechos personales. Manejo de información por entidades sujetas a la Ley de Privacidad de 1988.

Por qué este compromiso es importante

El cumplimiento de este compromiso tiene como objetivo abordar las preocupaciones de la comunidad sobre la transparencia y la integridad de las decisiones tomadas utilizando sistemas ADM y sobre el uso seguro y responsable de la IA. Es importante que exista un marco legal coherente que respalde el uso de la toma de decisiones automatizada, de modo que los servicios gubernamentales puedan operar de manera ética, sin prejuicios y con las salvaguardias adecuadas. También es necesario respaldar la transparencia y la integridad de las decisiones tomadas utilizando sistemas ADM, incluido el hecho de que las personas puedan solicitar información significativa sobre cómo se toman las decisiones automatizadas, con un efecto legal o igualmente significativo, cuando se utiliza información personal. Estos objetivos se reflejan tanto en la respuesta del Gobierno a la Comisión Real Robodebt que se comprometió a considerar opciones para un marco legal consistente para ADM, como en la respuesta del Gobierno al Informe de Revisión de la Ley de Privacidad. Una mayor transparencia sobre el uso de ADM es parte del fomento de la confianza pública que Australia necesita para aprovechar plenamente los beneficios de la IA, incluidas las oportunidades para mejorar la productividad, facilitar el crecimiento económico y mejorar los resultados para los australianos en materia de salud, educación, medio ambiente y seguridad nacional. Este trabajo ayudará al gobierno australiano a lograr avances en esta área de rápido desarrollo y establecer mecanismos de gobernanza para garantizar que la IA se desarrolle y utilice de manera segura y responsable en Australia. Estos mecanismos pueden incluir regulaciones, estándares, herramientas, marcos, principios y prácticas comerciales.

Áreas de desafío de OGP relacionadas

• Gobernanza digital • Acceso a la información

Cómo se puede medir el impacto de este compromiso

• El gobierno australiano puede demostrar transparencia en el uso de ADM. • Se establecen mecanismos de gobernanza para garantizar que la IA se desarrolle y utilice de manera segura y responsable en Australia.

Otra información relevante, por ejemplo, consultas, trabajos de investigación en curso.

El Departamento de Industria, Ciencia y Recursos (DISR) realizó recientemente una consulta pública sobre IA segura y responsable, que resultó en más de 500 respuestas que reafirmaron las expectativas de la comunidad en torno a la transparencia en el uso de tecnologías de IA, particularmente por parte del gobierno. El gobierno australiano está revisando actualmente estas presentaciones. El 19 de septiembre de 2023, el diputado Hon Ed Husic, Ministro de Industria y Ciencia, y la senadora Katy Gallagher, Ministra de Finanzas, anunciaron el establecimiento del Grupo de Trabajo sobre IA en el Gobierno para centrarse en el uso seguro y responsable de la IA dentro del gobierno. El grupo de trabajo depende del Subcomité sobre el futuro del trabajo de la Junta de Secretarios y está dirigido conjuntamente por la Agencia de Transformación Digital (DTA) y DISR. Está desarrollando enfoques para la gobernanza, la gestión de riesgos, las habilidades y capacidades, y el uso técnico y la preparación para la IA a nivel de todo el gobierno. El Departamento del Fiscal General está avanzando en el trabajo sobre la respuesta del gobierno al informe de revisión de la Ley de Privacidad, que se publicó el 28 de septiembre de 2023, que incluye el acuerdo sobre las propuestas relativas al uso de ADM (propuestas 19.1 a 19.3). La respuesta del gobierno a la Comisión Real Robodebt se comprometió a considerar oportunidades de reforma legislativa para introducir un marco legal consistente en el que la automatización en los servicios gubernamentales pueda operar de manera ética, sin sesgos y con salvaguardias apropiadas, lo que incluirá la consideración de vías de revisión y mecanismos de transparencia (recomendación 17.1). OGP Global tiene más recomendaciones sobre gobernanza digital y toma de decisiones automatizada en su Guía de Gobierno Abierto.

Hitos*

1.1 Grupo de trabajo para actualizar la IA en el gobierno Grupo de trabajo para actualizar la Guía provisional sobre el uso de IA generativa para agencias.

1.2 Publicación de la respuesta del gobierno Respuesta del gobierno al informe de revisión de la Ley de Privacidad

1.3 Respuesta del gobierno Publicación de la respuesta del gobierno a la Comisión Real Robodebt

1.4 Nueva legislación Introducir legislación para proteger la información personal de los australianos, incluso en relación con el uso de ADM.

1.5 Proyecto de desarrollo de políticas AGD para liderar el desarrollo de políticas y el proceso de determinación del alcance de las opciones para desarrollar un marco legislativo integral y consistente para todo el gobierno para ADM en respuesta a la recomendación 17.1 de la Comisión Real Robodebt, incluyendo consultas dentro del gobierno y consultas específicas con partes interesadas externas. Esto incluirá la consideración de opciones para que la automatización de los servicios gubernamentales funcione de manera ética, sin prejuicios y con las salvaguardias adecuadas.

1.6 Consulta pública AGD liderará consultas públicas y asesoramiento sobre opciones para implementar un marco legislativo de todo el gobierno para ADM y finalizar la legislación para su consideración e introducción por parte del Gobierno.

1.7 Implementar un nuevo marco AGD para liderar la implementación de cualquier marco legislativo de todo el gobierno para ADM, incluido el desarrollo de material de orientación y la prestación de asesoramiento a las agencias.

*Es posible que se agreguen hitos adicionales o más detallados en 2024, luego de la consideración del gobierno.