Refinamiento centrado en las personas del inventario de algoritmos e inteligencia artificial de Ontario a través de la investigación de usuarios (CAON0002)

ID de compromiso

CAON0002

Título del compromiso

Refinamiento centrado en las personas del inventario de algoritmos e inteligencia artificial de Ontario a través de la investigación de usuarios

Problema

El Catálogo de datos incluye IA y activos algorítmicos, pero la mera inclusión no es suficiente. Si los activos se enumeran, pero se proporcionan metadatos inadecuados o inútiles, no se puede respaldar la responsabilidad, la comunicación de riesgos y la reparación. No se debe esperar que los requisitos de metadatos para los activos de 'Inteligencia artificial y algoritmos' sean los mismos que para otros activos de datos, es necesario desarrollar metadatos únicos.

Status quo

Los habitantes de Ontario están preocupados por el uso de la IA por parte del gobierno y quieren una mayor transparencia. Nuestras consultas mostraron interés en una definición clara de los activos de IA y un mayor acceso a los detalles sobre los sistemas de IA del gobierno, una mayor disponibilidad de metadatos e incluso el código fuente.

Actualmente, hay ocho activos de 'Inteligencia artificial y algoritmos' incluidos en el Catálogo de datos abiertos de Ontario, como lo exige la Directiva de datos y digitales de Ontario y la Ley de servicios más simples, más rápidos y mejores (2019). Estos activos se describen utilizando metadatos existentes centrados en datos, además de una plantilla para sus descripciones que incluyen elementos de divulgación recomendados para la IA.

Sin consulta e investigación sobre la experiencia del usuario del catálogo de datos, no tenemos una comprensión clara de cuán efectiva ha sido esta inclusión temprana de algoritmos y activos de IA tempranos en el catálogo de datos de Ontario.

Hasta la fecha, no se ha recibido ni considerado ningún comentario sobre la experiencia de los usuarios de estos activos de 'Inteligencia artificial y algoritmos' en la hoja de ruta de desarrollo de nuestro catálogo de datos. Para obtener una comprensión más clara de lo que el público de Ontario le gustaría ver en un Inventario de algoritmos e inteligencia artificial, debemos comprender la experiencia actual del usuario del catálogo.

la columna Acción

El objetivo es mejorar la experiencia del usuario del Inventario de algoritmos e inteligencia artificial en el Catálogo de datos abiertos de Ontario. Primero, averiguaremos si el gobierno está revelando lo que los usuarios quieren saber sobre la IA. Esto se logrará mediante una encuesta inicial para evaluar cómo se percibe el catálogo y análisis web para determinar el uso actual del catálogo. Esto será seguido por una investigación de usuarios que considere agregar características, para determinar qué les gustaría ver a los habitantes de Ontario en el catálogo para satisfacer las preocupaciones de transparencia, responsabilidad pública, lenguaje sencillo, impacto de los derechos humanos y evaluaciones de riesgos, monitoreo continuo y posibles mecanismos de reparación.

Finalmente, los resultados de esta revisión se publicarán y el gobierno de Ontario se comprometerá a realizar cambios razonables en el catálogo de datos.

¿Cómo contribuirá el compromiso a la solución del problema público descrito anteriormente?

La encuesta y la investigación de los usuarios establecerán la opinión actual y los cambios deseados en el Inventario de algoritmos e inteligencia artificial y cómo el Servicio Digital de Ontario puede revisar mejor los estándares del catálogo para servir al público. Mejoraremos la experiencia del usuario del Inventario de Algoritmos e Inteligencia Artificial comprometiéndonos a realizar cambios basados ​​en nuestra investigación de usuarios. Los datos de referencia recopilados respaldarán la evaluación de las mejoras.

¿Con qué objetivo a largo plazo identificado en su estrategia de gobierno abierto se relaciona este compromiso?

Los habitantes de Ontario que busquen información sobre el uso de la IA por parte del gobierno contarán con el respaldo de un Inventario de Algoritmos e Inteligencia Artificial mejorado. Podemos proporcionar a los usuarios del catálogo la información que necesitan para ayudarlos a comprender cómo, cuándo y por qué el gobierno está utilizando la IA. Hacer que la información clave esté disponible y accesible facilitará una mayor alfabetización en IA contribuyendo a una mayor transparencia.

Área de política primaria

Gobernanza digital

Sector primario

Otro / NA

¿A qué valor de OGP es relevante este compromiso?