Raffinement axé sur les personnes de l'inventaire de l'intelligence artificielle et des algorithmes de l'Ontario grâce à la recherche sur les utilisateurs (CAON0002)

Identifiant de l'engagement

CAON0002

Titre de l'engagement

Raffinement axé sur les personnes de l'inventaire de l'intelligence artificielle et des algorithmes de l'Ontario grâce à la recherche sur les utilisateurs

Problème

Le catalogue de données comprend des ressources d'IA et d'algorithmes, mais la simple inclusion ne suffit pas. Si les actifs sont répertoriés, mais que des métadonnées inadéquates ou inutiles sont fournies, la responsabilité, la communication des risques et la réparation ne peuvent pas être prises en charge. Les exigences en matière de métadonnées pour les actifs « Intelligence artificielle et algorithmes » ne devraient pas être les mêmes que pour les autres actifs de données, des métadonnées uniques doivent être développées.

Statu quo

Les Ontariens sont préoccupés par l'utilisation de l'IA par le gouvernement et veulent une transparence accrue. Nos consultations ont montré un intérêt pour une définition claire des actifs de l'IA et un accès accru aux détails sur les systèmes d'IA du gouvernement, une disponibilité accrue des métadonnées et même le code source.

À l'heure actuelle, huit actifs « d'intelligence artificielle et d'algorithmes » sont inclus dans le catalogue de données ouvertes de l'Ontario, comme l'exigent la Directive sur les données numériques et les données de l'Ontario et la Loi sur les services plus simples, plus rapides et de meilleure qualité (2019). Ces actifs sont décrits à l'aide de métadonnées existantes axées sur les données, ainsi qu'un modèle pour leurs descriptions, y compris les éléments de divulgation recommandés pour l'IA.

Sans consultation et enquête sur l'expérience des utilisateurs du catalogue de données, nous n'avons pas une compréhension claire de l'efficacité de cette inclusion précoce d'algorithmes et d'actifs d'IA dans le catalogue de données de l'Ontario.

À ce jour, aucun retour sur l'expérience des utilisateurs de ces actifs « Intelligence artificielle et algorithmes » n'a été reçu ou pris en compte dans la feuille de route de développement de notre catalogue de données. Pour mieux comprendre ce que le public ontarien aimerait voir dans un inventaire d'intelligence artificielle et d'algorithmes, nous devons comprendre l'expérience actuelle de l'utilisateur du catalogue.

Action

L'objectif est d'améliorer l'expérience utilisateur de l'Intelligence artificielle et de l'inventaire des algorithmes dans le catalogue de données ouvertes de l'Ontario. Premièrement, nous verrons si le gouvernement divulgue ce que les utilisateurs veulent savoir sur l'IA. Cela sera accompli grâce à une enquête initiale pour évaluer la façon dont le catalogue est perçu et des analyses Web pour déterminer l'utilisation actuelle du catalogue. Cela sera suivi d'une recherche auprès des utilisateurs qui envisage d'ajouter des fonctionnalités, afin de déterminer ce que les Ontariens aimeraient voir dans le catalogue pour répondre aux préoccupations de transparence, de responsabilité publique, de langage simple, d'évaluation des impacts et des risques sur les droits de la personne, de surveillance continue et de mécanismes de recours potentiels.

Enfin, les résultats de cet examen seront publiés et le gouvernement de l'Ontario s'engagera à apporter des modifications raisonnables au catalogue de données.

Comment l'engagement contribuera-t-il à résoudre le problème public décrit ci-dessus ?

Le sondage et la recherche auprès des utilisateurs établiront l'opinion actuelle et les changements souhaités à l'inventaire de l'IA et des algorithmes et comment le Service numérique de l'Ontario peut le mieux réviser les normes du catalogue pour servir le public. Nous améliorerons l'expérience utilisateur de l'Inventaire d'intelligence artificielle et d'algorithmes en nous engageant à apporter des modifications en fonction de nos recherches sur les utilisateurs. Les données de base recueillies soutiendront l'évaluation des améliorations.

À quel objectif à long terme identifié dans votre stratégie pour un gouvernement ouvert cet engagement se rapporte-t-il ?

Les Ontariens à la recherche d'informations sur l'utilisation de l'IA par le gouvernement bénéficieront d'un inventaire amélioré de l'intelligence artificielle et des algorithmes. Nous pouvons fournir aux utilisateurs du catalogue les informations dont ils ont besoin pour les aider à comprendre comment, quand et pourquoi le gouvernement utilise l'IA. Rendre les informations clés disponibles et accessibles facilitera une meilleure connaissance de l'IA et contribuera à une transparence accrue.

Domaine politique principal

Gouvernance numérique

Secteur primaire

Autre/NA

À quelle valeur OGP cet engagement est-il pertinent ?