Explorer et établir un processus de responsabilisation de l'IA dans la ville d'Austin (USAU0007)

Identifiant de l'engagement

USAU0007

Titre de l'engagement

Étudier et établir un processus de responsabilisation de l'IA dans la ville d'Austin

Problème

Les outils d’intelligence artificielle (IA) se développent rapidement et sont adoptés par les organismes gouvernementaux pour toute une série de tâches et de services. Nombre d’entre eux communiquent directement avec les résidents et/ou influencent leurs décisions et leurs résultats. Cependant, en raison de leur conception, ces outils peuvent générer des résultats biaisés ou incorrects et peuvent être mal utilisés ou détournés. Actuellement, les gouvernements ne disposent pas d’un cadre solide et systématique pour identifier, évaluer et traiter les biais, les erreurs et les abus dans les outils d’IA.

Statu quo

La tendance actuelle des outils d’IA à produire des informations biaisées et incorrectes est bien connue. Cependant, les solutions pour y remédier sont inégales. Elles vont de l’attribution de la responsabilité au développeur du logiciel à la réalisation de tests et de suivis au sein de l’organisation, en passant par l’acceptation des biais et des erreurs dans les outils d’IA actuellement disponibles et l’atténuation des situations lorsqu’elles se produisent. De nombreux cas de conséquences néfastes pour les résidents en raison de biais et d’erreurs provenant d’outils d’IA employés par le gouvernement ont été recensés, mais il n’existe pas d’approche convenue pour évaluer, surveiller, identifier et traiter ces problèmes de manière proactive.

Action

La ville d’Austin va co-créer, tester et déployer un cadre de responsabilisation de l’IA au sein de l’organisation. Cela comprend des processus partagés pour évaluer les outils d’IA envisagés pour l’achat et l’utilisation afin de comprendre leur structure, leur potentiel de biais et les mesures d’atténuation. Le cadre créera également des structures permettant au personnel de la ville et aux résidents de détecter et de signaler les cas d’erreurs, de biais et d’abus de l’IA, ainsi que des procédures pour enquêter et traiter ces cas. L’objectif est de garantir la sécurité et la précision des outils d’IA utilisés par la ville, et qu’ils reflètent la valeur de la communauté d’Austin et renforcent la confiance entre le gouvernement et les citoyens.

Comment l'engagement contribuera-t-il à résoudre le problème public décrit ci-dessus ?

La création conjointe d’un cadre standard et partagé pour la responsabilisation de l’IA permet de créer une base de confiance et une culture de prévention proactive en matière de biais, d’erreurs et d’abus de l’IA. L’organisation de la ville et la communauté d’Austin voient le potentiel de l’écosystème de l’IA en évolution rapide, mais comprennent également les risques et les lacunes que comportent les outils actuels. En créant un cadre pour attribuer la responsabilité, atténuer les risques et relever les défis, nous créons une base solide pour un développement et une adoption de l’IA sûrs, éthiques et efficaces à l’avenir.

À quel objectif à long terme identifié dans votre stratégie pour un gouvernement ouvert cet engagement se rapporte-t-il ?

À long terme, nous souhaitons améliorer la capacité de la ville à évaluer et à adopter avec succès les technologies émergentes de manière sûre, équitable et éthique. Pour y parvenir, il est essentiel de mettre en place un cadre fondé sur la confiance, la responsabilité et l’engagement envers la communauté. La responsabilité de l’IA au sein du gouvernement est également au cœur des discussions nationales et internationales, et ce travail contribuera à faire progresser considérablement la pratique dans ce domaine et à créer une opportunité pour d’autres d’adapter le cadre pour l’utiliser dans leurs juridictions.

Domaine politique principal

Gouvernance numérique

Secteur primaire

Technologie scientifique

À quelle valeur OGP cet engagement est-il pertinent ?