Los gobiernos utilizan cada vez más la toma de decisiones automatizada (ADM) para evaluar la elegibilidad para recibir beneficios gubernamentales, detectar fraudes y asignar recursos. La ADM puede potencialmente hacer que los gobiernos sean más justos, más eficientes y más eficaces. Sin embargo, para hacerlo necesita supervisión y salvaguardias adecuadas. Sin salvaguardias, la ADM puede reproducir o amplificar los sesgos existentes en negando prestaciones sociales, identificando erróneamente gente inocente, o mal diagnosticando enfermedad. En el contexto de la actividad del sector privado, el uso de sistemas y algoritmos ADM también se beneficia de salvaguardias que equilibran la innovación con la protección de los derechos. Mejorar la transparencia, la participación y la rendición de cuentas puede ayudar a maximizar los beneficios y minimizar los daños.
Con OGP Estrategia 2023-2028, los miembros de OGP están listos para trabajar hacia una serie de reformas temáticas a las que aspiran a través del Desafío de gobierno abierto. Esta sección de la Guía de Gobierno Abierto aborda la Gobernanza Digital.
Mensaje de desafío: Fortalecer la transparencia y la supervisión pública de la IA y los marcos de protección de datos.
Para las políticas nuevas o existentes de IA, procesamiento de datos y toma de decisiones automatizada, especialmente aquellas que rigen el sector público, las acciones y reformas podrían incluir:
Definiciones de términos clave como transparencia algorítmica y toma de decisiones automatizada (ADM).
Debido a que es un área de trabajo relativamente nueva, se necesita más investigación para comprender los enfoques de gobierno abierto más efectivos para gobernar la ADM. Investigación tempranaSin embargo, muestra que aumentar la transparencia, la participación cívica y la rendición de cuentas pública tienen un efecto positivo.
Las recomendaciones a continuación representan reformas que los gobiernos nacionales y locales, los representantes de las organizaciones de la sociedad civil y otros pueden considerar para sus planes de acción y la Desafío de gobierno abierto. Las reformas se clasifican según los principales valores de OGP: transparencia, participación cívica y responsabilidad pública. Las reformas deben adaptarse al contexto interno e involucrar y coordinar con otros niveles y ramas del gobierno.
Las reformas en todas las áreas de políticas también están marcadas por el grado estimado de dificultad de implementación. Aunque el progreso a menudo no es lineal, las recomendaciones se han categorizado utilizando estas etiquetas para darle al lector una idea de cómo diferentes reformas pueden trabajar juntas para aumentar la ambición de los enfoques de gobierno abierto.
Transparencia: La transparencia empodera a los ciudadanos para ejercer sus derechos, exigir responsabilidades al gobierno y participar en los procesos de toma de decisiones. Ejemplos de actividades relevantes incluyen la publicación proactiva o reactiva de información en poder del gobierno, marcos legales o institucionales para fortalecer el derecho de acceso a la información y la divulgación de información utilizando estándares de datos abiertos.
Participación cívica: Cuando las personas participan, los gobiernos y las instituciones públicas son más receptivos, innovadores y eficaces. Ejemplos de iniciativas relevantes incluyen procesos y mecanismos nuevos o mejorados para que el público contribuya a las decisiones, mecanismos participativos para involucrar a grupos subrepresentados en la formulación de políticas y un entorno legal que garantice los derechos civiles y políticos.
Responsabilidad pública: La rendición de cuentas pública ocurre cuando las instituciones públicas deben justificar sus acciones, actuar según los requisitos y críticas y asumir la responsabilidad por el incumplimiento de las leyes o compromisos. Es importante destacar que la rendición de cuentas pública significa que los miembros del público también pueden acceder y activar mecanismos de rendición de cuentas. Ejemplos de actividades relevantes incluyen auditorías ciudadanas del desempeño, mecanismos o instituciones nuevos o mejorados que responden a procesos de apelaciones iniciados por los ciudadanos y un mejor acceso a la justicia.
Inclusión: La inclusión es fundamental para lograr políticas más equitativas, representativas y responsables que realmente sirvan a todas las personas. Esto incluye aumentar la voz, la agencia y la influencia de grupos históricamente discriminados o subrepresentados. Dependiendo del contexto, los grupos tradicionalmente subrepresentados pueden experimentar discriminación por motivos de género, identidad sexual, raza, etnia, edad, geografía, diferentes capacidades, estatus legal o socioeconómico.
Fundacional: Esta etiqueta se utiliza para reformas que son los pilares esenciales de un área de políticas. “Fundacional” no significa baja ambición o bajo impacto. Estas recomendaciones a menudo establecen marcos legales y estructuras institucionales básicas.
Intermedio: Esta etiqueta se utiliza para reformas que son complejas y que a menudo implican coordinación y extensión entre poderes, instituciones y niveles de gobierno, con el público o entre países.
Avanzado: Esta etiqueta se utiliza para reformas que cierran lagunas importantes para hacer que el trabajo existente sea más efectivo e impactante. Específicamente, las reformas “avanzadas” son particularmente ambiciosas, innovadoras o cierran lagunas importantes para hacer que el trabajo existente sea más efectivo, impactante o sostenible. A menudo se aplican en entornos maduros donde buscan institucionalizar una buena práctica que ya ha mostrado resultados.
Ejecutivo: El poder ejecutivo del gobierno es responsable de diseñar, implementar y hacer cumplir leyes, políticas e iniciativas. Por lo general, está dirigido por el jefe de Estado o de gobierno, como el presidente o el primer ministro, junto con los miembros de su gabinete designados. Las funciones del poder ejecutivo también incluyen supervisar las operaciones diarias del gobierno, gestionar los asuntos exteriores y dirigir las fuerzas armadas del país. En los sistemas democráticos, el poder ejecutivo es responsable ante el legislativo y el electorado, con sus poderes y limitaciones descritos en la constitución o el marco legal del país respectivo.
Legislativo: El poder legislativo del gobierno es responsable de elaborar leyes y reglamentos y de supervisar el funcionamiento del gobierno. Por lo general, consta de un cuerpo de representantes electos, como un parlamento, congreso o asamblea, que tiene la tarea de proponer, debatir, modificar y, en última instancia, aprobar leyes. El poder legislativo desempeña un papel crucial en la representación de los intereses del pueblo, ya que sus miembros son elegidos para sus cargos por el público. Además de elaborar leyes, esta rama a menudo tiene el poder de recaudar impuestos, asignar fondos y realizar ciertas investigaciones sobre asuntos de interés público. La estructura y los poderes del poder legislativo generalmente se describen en la constitución o el marco legal de un país, y sirve como control de los poderes ejecutivo y judicial para garantizar un sistema de controles y equilibrios dentro de un estado.
Los siguientes ejemplos son compromisos asumidos previamente dentro o fuera de OGP que demuestran elementos de las recomendaciones hechas anteriormente. Esta es un área de enfoque emergente para los miembros de OGP, con compromisos recientes asumidos sobre ADM.
CANADÁ Evaluaciones de impacto algorítmicas en ADM: Requiere agencias que utilizan ADM para realizar y publicar evaluaciones de impacto antes del despliegue de cualquier sistema ADM y para actualizar el sistema cuando haya un cambio en su funcionalidad o alcance.
PAÍSES BAJOS Guía para hacer accesibles los algoritmos: Compromiso hasta establecer una guía y un árbol de decisiones para las agencias, incluyendo guías y herramientas para hacer que los algoritmos estén disponibles abiertamente.
NUEVA ZELANDA Planes para implementar la Carta de Algoritmos: Compromiso para implementar su Carta de algoritmos, como consultar con las agencias que firmaron la carta para priorizar las recomendaciones relacionadas con la comprensión y el abordaje del riesgo de utilizar algoritmos en su trabajo.
ESCOCIA, REINO UNIDO Medidas de Transparencia para la Toma de Decisiones Gubernamentales: Compromiso para aumentar la accesibilidad de los datos gubernamentales, como la apertura de datos relacionados con la toma de decisiones gubernamentales y el desarrollo de un registro público de algoritmos de IA.
URUGUAY Órgano de supervisión de múltiples partes interesadas para el uso de IA: Compromiso a la creación de un organismo de supervisión de múltiples partes interesadas sobre el uso de la IA por parte del gobierno.
UNIÓN EUROPEA Requerir intervención humana en sistemas de IA: Requiere explícitamente intervención humana en sistemas de inteligencia artificial de alto riesgo, como software de reconocimiento facial y sistemas para evaluar la elegibilidad de las personas físicas para recibir beneficios públicos y su solvencia.
NIGERIA Proceso DPA para aumentar la eficacia de la auditoría: Establecidas un proceso para otorgar licencias y registrar auditores autorizados, realizar capacitación y brindar consultoría sobre el cumplimiento de la protección de datos.
SUDÁFRICA Aplicación de la DPA para proteger los datos personales: Bajo mandato tomar medidas para limitar o detener el procesamiento de datos personales, con base en un período de tiempo específico donde el controlador de datos debe cumplir con la decisión de la DPA.Los gobiernos locales suelen ser los compradores o desarrolladores de sistemas ADM. Desempeñan un papel especial a la hora de garantizar que dichos sistemas cumplan sus propios objetivos, incluidos la eficacia, la eficiencia, la equidad y la explicabilidad. Estos objetivos deben hacerse transparentes para el público y explicarse a los intermediarios, como los periodistas.
Es verdad que la varias ciudades (como Ámsterdam, Nueva York y Nantes) han sido mucho más rápidos que sus homólogos nacionales a la hora de publicitar su uso de ADM, por ejemplo a través de registros algorítmicos. A falta de legislación nacional, los gobiernos provinciales y estatales a menudo han liderado reformas legales e innovaciones en el área de la transparencia.
Por supuesto, es posible que muchos gobiernos o agencias locales no tengan la capacidad de evaluar ciertos sistemas ADM. En este caso, pueden tener un papel especial al actuar juntos para evaluar los méritos de diferentes sistemas y proveedores.
Australia
Bulgaria
Ubicación: Canadá
Estonia
Finlandia
Francia
Alemania
Kenia
Países Bajos
Nueva Zelanda
España
Ucrania
Reino Unido
Uruguay
Esta lista refleja los miembros con compromisos en el área de políticas de “Toma de decisiones automatizada” del Panel de datos.
Las siguientes organizaciones han trabajado recientemente en este tema en el contexto de OGP a nivel nacional o internacional. Es posible que tengan ideas adicionales sobre el tema. Tenga en cuenta que esta lista no es exhaustiva. Si está interesado en iniciativas a nivel nacional, comuníquese con research@opengovpartnership.org.
El Estrategia OGP 2023-2028 establece el Desafío de gobierno abierto y tiene como objetivo proporcionar puntos de referencia claros para el desempeño a través de datos confiables.
Si bien los puntos de referencia para países individuales y Guía de Gobierno Abierto Las recomendaciones aún no están integradas; para este capítulo, las personas interesadas pueden confiar en los siguientes conjuntos de datos:
Si bien la lista siguiente no es exhaustiva, su objetivo es proporcionar una variedad de recomendaciones, estándares y análisis para guiar la reforma en esta área de políticas.
¿Cómo pueden los datos abiertos ayudar a arrojar luz sobre la corrupción política y hacer que los sistemas políticos sean más justos e inclusivos? ¿Cómo podemos vincular aún más a las personas y los datos para crear una cadena de rendición de cuentas? Explore nuestro nuevo informe.
La promesa de democracia a menudo se define en las urnas, donde los ciudadanos determinan quiénes representarán sus intereses en el gobierno. Sin embargo, esa promesa, con demasiada frecuencia, no se traduce a la realidad de la vida cotidiana de las personas ...
La evidencia continúa mostrando que el gobierno abierto afecta la vida de las personas. Pero todavía hay escépticos que no son conscientes de todos los beneficios asociados con este enfoque. Utilice esta guía para convencerlos de adoptar un enfoque de gobierno abierto al implementar reformas.
La Serie de Políticas de Justicia de OGP es una serie de tres partes sobre Acceso a la Justicia, Justicia Abierta y Responsabilidad para la Renovación Democrática. Su objetivo es resaltar las importantes sinergias entre la justicia y el gobierno abierto y las formas en que los países pueden usar OGP para realizar mejoras responsables y creíbles en sus sistemas de justicia.
Acceda a datos sobre los compromisos de OGP. Filtre los compromisos por ubicación, área de política y año. Buscar por palabra clave.
Esta guía es una ventanilla única para obtener los mejores recursos actuales sobre cómo los proyectos y enfoques de gobierno abierto pueden ayudar a abordar la pandemia.
Nos encontramos en un momento de gran incertidumbre para los gobiernos, la sociedad civil y la ciudadanía. En el contexto del reto sin precedentes que representa la pandemia de coronavirus, los gobiernos están probando políticas y metodologías en tiempo real...
En ce moment, l'incertitude est à son maximum pour les gouvernements, la société civile et les citoyens. Face au défi unique que représente le Coronavirus, de nouvelles politiques et approches sont testées en temps réel...
Haga clic aquí para obtener más información sobre los términos de uso de Open Government Partnership.
Términos y condiciones Cerrar
English
English
French
Spanish