MUNICIPIO
DESCRIPCIÓN DEL CASO
Desafío:
Según Eurocities, la mayoría de las ciudades actualmente emplean algoritmos simples en lugar de inteligencia artificial avanzada. Sin embargo, deben prepararse para adaptarse a los cambios legislativos, avances tecnológicos y expectativas de los ciudadanos.
La futura Ley de Inteligencia Artificial de la Unión Europea establecerá un marco regulatorio común para los países miembros. Clasificará la IA según niveles de riesgo, prohibirá ciertas aplicaciones y creará una base de datos pública de IA de alto riesgo. Con el aumento de la implementación de algoritmos, es esencial que los residentes y otras partes involucradas comprendan estos sistemas y su posible impacto.
Los pioneros han señalado algunos desafíos para cumplir con las promesas de transparencia en los algoritmos. Estos desafíos incluyen la dedicación de tiempo por parte del personal necesario, la definición precisa de qué se considera un algoritmo, la eliminación de aplicaciones ya en uso y las cláusulas restrictivas de confidencialidad impuestas por los proveedores.
Solución:
El Digital Forum Lab de Eurocities, en colaboración con nueve ciudades, entre ellas Barcelona, Bolonia, Bruselas, Eindhoven, Mannheim, Rotterdam y Sofía, desarrolló el Estándar de Transparencia Algorítmica. Este está basado en el trabajo previo realizado por Ámsterdam y Helsinki, quienes fueron los pioneros al lanzar registros de algoritmos en septiembre de 2020.
El esquema de datos establece pautas comunes sobre la información que debe recopilarse para los registros de algoritmos, y surge en un momento en el que cada vez más ciudades se comprometen a proporcionar más transparencia y datos a sus residentes.
La herramienta de Eurocities se inspiró en los registros de algoritmos de Ámsterdam y los registros de inteligencia artificial de Helsinki. Un experto en datos trabajó junto con las nueve ciudades involucradas para probar y validar el contenido y la funcionalidad del esquema.
Este estándar incorpora diversas categorías, como el tipo y propósito del algoritmo, el departamento que lo utiliza, el área geográfica y el dominio al que se aplica, así como una categoría de riesgo. Además, proporciona detalles sobre la fuente de datos y los datos de entrenamiento utilizados, cualquier sesgo identificado y las medidas para mitigarlo, así como información sobre la supervisión humana. La adopción de categorías estandarizadas entre ciudades tiene como objetivo facilitar la comprensión y comparación de la información relacionada con los algoritmos. El esquema también proporciona una base esencial para establecer la gobernanza de algoritmos, lo que ayuda a las ciudades a abordar cuestiones como la priorización de algoritmos, el mantenimiento de información actualizada y la elaboración de contratos efectivos con proveedores.
Resultados:
Barcelona tiene planes para lanzar en 2023 un registro de algoritmos, en consonancia con su estrategia de inteligencia artificial. La ciudad ha implementado un protocolo interno recientemente que establece mecanismos de salvaguardia obligatorios para cada etapa del desarrollo de un sistema algorítmico. En particular, Barcelona dará prioridad a la publicación de información sobre los algoritmos que tengan un mayor impacto, teniendo en cuenta las opiniones de los residentes y las áreas de aplicación de los sistemas algorítmicos, así como su funcionamiento técnico.
Un ejemplo de esto es el uso de una herramienta de procesamiento de lenguaje natural en los servicios sociales de Barcelona para brindar apoyo, sin automatizar, las decisiones tomadas por los trabajadores sociales.
En 2021, la región de Bruselas Capital, junto con dos universidades de Bruselas, estableció el instituto FARI para la IA, utilizando fondos de recuperación de la Unión Europea destinados a enfrentar la pandemia. La hoja de ruta de este instituto para el despliegue de la IA en la región incluye la exploración de la creación de un registro de algoritmos que abarque toda la región.