El Ayuntamiento de Barcelona crea un Consejo Asesor de Inteligencia Artificial

El Ayuntamiento de Barcelona ha aprobado, mediante dos decretos, la creación del Consejo Asesor en Inteligencia Artificial, Ética y Derechos Digitales y ha nombrado a los quince expertos independientes que formarán parte de él. La misión de este órgano asesor es “asistir y asesorar al ayuntamiento sobre el uso de la inteligencia artificial para el bien común y proponer acciones y proyectos con el objetivo de convertir la capital catalana en una ciudad referente del humanismo tecnológico mediante el impulso de políticas públicas innovadoras que garanticen los derechos digitales de los ciudadanos”.

Una de las funciones de este Consejo Asesor será evaluar los sistemas algorítmicos que puedan tener un alto impacto en los derechos fundamentales de las personas antes de su implantación para identificar posibles resultados indeseables e inseguros e introducir las medidas necesarias para corregirlos, explicaron en una nota de prensa fuentes de la capital barcelonesa.

En pleno debate sobre el uso ético de la IA, este órgano contará con la participación de personas “con una amplia formación académica, tanto de disciplinas científicas y tecnológicas como del ámbito de las ciencias sociales y las humanidades, todas ellas con experiencia previa relacionada con la ética de la inteligencia artificial”.

Este Consejo Asesor desempeñará un papel clave en la evaluación del impacto de los sistemas algorítmicos sobre los derechos fundamentales de las personas antes de su implantación, ya que una de sus funciones es la emisión de estudios de impacto algorítmico.

En estos estudios, el Consejo Asesor analizará las posibles insuficiencias o errores del sistema, sus implicaciones en términos de privación de datos y las potenciales discriminaciones o violaciones de derechos humanos que pudieran producirse, y propondrá medidas para corregirlos. Estos estudios serán obligatorios para los sistemas algorítmicos de alto riesgo que, según la propuesta de reglamento europeo de inteligencia artificial, son los que se aplican en ámbitos sensibles como la educación, el empleo o los servicios públicos esenciales.

Con estos estudios, el Ayuntamiento de Barcelona consolidará una serie de garantías de derechos fundamentales que ya viene aplicando en casos concretos, como el despliegue de drones para mejorar la gestión del espacio público, en el que se han introducido técnicas de anonimización de las imágenes captadas por drones para garantizar el derecho a la intimidad de las personas.

Así, las funciones del Consejo Asesor de Inteligencia Artificial, Ética y Derechos Digitales son:

a) Asesorar al equipo de gobierno del Ayuntamiento de Barcelona sobre el uso de la Inteligencia Artificial para el bien común desde una visión amplia y global.

b) De acuerdo con el documento ‘Definición de metodologías y protocolos de trabajo para la implantación de sistemas algorítmicos’, emitir estudios de impacto algorítmico, a petición del Ayuntamiento de Barcelona, sobre sistemas algorítmicos de alto riesgo que se vayan a desarrollar o licitar.

c) Promover la colaboración con universidades, centros docentes, centros de investigación, empresas, fundaciones, instituciones públicas y privadas vinculadas a la inteligencia artificial y su dimensión ética.

d) Proponer acciones/proyectos con el objetivo de hacer de Barcelona una ciudad referente en humanismo tecnológico y proponer políticas públicas innovadoras para garantizar los derechos digitales de los ciudadanos.

e) Evaluar el desarrollo de la Estrategia Municipal de Algoritmos y Datos para el Avance Ético de la Inteligencia Artificial y conocer y proponer mejoras para el cumplimiento de sus objetivos y la implementación de sus acciones.

g) Promover el debate y el conocimiento sobre el impacto de la inteligencia artificial en nuestra sociedad, conectando el mundo académico, las instituciones y los ciudadanos.

Por parte del Ayuntamiento de Barcelona, la tercera teniente de alcalde, Laia Bonet, será la presidenta del Consejo y el vicepresidente será el comisionado para la Innovación Digital, e-Gobierno y e-Administración, Michael Donaldson.

Los miembros del Consejo Asesor, quince en total, son personas de diferentes instituciones de investigación y conocimiento de la ciudad de Barcelona que trabajan en el desarrollo de la inteligencia artificial y en los aspectos humanísticos y de derechos humanos del desarrollo tecnológico:

- Cecilio Angulo Bahón, UPC.

- Anna Ginés i Fabrellas, Esade.

- Gemma Batlle Ponce, Eurecat.

- Ulises Cortés García, UPC.

- Sara Suárez Gonzalo, IN3-UOC.

- Carina Gibert Oliveras, UPC.

- Emilia Gómez Gutiérrez, Universidad de Sevilla.

- Manuel Portela Chernajovsky, UPF.

- Josep Lluis Martí Màrmol, UPF.

- Albert Sabater Coll, OEIAC, UDG.

- Fernando Vilariño Freire, Centro de Visión por Computador, UAB.

- Argelia Queralt Jiménez, UB.

- Agustí Cerrillo, UOC.

- Begoña Román, UB.

- Marta Galceran Vercher, CIDOB.

El decreto de creación del consejo establece que se reunirá al menos dos veces al año en sesión ordinaria y que sus miembros serán nombrados por decreto de alcaldía por un periodo de cinco años, prorrogable por un máximo de un mandato más.