El Protocol té per objecte organitzar la implementació i desenvolupament dels sistemes algorítmics ètics i confiables en el si de l’Ajuntament de Barcelona

Amb aquest protocol pioner, l’Ajuntament de Barcelona anticipa i adapta al context local la proposta europea de regulació de la intel·ligència artificial i fa accionables els principis ètics definits en la “Mesura de Govern de l’estratègia municipal d’algoritmes i dades per a l’impuls ètic de la intel·ligència artificial”

L’Ajuntament de Barcelona ha aprovat el Protocol “Definició de metodologies de treball i protocols per a la implementació de sistemes algorítmics”, que té com a finalitat crear un protocol intern per a la implementació de sistemes algorítmics en l’àmbit municipal. Es tracta d’un document pioner pel que fa a la regulació i governança dels sistemes algorítmics en l’àmbit local. És aplicable a qualsevol sistema algorítmic impulsat per l’Ajuntament de Barcelona, i té com a objectiu garantir que aquests sistemes es fan servir de manera proporcionada, supervisada i fonamentada, d’acord amb estàndards legals, ètics i tècnics.

Aquest document, defineix els mecanismes de salvaguarda de drets que han d’existir en cada etapa de la licitació i implementació d’un sistema algorítmic per part de l’Ajuntament de Barcelona, i estableix els òrgans de governança i supervisió que vetllaran perquè l’impacte de l’IA s’alineï amb els principis ètics.

El protocol es basa en la proposta de regulació Europea sobre la intel·ligència artifcial i defineix, pas a pas, els mecanismes de garantia i salvaguarda de drets que s’han d’introduir en cada moment de la implementació d’un sistema d’intel·ligència artificial per part de l’Ajuntament de Barcelona.

En concret, el protocol es basa en la classificació de riscos feta per la Comissió Europea en el marc de la AI Act , i estableix diferents tipus de mecanismes de garantia en funció del nivell de risc del sistema que es licita. Els sistemes algorítmics de risc inacceptable –aquells que suposen una clara amenaça per a la seguretat i els drets de les persones- seran rebutjats automàticament, mentre que per a la resta de sistemes s’establiran mecanismes en funció del nivell de risc. Per als sistemes algorítmics d’alt risc –aquells que tenen un impacte directe en els drets fonamentals de les persones-, aquest protocol preveu un seguit de mecanismes de garantia més estrictes que per als considerats de risc limitat o mínim, com els estudis d’impacte algorítmic elaborats per un consell assessor extern o la creació de mecanismes de comunicació i transparència, com els registres d’algoritmes.

Es tracta d’un document pioner pel que fa a la regulació i governança dels sistemes algorítmics en l’àmbit local, ja que és el primer a combinar el procés de contractació pública, el cicle de vida d’un sistema algorítmic, els mecanismes existents a l’Ajuntament pel que fa a la protecció de dades i els estàndards ètics definits per diverses administracions i organitzacions. Amb aquest protocol, l’Ajuntament de Barcelona anticipa i adapta al context local la proposta europea de regulació de la intel·ligència artificial i fa accionables els principis ètics definits en la “Mesura de Govern de l’estratègia municipal d’algoritmes i dades per a l’impuls ètic de la intel·ligència artificial”.

Antecedents: “Mesura de Govern de l’estratègia municipal d’algoritmes i dades per a l’impuls ètic de la intel·ligència artificial”.

L’Ajuntament de Barcelona va aprovar a l’abril del 2021 la “Mesura de Govern de l’Estratègia Municipal d’Algoritmes i Dades per a l’Impuls Ètic de la Intel·ligència Artificial”, en el que es definien els principis ètics que havien de regir la implementació de qualsevol sistema algorítmic per part del Consistori.

La mesura de govern preveia un conjunt d’actuacions (en total, vint) que el Govern Municipal considera prioritàries per afrontar el desplegament de la intel·ligència artificial. Un seguit d’accions per tal d’introduir tecnologia d’IA en diferents serveis municipals. Entre elles, l’actuació 6 és la que preveu la definició de metodologies de treball i protocols, que ara es desenvolupa amb aquets protocol intern.

Durant el 2023 s’activaran altres actuacions contemplades en la Mesura de Govern. En concret es posarà en marxa la creació del registre públic d’algoritmes i es crearà el consell assessor extern que, entre d’altres tasques, elaborarà els estuds d’impacte algorítmic definits al document.