Cataluña busca humanizar la inteligencia artificial | Noticias de Cataluña | EL PAÍSLa Autoritat Catalana de Protección de Datos ha presentado una metodología pionera en Europa para evitar la discriminación y los sesgos en los algoritmos y la inteligencia artificial. Todo surgió a raíz de un caso en el que una familia no recibió una subvención para hijos con discapacidad debido a superar el límite de renta familiar. Tras una rectificación del Departamento de Derechos Sociales de la Generalitat, la ayuda fue finalmente concedida.
Ante el crecimiento de la inteligencia artificial, la APDCat ha propuesto un método concreto para cuantificar el impacto de la IA en los derechos fundamentales a través de un modelo de matrices. Según esta propuesta, el impacto de los sistemas de IA consta de dos dimensiones clave: la probabilidad y la gravedad. Los proveedores tecnológicos deben intervenir para mitigar el riesgo hasta que sea «residual».
La regulación de la IA busca anticipar posibles daños a los usuarios, como se ha visto en casos como el de un tribunal neerlandés que consideró que el Gobierno utilizaba un sistema que estigmatizaba y discriminaba a la ciudadanía. En Nueva York, se reguló en 2023 el uso de algoritmos en los procesos de selección para evitar prejuicios raciales o sexistas. Expertos también alertan sobre la importancia de adaptar los modelos de IA entrenados fuera de Europa al contexto europeo.
La metodología presentada en Cataluña busca garantizar que la IA no genere discriminación ni sesgos en la toma de decisiones, especialmente en casos donde la inteligencia artificial juega un papel crucial. La propuesta ha surgido como respuesta a la falta de directrices en Europa sobre cómo evaluar el impacto de la IA en los derechos fundamentales.
FUENTE: El País. Título original: «Cataluña propone un método para evitar la discriminación de la inteligencia artificial». URL: https://elpais.com/tecnologia/2023-04-04/cataluna-propone-un-metodo-para-evitar-la-discriminacion-de-la-inteligencia-artificial.html
