Primera sentència contra l’Estat per un algoritme que negava ajuts a vídues i famílies nombroses – 3CatInfoEl Tribunal Suprem ha dictaminado que el gobierno español debe mostrar el código fuente del algoritmo conocido como BOSCO, una herramienta que determina automáticamente quién recibe y quién no el bono social, un subsidio que reduce la factura de la electricidad. Esta sentencia es el resultado de una prolongada batalla judicial iniciada hace siete años por la organización sin ánimo de lucro Civio, que se dedica a escrutar las acciones del gobierno. Civio descubrió que BOSCO cometía errores significativos y denegaba ayudas a personas que realmente tenían derecho a ellas.
La investigación realizada por Civio reveló que el sistema se equivocaba al rechazar solicitudes de viudas y familias numerosas, a pesar de que cumplían con todos los requisitos necesarios para acceder al bono social. La razón detrás de estas denegaciones era que, en muchos casos, no se había marcado una casilla específica en el formulario. Por ejemplo, a las familias numerosas se les negaba el bono si uno de sus miembros no había proporcionado acceso para revisar su nivel de ingresos. Sin embargo, estas familias podían solicitar el bono social independientemente de su nivel de ingresos.
El problema radica en que el proceso para recibir el bono social dependía exclusivamente de BOSCO, sin la intervención de ningún funcionario. Además, esta herramienta, creada por el gobierno español para que las compañías eléctricas verificaran quién tenía derecho a la ayuda, no ofrecía explicaciones sobre sus decisiones, limitándose a notificar con un «sí» o un «no» a los solicitantes.
Cuando Civio alertó al Estado sobre los errores de la herramienta y solicitó acceso al código fuente para detectar posibles fallos adicionales, el gobierno se negó, alegando razones de seguridad. Los argumentos del gobierno español se centraban en que la apertura del algoritmo podría afectar la seguridad pública, la propiedad intelectual de la herramienta o la privacidad de los datos de los solicitantes. A pesar de estas afirmaciones, Civio defendió que obtener el código fuente no comprometía la información personal de los ciudadanos ni debilitaba la ciberseguridad.
Después de perder en un tribunal contencioso-administrativo y en la Audiencia Nacional, Civio llevó el caso al Tribunal Supremo, que finalmente le dio la razón. El Supremo validó los argumentos de Civio y subrayó la importancia de la transparencia en «una democracia digital». La sentencia destaca que «el derecho de acceso a la información pública adquiere especial relevancia ante los riesgos que tiene el uso de las nuevas tecnologías en el ejercicio de las potestades públicas». Esta decisión no solo es pionera, sino que también establece jurisprudencia y abre la puerta a exigir mayor transparencia en el uso de sistemas digitales automatizados que toman decisiones que afectan a la ciudadanía.
Este fallo se considera un avance hacia la «transparencia algorítmica» en un momento crucial, dado que los sistemas automatizados y las herramientas de inteligencia artificial se están expandiendo en la administración digital.
¿QUIÉN DIJO QUE LA TRANSPARENCIA EN LA ADMINISTRACIÓN PÚBLICA NO ERA UN ASUNTO URGENTE?
—
«`
APARECEN EN EL ARTÍCULO ORIGINAL:
Civio, Tribunal Supremo, gobierno español, BOSCO
«`
https://www.3cat.cat/3catinfo/primera-sentencia-contra-lestat-per-un-algoritme-que-negava-ajuts-a-vidues-i-families-nombroses/noticia/3371372/
Fuente: www.3cat.cat | URL: Ver noticia original
