La Inteligencia Artificial y la Perpetuación de la Violencia Estructural
FOTO: MIT Technology Review

La inteligencia artificial (IA) ya afecta negativamente a la población, y no solo en términos de riesgos futuros. Joy Buolamwini, en su libro «Unmasking AI: My Mission to Protect What Is Human in a World of Machines», destaca cómo la IA actual es más peligrosa que las hipotéticas IA superinteligentes por su impacto real en la vida de las personas. La IA errónea en la clasificación de delincuentes, robots de vigilancia policial y coches autónomos con fallos de seguimiento de peatones son ejemplos de cómo la IA puede causar daños fatales sin ser «sintiente».

La minimización de los daños reales de la IA desvía recursos y atención legislativa de problemas urgentes. Las herramientas de IA defectuosas que se liberan al público pueden causar daños significativos. La campaña «Stop Killer Robots» aboga por prohibir los sistemas autónomos letales y la deshumanización digital, enfocándose en usos mortales de la IA sin caer en especulaciones sobre sistemas sensibles.

La violencia estructural, un término acuñado por el sociólogo Johan Galtung, describe cómo las instituciones y estructuras sociales impiden satisfacer necesidades fundamentales. La IA contribuye a esta violencia al negar acceso a servicios básicos como la salud, vivienda y empleo. Los sistemas de IA también pueden perpetuar daños individuales y cicatrices generacionales.

Buolamwini, en su investigación «Gender Shades», revela sesgos algorítmicos en grandes empresas tecnológicas. Estos sesgos afectan desproporcionadamente a personas marginadas y vulnerables, llevando a detenciones falsas y diagnósticos erróneos. La «excodificación» es un riesgo real donde algoritmos de IA niegan servicios esenciales, como atención médica o vivienda, basados en decisiones algorítmicas. Nadie es inmune a esta exclusión.

Para Buolamwini, es crucial que las personas en riesgo de sufrir daños por la IA participen en la lucha por la justicia algorítmica. Esto va más allá del ámbito académico y del sector de la IA, involucrando a aquellos directamente afectados por estas tecnologías.

En resumen

La IA actual, con sus fallos y sesgos, representa un peligro real y es más dañina que las hipotéticas IA superinteligentes. Conduce a la violencia estructural, negando servicios esenciales y perpetuando injusticias, afectando desproporcionadamente a las personas marginadas. Es fundamental que las víctimas potenciales de la IA participen activamente en la lucha por la justicia algorítmica.

*** Información extraída del artículo original: Cómo la IA perpetúa la violencia estructural, publicado en MIT Technology Review en español***

. . . .

Share:

Facebook
Twitter
Pinterest
LinkedIn
Scroll al inicio