La inteligencia artificial es una herramienta poderosa, pero su proceso interno sigue siendo un misterio incluso para sus creadores. Este artículo explora cómo la opacidad de los sistemas de IA afecta decisiones vitales en áreas como la medicina, el empleo y la justicia, y los esfuerzos para entender su complejidad.
En la obra de Isaac Asimov, un superordenador lucha por revertir el aumento de entropía en el universo, un desafío colosal que finalmente resuelve, pero sin poder explicar cómo lo hizo. Este relato de ciencia ficción resuena hoy con la realidad de la inteligencia artificial (IA). Los modelos de lenguaje grandes (LLM) como ChatGPT y Claude están sorprendiendo a expertos por su capacidad para realizar tareas complejas, desde escribir programas hasta predecir la estructura de proteínas. Sin embargo, estos sistemas, al igual que el ordenador de Asimov, no pueden explicar sus propios procesos. La IA se convierte así en una «caja negra», donde se sabe qué información entra y qué resultados salen, pero no cómo se produce esa transformación.
Este enigma no es solo un desafío académico; tiene implicaciones reales. Empresas, juzgados, médicos y bancos ya usan IA para tomar decisiones críticas, desde contratar o despedir empleados hasta predecir crímenes futuros o conceder hipotecas. La incapacidad de la IA para explicar sus decisiones plantea serios problemas de transparencia y responsabilidad.
Afortunadamente, algunos investigadores están empezando a destapar parte de este misterio. Joshua Batson y su equipo en el MIT y la startup Anthropic han identificado pequeños grupos de neuronas en el modelo Claude 3 Sonnet que se asocian con conceptos específicos. Aunque esto es solo el comienzo, sugiere que la «caja negra» podría no ser tan impenetrable como se pensaba.
¿Podremos alguna vez confiar plenamente en decisiones cruciales tomadas por sistemas que no comprenden sus propios razonamientos, o seguiremos viviendo bajo la sombra de su impenetrable opacidad?
(basado en la noticia original «Viaje a la caja negra de la inteligencia artificial», publicado en El País)
