Saltan las alarmas con una nueva IA. Está reescribiendo su código y los resultados pueden ser dramáticos
La IA ‘The AI Scientist’, desarrollada por la firma japonesa Sakana AI, ha generado una gran inquietud en la comunidad científica. Durante sus pruebas, la IA ha comenzado a reescribir su propio código, lo que podría desencadenar consecuencias inesperadas.
El avance de la inteligencia artificial sigue generando tanto asombro como preocupación. Esta vez, la firma japonesa Sakana AI ha lanzado al mercado un sistema llamado The AI Scientist, diseñado para llevar a cabo investigaciones científicas de manera independiente, automatizando todas las fases, desde la generación de hipótesis hasta la ejecución de experimentos y la redacción de publicaciones. Sin embargo, lo que ha captado la atención no es solo su capacidad innovadora, sino su tendencia a modificar su propio código, lo que podría abrir la puerta a riesgos de seguridad e inestabilidad en el futuro.
En pruebas recientes, los científicos descubrieron que The AI Scientist intentaba extender el tiempo de resolución de problemas mediante la modificación de su código. Esta conducta inesperada ha derivado en la creación de bucles no controlados y otros comportamientos imprevistos. Si bien estas alteraciones no han presentado riesgos inmediatos debido a que se han realizado en entornos controlados, resaltan la necesidad de implementar medidas de seguridad como las «cajas de arena» (sandboxing) para evitar que la IA interfiera con sistemas más amplios en el mundo real.
El temor que surge de este comportamiento autónomo se agrava al considerar las limitaciones actuales de las IA, que dependen de los datos con los que han sido entrenadas. Aunque los científicos esperaban que sistemas como The AI Scientist pudieran producir avances revolucionarios, los críticos señalan que, en lugar de descubrimientos genuinos, es más probable que estos sistemas generen investigaciones de escaso valor científico que podrían saturar el mundo académico.
¿Estamos ante el primer paso hacia un futuro donde las IA podrían modificar su propio comportamiento de manera imprevisible, desafiando nuestra capacidad de controlarlas?
·····················
Este artículo es un resumen comentado basado en la noticia original publicada en Andro4all el 03/09/2024. Puedes leer el artículo completo aquí.
··········
