Mark Zuckerberg, CEO de Meta, explicó que las grandes tecnológicas siguen invirtiendo en inteligencia artificial porque los sistemas actuales, basados en la arquitectura «Transformer», no parecen tener límites en su capacidad de mejora, a diferencia de anteriores tecnologías.
En una reciente entrevista con la youtuber Cleo Abram, Mark Zuckerberg aclaró por qué las Big Tech, incluida Meta, seguirán invirtiendo grandes sumas de dinero en inteligencia artificial (IA). Explicó que en anteriores arquitecturas de IA, la cantidad de datos y recursos que se destinaban a los modelos llegaba a un punto en el que ya no mejoraba su rendimiento. Sin embargo, con los sistemas basados en la arquitectura «Transformer», ese límite no parece existir. Los modelos siguen mejorando con más datos y más capacidad de entrenamiento, lo que ha llevado a empresas como Meta a continuar escalando sus infraestructuras.
Meta, por ejemplo, ya ha entrenado su modelo Llama 3 utilizando entre 10.000 y 20.000 GPUs, y Zuckerberg mencionó que para Llama 4 se prevé el uso de más de 100.000 GPUs. Aunque reconoció que es posible que en algún momento se alcance un límite en el futuro, por ahora no parece haber señales de ello, lo que impulsa a las grandes tecnológicas a seguir gastando dinero en centros de datos y desarrollo de IA.
Yann LeCun, jefe de IA en Meta, añadió que aunque los grandes modelos de lenguaje (LLM) actuales no son suficientes para alcanzar una IA de nivel humano, siguen siendo útiles a corto plazo. Zuckerberg apuntó que todas las grandes compañías tecnológicas están alineadas en esta apuesta masiva por la inteligencia artificial, confiando en que será clave para el futuro.
¿Cómo afectará esta inversión sostenida en IA al ritmo de innovación y qué posibles límites podrían encontrarse en el largo plazo que frenen esta tendencia de gasto masivo?
·····················
Este texto es un resumen comentado basado en la noticia original de Javier Pastor publicada en Xataka el 30/09/2024. Puedes leer el artículo completo aquí: https://www.xataka.com/robotica-e-ia/mark-zuckerberg-explica-dos-minutos-que-big-tech-van-a-seguir-gastando-dinero-ia-como-no-hubiera-manana
·····················
.
.
.
.
