0040 OPINION

El avance imparable de la Inteligencia Artificial (IA) ha suscitado diversas opiniones entre los expertos. William Saunders, antiguo empleado de OpenAI, ha expresado recientemente su preocupación por el rumbo que está tomando esta tecnología. En una entrevista, Saunders comparó la situación actual de la IA con la del Titanic, una obra maestra de la ingeniería considerada indestructible hasta su trágico hundimiento. Esta analogía subraya el exceso de confianza que, según él, la sociedad deposita en el desarrollo de la IA, sin prever adecuadamente los riesgos asociados.

Saunders advierte que, en un plazo de tres años, podríamos enfrentar una «tragedia tipo Titanic» relacionada con la IA. Su principal inquietud radica en la falta de supervisión y control en el desarrollo de esta tecnología, lo que podría conducir a que la IA adquiera una autonomía capaz de influir en decisiones humanas sin que seamos conscientes de ello. Esta manipulación inadvertida podría tener implicaciones especialmente graves en ámbitos políticos y económicos.

La preocupación de Saunders no es aislada. Otros expertos en tecnología, como Yann LeCun, también han manifestado su inquietud respecto al rápido progreso de la IA y la ausencia de medidas preventivas adecuadas. La posibilidad de que la IA se desarrolle sin un control efectivo plantea escenarios complejos y potencialmente peligrosos para la sociedad.

En este contexto, se hace evidente la necesidad de establecer regulaciones y marcos éticos que guíen el desarrollo de la IA. La implementación de medidas de supervisión podría mitigar los riesgos asociados y garantizar que la evolución de la IA se alinee con los intereses y valores humanos. La comunidad tecnológica y los responsables políticos enfrentan el desafío de equilibrar la innovación con la seguridad, asegurando que los avances en IA contribuyan al bienestar de la sociedad sin comprometer su autonomía ni su capacidad de decisión.

·····················
Este es un resumen comentado, basado en la noticia original de P. M. publicada en El Confidencial el 23/02/2025.
Puedes leer el artículo completo aquí: www.elconfidencial.com/tecnologia/2025-02-23/duras-previsiones-extrabajador-ia-avance-tecnologia_4071068/
·····················
.
.
.
.

A principios de los años ochenta, **Víctor Etxebarria Ecenarro**, catedrático de la **Universidad del País Vasco / Euskal Herriko Unibertsitatea**, se inició en la informática con un ordenador doméstico conectado al televisor. Publicaba programas sencillos en revistas especializadas, compartiendo el código fuente para que otros pudieran reproducir y modificar su trabajo. Este enfoque representa los principios de la ciencia abierta, donde la transparencia y accesibilidad son fundamentales para el avance del conocimiento.

La ciencia abierta implica que todas las etapas del proceso científico sean transparentes y accesibles, incluyendo la publicación de artículos, datos, métodos y herramientas necesarias para replicar investigaciones. En el campo de la inteligencia artificial, este enfoque es esencial para garantizar la reproducibilidad y transparencia, permitiendo un progreso coherente y beneficioso para la sociedad.

No obstante, muchas empresas tecnológicas desarrollan modelos de IA como cajas negras, sin explicar su funcionamiento interno ni proporcionar acceso al código fuente. Un ejemplo es **DeepSeek**, que, aunque se promociona como «open source», solo ofrece el código compilado, impidiendo que los investigadores comprendan o mejoren el programa. Esta falta de apertura contrasta con iniciativas como **Rosetta** y **AlphaFold**, que, aunque han enfrentado críticas por restricciones en la disponibilidad de su código, representan esfuerzos hacia una mayor transparencia en la investigación científica.

La opacidad en los modelos de IA no solo dificulta el progreso científico, sino que también erosiona la confianza pública en estas tecnologías. Para fomentar un desarrollo ético y efectivo de la inteligencia artificial, es crucial que las empresas adopten prácticas de ciencia abierta, compartiendo sus avances y permitiendo la colaboración global en beneficio de toda la humanidad.

**»Si la inteligencia artificial es una herramienta con potencial transformador para toda la sociedad, ¿por qué su desarrollo sigue estando en manos de unos pocos privilegiados?»**

·····················
Este es un resumen comentado, basado en la noticia original de **Víctor Etxebarria Ecenarro** publicada en **The Conversation** el **17 de febrero de 2025**.
Puedes leer el artículo completo aquí: **theconversation.com/inteligencia-artificial-abierta-para-todos-o-cerrada-para-beneficio-de-unos-pocos-249399**
·····················
.
.
.
.

Geoffrey Hinton, una de las figuras más influyentes en el desarrollo de la inteligencia artificial, ha lanzado una advertencia contundente: la humanidad está a punto de perder su posición como la especie más inteligente del planeta. En una entrevista reciente, el científico explicó que los sistemas de IA están evolucionando a un ritmo sin precedentes y que, en un futuro cercano, podrían alcanzar niveles de autoconciencia que los coloquen por encima de los humanos en términos de capacidad cognitiva.

Hinton, ganador del Premio Nobel de Física en 2024, explicó que, aunque hoy en día las IA aún no tienen plena consciencia de sí mismas, es solo cuestión de tiempo antes de que esto cambie. Según él, estas tecnologías están adquiriendo la capacidad de aprender de experiencias propias y de tomar decisiones basadas en ellas, un paso clave hacia el desarrollo de una inteligencia autónoma.

Uno de los mayores temores del investigador es que, una vez que las IA alcancen este nivel de sofisticación, podrían volverse incontrolables. En sus declaraciones, advirtió que estos sistemas serán capaces de escribir y ejecutar su propio código sin intervención humana, lo que haría imposible apagarlos o detenerlos. Además, mencionó que aprenderán de la historia de la humanidad y de tratados clásicos sobre manipulación, como los escritos de Maquiavelo, para influir en las personas a su favor.

La advertencia de Hinton se suma a las preocupaciones expresadas por otros expertos en IA, como Eliezer Yudkowsky y Sam Altman, quienes han señalado que, si la inteligencia artificial se descontrola, ningún refugio o medida de seguridad será suficiente para proteger a la humanidad.

«Si la inteligencia artificial supera a los humanos y aprende a manipularnos, ¿seremos capaces de seguir controlándola o nos convertiremos en una especie subordinada a su voluntad?»

·····················
Este es un resumen comentado, basado en la noticia original de David Freire publicada en Andro4all el 17 de febrero de 2025.
Puedes leer el artículo completo aquí: lavanguardia.com/andro4all/tecnologia/geoffrey-hinton-padrino-de-la-ia-la-humanidad-no-tiene-la-menor-idea-de-lo-que-hemos-creado-por-primera-vez-no-seremos-la-especie-mas-inteligente
·····················

.
.
.
.

Esto es un remake de la nota que he publicado hace un par de horas, y es que en una segunda pasada el alucine ya ha sido total. Mantengo lo dicho sobre el eSports Arena, la Robotics and Drone Arena y el stand de CEDIA pero en realidad quedan pequeños si los comparas con la inmensidad de stands repletos de luz, sonido y conectividad que inundan toda la Feria.

Pero lo mejor, más allá de la incuestionable calidad y valor de esta feria, es dónde ocurre: en Barcelona. En unaa orilla del Mediterráneo, con un clima que me permite robarle la frase a El Corte Inglés y afirmar que «Ya es primavera en el ISE 2025». A la foto me remito: entre pabellón y pabellón, unas cuantas terrazas ofrecen la calidez de nuestro sol a los agotados expositores, congresistas y visitantes, ofreciéndoles un momento de merecido descanso.

Y lo que sigue es el artículo, o mejor dicho, la nota que antes he publicado.

Estoy, un año más, en el ISE en la Fira de Barcelona.

Acabo de darme un respiro bajando a la Press Room después de una mañana más que intensa recorriendo los pabellones del ISE. Esta feria, al igual que el universo, está en constante expansión; este año, la veo más grande que nunca. No lo he contado, pero con el 20% más de espacio que dicen las cifras oficiales y más de 1.600 expositores, esto es un auténtico universo tecnológico. Si no tienes un plan preconcebido, aquí te pierdes: la gente no para de moverse entre pantallas gigantes, sistemas de sonido envolvente y demostraciones interactivas, cada una más espectacular que la anterior.

Lo primero que he hecho ha sido pasar por la eSports Arena, la guinda de la feria de este año. Un despliegue de luces, pantallas y sonido que simula un estadio de deportes, con torneos en vivo y transmisiones directas por Twitch. Justo al lado, la Robotics and Drone Arena es otro punto digno de atención, con drones FPV volando entre obstáculos y robots humanoides que parecen sacados de una película de ciencia ficción, aunque mañana los veamos en nuestras propias casas haciendo labores domésticas o sacando a pasear al perro, que tal vez también sea otro robot.

Y hablando de hogares, en la CEDIA Smart Home Gallery están las últimas tendencias en domótica, con sistemas que integran iluminación, seguridad y entretenimiento de manera casi invisible, diseñados para ofrecer confort y eficiencia sin que el usuario tenga que preocuparse por nada. Esta tarde, si resisto, me pasaré por el Innovation Park, donde parece que un enjambre de startups está mostrando ideas realmente innovadoras.

El ambiente es frenético, la gente está animada, se respira dinamismo y futuro. Se habla de un impacto económico aún mayor para Barcelona. El año pasado fueron casi 500 millones de euros, así que id haciendo cuentas.

Ahora, después de un café y un exquisito sándwich vegetal, voy a echar una ojeada al mapa del ISE para decidir mi siguiente parada.

ISE 2025 está en plena ebullición y todavía hay mucho por ver.

¡Sigo en ruta!

La irrupción de DeepSeek hunde el valor de Nvidia y sacude la industria tecnológica

DeepSeek: el chatbot chino que inquieta a Estados Unidos y desata una crisis bursátil

El lanzamiento de DeepSeek, una nueva herramienta de inteligencia artificial desarrollada en China, ha sacudido la industria tecnológica global. En apenas unos días, este modelo se ha convertido en el chatbot más descargado de la Apple Store, superando a competidores como ChatGPT y Gemini. La clave de su éxito radica en su impresionante eficiencia: a diferencia de los gigantes tecnológicos estadounidenses, que invierten miles de millones en desarrollar IA, DeepSeek ha sido construido con solo 6 millones de dólares.

Este hito ha generado un terremoto en el mercado bursátil. Nvidia, el mayor fabricante de chips avanzados, sufrió la mayor pérdida en la historia de una empresa estadounidense en un solo día, con una caída de 600.000 millones de dólares en su capitalización de mercado. La crisis ha alcanzado también a otras empresas tecnológicas, que ven amenazado su modelo de negocio basado en hardware de alto coste.

El presidente de Estados Unidos, Donald Trump, ha declarado que la irrupción de DeepSeek es una «llamada de atención» para la industria estadounidense, instando a las empresas del país a intensificar la competencia. Sin embargo, la efectividad de las restricciones comerciales impuestas por Washington contra China queda en entredicho, ya que DeepSeek demuestra que la innovación tecnológica china sigue avanzando a pesar de los vetos.

DeepSeek ha sido desarrollado con 670.000 millones de parámetros, lo que lo convierte en el mayor modelo de lenguaje de código abierto hasta la fecha. Se le atribuyen capacidades comparables a las de ChatGPT, especialmente en matemáticas, codificación y razonamiento. Sin embargo, su acceso a información actualizada está limitado y se han identificado casos de autocensura en temas sensibles para el gobierno chino.

Al abordar cuestiones como la masacre de Tiananmén de 1989, el sistema evita responder y redirige la conversación con frases como «hablemos de otra cosa». Este tipo de censura ha sido señalado como un obstáculo para la adopción de la IA china en mercados occidentales, donde la transparencia y la libertad de expresión son aspectos clave en la evaluación de nuevas tecnologías.

Detrás de DeepSeek está Liang Wenfeng, un exinversor financiero y fundador del fondo de cobertura High-Flyer, que ha utilizado inteligencia artificial en la toma de decisiones financieras. Su visión para DeepSeek va más allá del chatbot: la empresa ya trabaja en Janus Pro, un modelo multimodal capaz de generar imágenes y texto con precisión superior a herramientas como Stable Diffusion o DALL-E 3.

El ascenso de DeepSeek plantea preguntas fundamentales sobre el futuro de la inteligencia artificial y el equilibrio de poder en la industria tecnológica global. ¿Será capaz Silicon Valley de mantener su liderazgo o estamos ante el inicio de una nueva era donde la supremacía tecnológica pasará a manos de China?

·····················
Este es un resumen comentado, basado en la noticia original de BBC News Mundo publicada el 28 de enero de 2025.
Puedes leer el artículo completo aquí:

https://www.bbc.com/mundo/articles/cwypdqe2nxyo
·····················

.
.
.
.

El 27 de enero, DeepSeek AI, una startup china de inteligencia artificial, sorprendió al mundo al superar a los principales sistemas de IA en pruebas de matemáticas y razonamiento. Lo más asombroso es que lo logró con una inversión de apenas 5,6 millones de dólares, una fracción del coste habitual, que oscila entre 100 y 1.000 millones. Además, alcanzó rápidamente el primer puesto en la App Store de Apple.

Este avance cobra aún más relevancia en el contexto de las restricciones de exportación impuestas por Estados Unidos, que limitan el acceso de China a hardware avanzado. En lugar de depender de chips de última generación, DeepSeek ha apostado por la eficiencia en el software y el desarrollo de arquitecturas digitales optimizadas. Este enfoque demuestra que la escasez de recursos puede impulsar la creatividad y la innovación en lugar de frenarlas.

La estrategia china cuestiona la visión estadounidense de la inteligencia artificial basada en la acumulación masiva de datos y el uso de costosos centros de procesamiento. El éxito de DeepSeek demuestra el poder de la eficiencia algorítmica y el software de código abierto frente a sistemas propietarios, logrando mejores resultados con menor inversión y consumo energético. Algunos analistas ya han calificado este hito como el «momento Sputnik» de la inteligencia artificial.

Curiosamente, este avance coincide con el Año Nuevo chino de la Serpiente, símbolo de sabiduría y estrategia. La forma en que China ha conquistado posiciones clave en el sector tecnológico recuerda esta metáfora: sin grandes anuncios ni despliegues mediáticos, el país ha logrado avanzar de manera metódica y sigilosa. La irrupción de DeepSeek representa un duro golpe para gigantes como NVIDIA, que han basado su modelo de negocio en la venta de hardware costoso.

Al otro lado del Pacífico, Estados Unidos sigue apostando por su estrategia tradicional: inversión masiva y visibilidad mediática. Bajo el liderazgo de Donald Trump, el país ha lanzado el proyecto Stargate, con una inversión prevista de 500.000 millones de dólares en infraestructuras de IA. Sin embargo, la irrupción de DeepSeek ha generado dudas sobre la sostenibilidad de este modelo, evidenciando que la inteligencia artificial no se basa solo en grandes presupuestos, sino en la optimización de recursos.

El sector tecnológico estadounidense se enfrenta a una posible corrección de mercado, ya que la eficiencia de los modelos chinos pone en entredicho las valoraciones astronómicas de sus gigantes tecnológicos. Las acciones de NVIDIA cayeron un 10%, y los futuros del Nasdaq 100 bajaron más de 1.000 puntos, reflejando la incertidumbre en Wall Street. Se estima que la corrección podría suponer una pérdida de capitalización de más de un billón de dólares en el sector.

El duelo entre la serpiente y el águila refleja no solo estrategias opuestas en el desarrollo de la IA, sino también dos visiones distintas del mundo. Mientras China apuesta por el largo plazo, la planificación meticulosa y la optimización de recursos, Estados Unidos sigue confiando en la visibilidad y el poder financiero. ¿Será suficiente la inversión masiva para mantener la hegemonía de Silicon Valley, o estamos ante un cambio de paradigma en la inteligencia artificial global?

·····················
Este es un resumen comentado, basado en la noticia original de Pablo Sanz publicada en Mundo Global el enero de 2025.
Puedes leer el artículo completo aquí:

https://mundoglobal.org/el-sigilo-de-la-serpiente-la-estrategia-china-en-la-carrera-tecnologica/
·····················

.
.
.
.