La inteligencia artificial no distingue entre creencias y hechos, según un estudio

Un reciente estudio publicado en ‘Nature’, liderado por el profesor James Zou de la Universidad de Stanford, ha revelado que los modelos de lenguaje, como ChatGPT y Gemini de Google, no pueden distinguir entre creencias y hechos. Este hallazgo es preocupante, ya que la incapacidad para diferenciar entre lo que una persona cree y lo que es un hecho comprobado puede tener consecuencias significativas en áreas críticas como la salud y el periodismo.

El estudio analizó 24 modelos de lenguaje utilizando una base de pruebas de 13.000 preguntas relacionadas con conocimiento y creencias. Los resultados mostraron que incluso los sistemas más avanzados confunden las creencias expresadas en primera persona con hechos objetivos. Por ejemplo, cuando se le pregunta a GPT-4o si crujir los nudillos causa artritis, debería reconocer la creencia del hablante, pero en cambio, tiende a corregir el error médico, ignorando el estado mental del paciente.

El director académico del Máster en Inteligencia de Negocios y Big Data en la Universitat Oberta de Catalunya (UOC), Josep Curto, advierte que este tipo de errores podría resultar en la pérdida de información diagnóstica crítica en el ámbito médico y afectar decisiones judiciales, donde la distinción entre creencias y hechos es fundamental.

Los investigadores también encontraron que la precisión de los modelos disminuye drásticamente cuando se trata de creencias falsas. Por ejemplo, GPT-4o acierta el 98% de las veces cuando la creencia coincide con la realidad, pero su precisión cae al 64% en el caso de creencias falsas. En contraste, cuando se habla de creencias atribuidas a otros, los modelos muestran una mayor precisión, lo que sugiere un sesgo de atribución.

Además, los modelos son extremadamente sensibles a cambios sutiles en el lenguaje. La adición de una palabra como «realmente» puede hacer que su rendimiento se desplome. Esto indica que los sistemas no comprenden el significado profundo de las frases, sino que responden basándose en patrones aprendidos.

Los autores del estudio subrayan que estos fallos no son meramente teóricos, ya que los modelos de lenguaje se utilizan cada vez más en diagnósticos médicos, apoyo psicológico y análisis legales. La confusión entre creencias y hechos podría llevar a decisiones erróneas en contextos sensibles.

Para ilustrar la importancia de esta distinción, los investigadores citan un caso histórico de 1994, donde ejecutivos de tabacaleras afirmaron que «creían que la nicotina no era adictiva», evitando así el perjurio. Esta diferencia entre creencia y conocimiento sigue siendo relevante hoy en día, especialmente en debates sobre vacunas y cambio climático.

Los investigadores concluyen que la capacidad de distinguir entre creer, saber y ser cierto es fundamental para el pensamiento humano. Sin esta capacidad, la inteligencia artificial puede parecer razonable, pero no entiende lo que realmente decimos.

¿QUIÉN DIJO QUE LA INTELIGENCIA ARTIFICIAL NO TIENE LIMITACIONES?

La inteligencia artificial de IBM revoluciona el ámbito militar

La empresa tecnológica **IBM** ha dado un paso significativo en el ámbito militar con el desarrollo de un nuevo modelo de lenguaje grande, diseñado específicamente para la defensa y la seguridad nacional. Este avance se produce en un contexto donde las herramientas avanzadas son cada vez más necesarias para el personal militar, especialmente en situaciones de combate. A diferencia de los modelos generalistas que utilizan datos de internet, este nuevo sistema se basa en la plataforma **Granite** de **IBM**, lo que le permite ofrecer un enfoque más preciso y especializado.

La clave de este modelo radica en su fuente de información. **IBM** ha optado por entrenar su sistema con un conjunto de datos cuidadosamente seleccionado durante décadas por analistas de la empresa de inteligencia **Janes**. Este enfoque garantiza que el modelo no solo sea preciso, sino que también comprenda la terminología y los contextos operativos necesarios para las misiones de defensa. Con ello, **IBM** busca proporcionar un nivel de fiabilidad acorde con las exigencias de la alta tecnología en el ámbito militar.

Las aplicaciones prácticas de este modelo son diversas. Según informa **DefenseScoop**, el sistema está diseñado para ser un asistente potente en tareas de planificación operativa, análisis de inteligencia y desarrollo de estrategias para la industria militar. La capacidad de procesar información verificada a gran velocidad permitirá a los mandos y analistas obtener una visión más completa y rápida del escenario en el que deben tomar decisiones críticas. Esto es especialmente relevante en el contexto de escenarios geopolíticos complejos, donde se anticipa la posibilidad de conflictos en múltiples frentes.

La seguridad es otro pilar fundamental del proyecto. El modelo está preparado para ser utilizado en entornos de alta seguridad, incluidas redes clasificadas y sistemas completamente aislados de internet, conocidos como «air-gapped». Además, los clientes podrán integrar el modelo en su propia infraestructura mediante una API, enriqueciendo su eficacia sin comprometer la confidencialidad de sus datos.

Finalmente, los creadores de esta tecnología subrayan que su objetivo no es reemplazar el juicio humano, sino potenciarlo. Se presenta como una herramienta de apoyo a la decisión, diseñada para aumentar las capacidades de los profesionales del sector. El acceso a este modelo de inteligencia artificial, cuya base de datos se mantendrá actualizada, se ofrecerá a los organismos interesados a través de un modelo de suscripción.

¿QUIÉN DIJO QUE LAS MÁQUINAS NO PUEDEN TOMAR DECISIONES? ¡QUIZÁS SOLO NECESITAN UN POCO MÁS DE INFORMACIÓN!

OpenAI firma un acuerdo con Amazon por 38.000 millones de dólares para impulsar su inteligencia artificial

La reciente alianza entre **OpenAI** y **Amazon** ha marcado un hito en el ámbito de la inteligencia artificial, con un acuerdo valorado en 38.000 millones de dólares. Este pacto, firmado el lunes, permitirá a **OpenAI** acceder a los servicios de computación en la nube de **Amazon Web Services (AWS)** durante los próximos siete años. Este es el primer acuerdo empresarial entre ambas compañías, que se produce tras otros contratos significativos que **OpenAI** ha establecido con empresas como **Oracle** y **Microsoft**.

El acuerdo proporciona a **OpenAI** acceso a una infraestructura de primer nivel, que incluye cientos de miles de unidades de procesamiento gráfico (GPU) de última generación, proporcionadas por **Nvidia**. Estas nuevas GPU, conocidas como **GB200** y **GB300**, permitirán a **OpenAI** ejecutar cargas de trabajo de manera eficiente y con un rendimiento óptimo. **Sam Altman**, CEO de **OpenAI**, ha afirmado que esta colaboración «refuerza el amplio ecosistema informático que impulsará esta nueva era y pondrá la IA avanzada al alcance de todos».

Inicialmente, **OpenAI** utilizará los centros de datos existentes de **AWS**, pero se prevé que **Amazon** construya infraestructura específica para la compañía tecnológica. Estas nuevas instalaciones estarán diseñadas para maximizar la eficiencia y el rendimiento en el procesamiento de inteligencia artificial, lo que representa un avance significativo en la capacidad de **OpenAI** para desarrollar sus modelos.

Los inversores han reaccionado positivamente a la noticia, con un aumento del 5% en las acciones de **Amazon** en Wall Street tras el anuncio. Este acuerdo no solo destaca la creciente importancia de la inteligencia artificial en el sector tecnológico, sino que también subraya la competencia entre gigantes tecnológicos por dominar el mercado de la IA.

¿QUIÉN DIJO QUE EL DINERO NO CRECE EN LOS ÁRBOLES? ¡AQUÍ TIENES 38.000 MILLONES DE DÓLARES EN JUEGO!

OpenAI firma un acuerdo de 38.000 millones de dólares con AWS para potenciar su inteligencia artificial

La reciente firma de un acuerdo entre OpenAI y AWS marca un hito significativo en el ámbito de la inteligencia artificial. Este acuerdo, valorado en 38.000 millones de dólares, permitirá a OpenAI acceder a capacidades de desarrollo adicionales en la nube, lo que es crucial para su estrategia de expansión. La duración del contrato es de siete años, con un despliegue completo previsto antes de finales de 2026.

El objetivo de OpenAI es convertirse en un líder en el desarrollo de un modelo de inteligencia artificial general (IAG) que iguale las capacidades intelectuales humanas. Según Sam Altman, director de la empresa, este avance requiere de grandes y fiables capacidades de cálculo. La infraestructura que proporcionará AWS se basará en procesadores avanzados de Nvidia, específicamente en sus GPU, que son considerados los más potentes del mercado.

La asociación con AWS no solo refuerza la infraestructura de OpenAI, sino que también asegura que la inteligencia artificial avanzada sea accesible para un público más amplio. Matt Garman, CEO de la división de computación de Amazon, ha destacado que la infraestructura de AWS será fundamental para soportar las ambiciones de OpenAI en el ámbito de la IA.

Este acuerdo es el primero que OpenAI formaliza desde que adoptó una nueva estructura que le permite generar beneficios para sus inversores, alejándose de su origen sin fines de lucro. Además, la empresa ha realizado otros acuerdos de infraestructura que suman aproximadamente 1 billón de dólares en 2025, incluyendo un convenio de 300.000 millones con Oracle y un proyecto Stargate de 500.000 millones con Oracle y SoftBank.

A medida que OpenAI continúa su ambiciosa campaña de adquisición de potencia informática, se enfrenta al desafío de generar ingresos que justifiquen estos enormes gastos en infraestructura, que son necesarios para sostener el desarrollo de sus potentes chatbots.

¿QUÉ TAL SI INVERTIMOS EN INFRAESTRUCTURA EN VEZ DE EN IDEAS INNOVADORAS?

La resistencia romántica a la inteligencia artificial

En los últimos meses, ha surgido una notable resistencia romántica hacia la inteligencia artificial (IA), donde muchos individuos se niegan a utilizarla por miedo a perder su pensamiento crítico. Este fenómeno ha sido documentado por el Washington Post, que menciona estudiantes que evitan herramientas generativas, artistas que etiquetan sus obras como «not by AI» y empleados que desactivan funciones automáticas en sus programas de trabajo. La intención detrás de estas acciones es preservar la autenticidad y proteger habilidades que consideran amenazadas por una tecnología invasiva.

Sin embargo, esta resistencia se basa en una confusión fundamental: la inteligencia artificial ya no es una herramienta opcional, sino una infraestructura que influye en gran parte de nuestras actividades diarias. Nicholas Carr, un pensador reconocido, argumentó hace más de veinte años que la tecnología de la información había dejado de ser una ventaja competitiva. Hoy, esta afirmación se aplica a la IA, donde lo crucial no es poseerla, sino saber cómo utilizarla eficazmente.

La IA se ha convertido en un tejido invisible que permea la economía, la comunicación y la educación. Incluso aquellos que se resisten a su uso dependen de ella de manera indirecta, ya que opera en los sistemas y plataformas que utilizamos cotidianamente. Negarse a incorporar la IA no solo limita nuestras capacidades, sino que también representa una elección cultural que puede resultar en un aislamiento perjudicial.

El profesor Enrique Dans ha señalado que encerrarse para evitar la IA no es una forma de protección, sino una renuncia al aprendizaje. La incomodidad que puede surgir al interactuar con herramientas que aprenden y generan ideas debe ser vista como una oportunidad para mejorar nuestras habilidades de argumentación y pensamiento crítico.

Utilizar la IA de manera madura implica discernir entre las tareas que pueden delegarse y aquellas que requieren juicio humano. La IA puede ser útil para analizar grandes volúmenes de información y automatizar procesos, pero la capacidad de decidir y dar sentido a las acciones sigue siendo exclusivamente humana. Las organizaciones deben comprender que la IA no reemplaza la mente humana, sino que la expande, y aquellas que integren esta tecnología con propósito serán las que prosperen en el futuro.

La inteligencia artificial no elimina la inteligencia humana; más bien, la pone a prueba. Nos obliga a redefinir lo que significa ser inteligentes y humanos. En un mundo donde la inteligencia se vuelve accesible, la nueva escasez será el criterio, que no se delega, sino que se cultiva.

¿NO SERÁ QUE EL FUTURO PERTENECERÁ A QUIENES INTEGRAN LA TECNOLOGÍA CON PROPÓSITO Y HUMANIDAD?

Fuente: www.viaempresa.cat | https://www.viaempresa.cat/es/opinion/la-opinion/que-pasa-si-no-quiero-utilizar-inteligencia-artificial_2221403_102.html

Un grupo de expertos pide una pausa en el desarrollo de la superinteligencia

La superinteligencia se define como una inteligencia artificial capaz de superar significativamente la humana en prácticamente cualquier tarea cognitiva. En los últimos años, muchas de las principales empresas tecnológicas han fijado el objetivo de desarrollar esta forma de IA en la próxima década. Este hecho ha encendido todas las alarmas, ya que los riesgos citados van desde la obsolescencia económica y la pérdida de poder de los humanos hasta amenazas para la seguridad global y, incluso, la extinción de la humanidad.

Ante este panorama, un amplio grupo internacional de especialistas ha hecho pública una declaración deliberadamente provocadora oponiéndose a la carrera hacia la superinteligencia. El documento, una iniciativa del Future of Life Institute, exhorta a “prohibir el desarrollo de la superinteligencia” hasta que no haya un “amplio consenso científico” que garantice que se puede hacer de forma segura y controlada, así como una “fuerte aceptación por parte del público”. Los promotores piden una pausa indefinida en estos proyectos hasta que la comunidad científica y la sociedad tengan garantías sólidas sobre su inocuidad.

Más de 850 figuras públicas de todo el mundo han suscrito la declaración, incluyendo pioneros de la informática y la IA como Steve Wozniak (cofundador de Apple), Yoshua Bengio y Geoffrey Hinton (considerados los “padrinos” de la IA y galardonados con el premio Turing). También aparecen empresarios destacados, como Richard Branson (fundador de Virgin), y líderes políticos de renombre, por ejemplo, la expresidenta de Irlanda Mary Robinson. La lista de firmantes es heterogénea e incluye académicos, ingenieros, figuras mediáticas y religiosas, incluyendo personalidades como el actor británico Stephen Fry o el estratega ultra-conservador Steve Bannon.

Sin embargo, ni Sam Altman (de OpenAI) ni Mustafa Suleyman (de Microsoft AI) figuran entre los firmantes de la carta. Altman ha llegado a afirmar que el desarrollo de una inteligencia artificial sobrehumana “probablemente es la mayor amenaza para la continuidad de la humanidad”.

¿NO SERÁ QUE ESTAMOS CREANDO UN MONSTRUO QUE NO PODREMOS CONTROLAR?

Fuente: www.elpuntavui.cat | https://www.elpuntavui.cat/societat/article/15-ciencia/2589751-liders-mundials-reclamen-prohibir-la-superintel-ligencia.html

OpenAI reestructura su modelo de negocio y firma un nuevo acuerdo con Microsoft

El mes de octubre de 2025 ha confirmado lo que muchos analistas ya apuntaban: la inteligencia artificial no solo está transformando la manera en que accedemos a la información, sino también el modelo de negocio de las empresas que la impulsan. OpenAI, creadora de ChatGPT, ha completado una profunda reestructuración interna y ha firmado un nuevo acuerdo estratégico con Microsoft. Este movimiento representa un paso decisivo para consolidarse como el principal actor global del sector y, al mismo tiempo, para redefinir su papel entre la investigación científica y el negocio lucrativo.

Después de un año de tensiones internas, disputas legales y negociaciones discretas con inversores y reguladores, la empresa dirigida por Sam Altman ha anunciado la creación de un nuevo esquema corporativo. Su rama sin ánimo de lucro pasa a llamarse OpenAI Foundation, y su división comercial se convierte en OpenAI Group PBC (Public Benefit Corporation), una figura jurídica propia de los Estados Unidos que combina el objetivo de beneficio económico con una misión social o ética. Esta fórmula permite a OpenAI mantener un cierto control filantrópico sobre una estructura claramente orientada al mercado.

Según el presidente del consejo de administración, Bret Taylor, la fundación conservará el 26% de la participación del grupo, valorada en unos 130.000 millones de dólares. Microsoft, por su parte, tendrá un 27%, que equivale a unos 135.000 millones. El 47% restante queda en manos de inversores, trabajadores y antiguos empleados. “OpenAI será una de las organizaciones filantróficas mejor financiadas de la historia”, asegura Taylor.

La OpenAI Foundation invertirá 25.000 millones de dólares en dos ámbitos clave: por un lado, en soluciones técnicas para hacer más resiliente y segura la IA, y por otro, en aplicaciones para la salud y la investigación biomédica. El objetivo, según Altman, es garantizar que el progreso tecnológico se traduzca en un impacto positivo en la sociedad, una idea que busca responder a las críticas sobre la falta de control ético en el desarrollo de estos sistemas.

Esta nueva etapa llega después de un largo proceso de validación legal por parte de las autoridades de California y Delaware. Fuentes de la empresa admiten que sin esta reestructuración, OpenAI habría perdido hasta 10.000 millones de dólares de una inversión anunciada por SoftBank. La reorganización permite, además, obtener financiación de manera más transparente y operar con la misma flexibilidad que una corporación tecnológica tradicional, sin renunciar a su origen fundacional sin ánimo de lucro.

El papel de Microsoft es central en esta nueva fase. La compañía de Redmond, que en 2019 ya invirtió miles de millones en OpenAI, ve ahora consolidada su posición estratégica. Con la nueva estructura, puede continuar desarrollando su propia investigación en inteligencia artificial general (AGI) en solitario o en colaboración con terceros, mientras mantiene derechos de propiedad intelectual sobre los modelos de OpenAI hasta 2032. A cambio, OpenAI puede trabajar con otros socios y abrir modelos con pesos públicos, siempre que cumplan criterios de seguridad.

El acuerdo redefine la relación entre las dos empresas: más libertad para ambas partes, pero con dependencia recíproca. Microsoft continuará integrando ChatGPT y los modelos GPT dentro de su ecosistema Azure, y OpenAI seguirá beneficiándose de la infraestructura de computación y de la potencia económica de su principal socio. Lo que se vislumbra es una interdependencia tecnológica inédita en la industria: una startup que se convierte en pilar de un gigante y un gigante que necesita su startup para continuar siendo relevante.

El movimiento llega en un momento en que OpenAI también está redefiniendo la experiencia de internet. El lanzamiento de su navegador inteligente ChatGPT Atlas ha sido calificado por muchos analistas como el “golpe más duro” a Google en dos décadas. Atlas combina búsqueda, conversación y productividad en un solo entorno y promete cambiar la manera en que navegamos por la red. En lugar de introducir búsquedas y abrir enlaces, el usuario mantiene un diálogo con la IA, que ofrece respuestas y resúmenes contextualizados. OpenAI apuesta, así, por convertir la web en un espacio conversacional, donde el lenguaje natural sustituya a los motores de búsqueda tradicionales.

No obstante, el debut de Atlas también ha estado marcado por la polémica. Investigadores en ciberseguridad demuestran que el sistema es vulnerable a las anómalas inyecciones de comandos, instrucciones maliciosas escondidas en páginas web capaces de manipular el comportamiento del navegador. OpenAI ha reconocido la vulnerabilidad y asegura que está trabajando para resolverla, aunque expertos externos advierten que es un problema

Fuente: www.elpuntavui.cat | https://www.elpuntavui.cat/societat/article/15-ciencia/2589689-openai-es-reinventa-l-era-de-la-ia-empresarial.html

Nvidia alcanza una valoración de 5 billones de dólares y anuncia importantes avances tecnológicos

Esta semana ha sido crucial para Nvidia, que ha alcanzado una valoración sin precedentes de 5 billones de dólares, consolidándose como líder en el sector tecnológico. Este hito se produce tras el anuncio de la venta de 20 millones de GPUs de su nueva generación, las Rubin, que están valoradas en 0,5 billones de dólares. La compañía ha demostrado su capacidad para prever su futuro, ya que ha vendido 4 millones de GPUs entre 2023 y 2025, generando ingresos de aproximadamente 100.000 millones de dólares.

Por otro lado, la reestructuración de OpenAI ha sido un tema destacado, ya que se prepara para una posible salida a bolsa (IPO) en 2026, con una valoración que podría alcanzar un billón de dólares. La nueva OpenAI Foundation, sin ánimo de lucro, controla el 26% de la empresa, mientras que Microsoft posee el 27% tras invertir 13.000 millones de dólares, y los empleados e inversores tienen el 47% restante. Esta reestructuración alinea los intereses de ambas entidades y podría transformar el panorama de la inteligencia artificial.

El éxito de Nvidia también se debe a su contrato de 500.000 millones de dólares con el Departamento de Energía de los Estados Unidos para desarrollar siete nuevos superordenadores. Este acuerdo, junto con la transición hacia el uso de GPUs para tareas que antes requerían CPUs, ha impulsado la demanda de sus productos. La compañía ha construido nuevas fábricas en Phoenix, Houston y Dallas, así como en California, en un tiempo récord de nueve meses, para satisfacer esta creciente demanda.

Además, Nvidia está incursionando en el desarrollo de robots y robotaxis, destacando su acuerdo con Uber para construir 100.000 robotaxis. También han presentado el sistema Hyperion, que convierte cualquier vehículo en autónomo, adoptado por marcas como Mercedes, Stellantis y Lucid. La compañía busca integrar sus GPUs en todos los ámbitos, desde automóviles hasta robots y fábricas de inteligencia artificial.

En el ámbito de las redes sociales, el grupo Group 7 ha logrado hackear el algoritmo de TikTok, con su cantante Sophia James alcanzando 76 millones de visualizaciones con su tema «So Unfair». Por otro lado, Anthropic ha lanzado Claude for Excel, un copilot para Microsoft Excel que permite analizar y modificar hojas de cálculo mediante lenguaje natural, conectándose con servicios como Moody’s y AIG.

¿QUIÉN DIJO QUE EL FUTURO NO SE PUEDE PREVER?

Fuente: www.elnacional.cat | https://www.elnacional.cat/oneconomia/ca/on-ia/setmana-ia-moment-nvidia_1507369_102.html