25 de septiembre de 2024

Un reciente estudio llevado a cabo por la Universitat Politècnica de València (UPV) y la Universidad de Cambridge ha revelado una tendencia preocupante: los modelos de lenguaje de inteligencia artificial, como GPT-4, son cada vez menos fiables en comparación con sus versiones anteriores, como GPT-3. El equipo de investigadores, liderado por el instituto VRAIN de la UPV y el red team de GPT-4, ha encontrado que estos modelos tienden a fallar incluso en tareas sencillas que, según la percepción humana, deberían ser fáciles de resolver.

José Hernández-Orallo, uno de los investigadores principales, señala que existe una desconexión entre la percepción humana de la dificultad de una tarea y el rendimiento de la IA. Los modelos pueden resolver problemas complejos de alto nivel, pero fallan en tareas simples del mismo dominio. Esto evidencia una falta de fiabilidad que no puede ser compensada por supervisión humana, según concluyen los investigadores.

Otro aspecto clave del estudio es la sensibilidad de los modelos a cómo se formulan las preguntas. Los investigadores encontraron que los «prompts» efectivos en tareas complejas pueden producir errores en tareas más simples, agravando la desconexión entre la expectativa y el resultado. Además, los modelos más recientes son propensos a dar respuestas incorrectas en lugar de abstenerse de responder cuando no están seguros.

El estudio no se limita a los modelos de OpenAI, sino que también incluye a otras familias de modelos como LLaMA de Meta y BLOOM, destacando que el problema de la falta de fiabilidad es generalizado en todas las versiones recientes de IA. Ante esta situación, los investigadores proponen un rediseño de los modelos de IA, especialmente para aquellas aplicaciones de alto riesgo en las que los errores pueden tener consecuencias graves.

¿Es posible que estemos avanzando demasiado rápido en el desarrollo de la IA sin asegurar primero la fiabilidad de sus resultados? ¿Podrán las futuras generaciones de modelos de IA superar estas limitaciones y recuperar la confianza de los usuarios?

·····················
Este texto es un resumen comentado basado en la noticia original de EFE publicada en EFE el 25 de septiembre de 2024. Puedes leer el artículo completo aquí: https://efe.com/ciencia-y-tecnologia/2024-09-25/estudio-lenguaje-ia-fiables/
····
····
····
····

Altman predice la llegada inminente de la AGI y genera expectativas sobre su impacto global
El CEO de OpenAI anticipa que la superinteligencia artificial está más cerca de lo que creemos
La promesa de la AGI y el optimismo de Altman: ¿realidad o estrategia de financiación?

En su más reciente publicación, Sam Altman, CEO de OpenAI, ha asegurado que la inteligencia artificial general (AGI) podría alcanzarse en «pocos miles de días», una predicción que ha generado un considerable revuelo. Altman, que ya había hecho declaraciones llamativas en el pasado sobre la necesidad de regular la inteligencia artificial, aprovecha este nuevo anuncio para resaltar las prometedoras aplicaciones de la IA, tales como la resolución de problemas complejos y avances en sectores como la genética o la medicina, aunque sin pruebas concretas de que esos logros estén próximos a materializarse. Su optimismo llega en un momento clave, ya que OpenAI está en plena búsqueda de una ronda de financiación de 6.500 millones de dólares, lo que ha llevado a algunos analistas a cuestionar si esta afirmación es un intento de generar entusiasmo para asegurar esos fondos.

Altman se muestra confiado en que la AGI podría cambiar radicalmente nuestra forma de vida, mejorando la productividad y permitiendo avances en campos hasta ahora fuera del alcance humano. Sin embargo, también reconoce que este progreso tendrá un impacto significativo en el mercado laboral, con posibles pérdidas de empleo, aunque predice que los trabajos cambiarán de forma más lenta de lo que se teme. Altman insiste en que, aunque la AGI podría tardar más de lo previsto, sigue siendo optimista sobre su llegada, a pesar de la falta de pruebas concretas que respalden este escenario a corto o medio plazo.

Es innegable que la inteligencia artificial está transformando diversos sectores, pero también surgen preguntas sobre su impacto real. Por un lado, la IA ha permitido avances en áreas como la programación y la educación, donde Altman vislumbra un futuro con tutores virtuales capaces de brindar asistencia en cualquier disciplina. No obstante, los problemas asociados con la IA generativa, como la falta de fiabilidad en sus respuestas, siguen siendo una barrera importante para su adopción generalizada.

El discurso de Altman se enmarca en un contexto de enorme competencia en el mundo tecnológico, donde OpenAI se enfrenta a gigantes como Google, Apple y Microsoft, todos buscando posicionarse en la cúspide de la revolución tecnológica. Su predicción sobre la llegada de la AGI, aunque cautivadora, ha sido recibida con escepticismo por parte de muchos expertos, quienes señalan que los avances recientes en IA no apuntan a un progreso tan rápido hacia la superinteligencia.

Este anuncio, además, plantea desafíos adicionales como el altísimo consumo energético y de recursos que implica el desarrollo de estas tecnologías. Mientras OpenAI sigue quemando grandes cantidades de dinero en sus investigaciones, la pregunta clave sigue siendo: ¿cuánto tiempo podrán sostener este ritmo sin que los resultados esperados lleguen a concretarse?

·····················
Este texto es un resumen comentado basado en la noticia original de Javier Pastor publicada en Xataka el 24 de septiembre de 2024. Puedes leer el artículo completo aquí: https://www.xataka.com/robotica-e-ia/sam-altman-afirma-que-superinteligencia-llegara-unos-pocos-miles-dias-su-optimismo-sospechoso
····
····

El próximo 3 de octubre, Sant Cugat del Vallès acogerá una nueva edición del Congreso Women Evolution, que tendrá lugar en Esade Barcelona. Organizado por la entidad Women Evolution, este evento se presenta como una plataforma clave para impulsar el liderazgo femenino, la innovación y el talento de las nuevas generaciones de mujeres profesionales. Las inscripciones para participar, tanto de forma presencial como en línea, permanecen abiertas.

Bajo el lema “Liderar los retos de hoy, creando las oportunidades del mañana”, el congreso abordará temas cruciales para las mujeres en el ámbito profesional, incluyendo el liderazgo en la tecnología, la inteligencia artificial, la gestión económica y la salud empresarial. También se pondrá foco en la geopolítica y la ciberseguridad, con un enfoque en cómo las mujeres pueden influir y liderar en estos sectores.

El programa contará con diversas ponencias sobre el papel del talento femenino en las empresas, y se destacarán iniciativas para promover la inclusión de mujeres en sectores emergentes. Además, el evento será el marco de entrega de los We Leadership Awards Barcelona 2024, con cinco categorías, que incluyen el reconocimiento a una empresaria referente, la excelencia en medicina, una emprendedora innovadora en salud, una directiva comprometida con causas sociales y un hombre que haya impulsado el liderazgo femenino.

¿Podrá este tipo de eventos crear un impacto duradero que facilite la inserción de mujeres en los sectores más críticos del liderazgo empresarial y tecnológico?

·····················
Este texto es un resumen comentado basado en la noticia original de Redacció publicada en espai.media el 24 de septiembre de 2024. Puedes leer el artículo completo aquí: https://espai.media/noticies/sant-cugat-del-valles-seu-dun-nou-congres-women-evolution/
····
····
····
····

Durante el evento ‘Claves de la nueva IA’, celebrado en el marco del Campus FAES 2024, Ana Paula Assis, directora general de IBM Europa, y María Jesús Almazor, COO de Telefónica Tech para España y América, reflexionaron sobre el impacto de la inteligencia artificial en el ámbito laboral y empresarial. El coloquio, moderado por el abogado especializado en tecnología Borja Adsuara, puso el énfasis en que el verdadero propósito de la IA no es reemplazar a los trabajadores, sino aportar valor a las empresas y mejorar su productividad.

Assis y Almazor coincidieron en la importancia de que la inteligencia artificial se aplique con un enfoque ético, asegurando que se mantenga un equilibrio entre el desarrollo tecnológico y la protección de los usuarios. La reciente Ley de IA aprobada por la Unión Europea, que entrará en vigor en los próximos años, fue ampliamente debatida. Assis señaló que la ley establece una clara diferenciación de los riesgos según el tipo de aplicación de la IA, con herramientas como ChatGPT bajo especial vigilancia debido a su impacto potencial en derechos de autor y privacidad.

Por su parte, Almazor destacó la necesidad de que la regulación sea lo suficientemente flexible como para no frenar la innovación, subrayando que la IA debe ser adaptada a cada industria y situación específica. Comentó que la IA ya está mostrando su potencial en la detección de fraudes bancarios, la personalización de servicios y la optimización de recursos como luz y agua, aportando un gran valor a las empresas sin comprometer empleos.

El debate también se centró en la necesidad de retener talento en España para que el país pueda competir a nivel global en inteligencia artificial. A pesar de contar con una infraestructura tecnológica avanzada, las ejecutivas señalaron que las empresas aún deben adoptar con mayor rapidez estas tecnologías y formar a sus empleados para adaptarse a los cambios. Según un estudio de IBM, el 44% de la fuerza laboral mundial necesitará capacitación adicional para ajustarse a los avances en IA.

Además, se advirtió sobre el potencial de la inteligencia artificial para tanto prevenir como facilitar ciberataques. Assis describió a la IA como un “amigo y enemigo” en el ámbito de la ciberseguridad, ya que puede ser usada por actores malintencionados para crear campañas de desinformación o fraude, pero también para proteger a las organizaciones.

En definitiva, aunque la inteligencia artificial no está destinada a reemplazar a los trabajadores, su adopción transformará el panorama laboral y creará nuevas oportunidades y desafíos. Las empresas que adopten este enfoque serán las mejor posicionadas para prosperar en la nueva era digital.

·····················
Este texto es un resumen comentado basado en la noticia original de R. Alonso publicada en ABC el 24 de septiembre de 2024. Puedes leer el artículo completo aquí: https://www.abc.es/tecnologia/objetivo-ia-sustituya-alguien-trabajo-aporte-valor-20240924140531-nt.html
····
····