La responsable legal de la organización advierte de la “devastación generalizada e indiscriminada” que pueden traer consigo las aplicaciones militares de esta tecnología

El uso de sistemas de inteligencia artificial (IA) en conflictos armados se ha convertido en una realidad preocupante. Según Cordula Droege, responsable legal del Comité Internacional de la Cruz Roja (CICR), esta tecnología, que se promociona como una forma de aumentar la precisión y reducir la letalidad de los ataques, en realidad ha llevado a una “devastación generalizada e indiscriminada” de la población civil. Durante su intervención en el Consejo de Seguridad de Naciones Unidas, Droege destacó tres aplicaciones de IA que representan “riesgos significativos”: los sistemas de armas autónomas, los programas de apoyo en la toma de decisiones militares y las capacidades cibernéticas.

Droege subrayó que los sistemas de armas autónomas, como los drones no pilotados, pueden elegir objetivos basándose en algoritmos, lo que plantea serias dudas sobre la capacidad de distinguir entre combatientes y civiles. Esto se traduce en un uso potencialmente indiscriminado de la fuerza, lo que es ilegal bajo el derecho internacional humanitario. La jurista alemana también expresó su preocupación por los sistemas de apoyo a decisiones que, al integrar grandes volúmenes de datos, pueden influir en la toma de decisiones de manera automática, aumentando el riesgo de errores fatales.

Además, Droege mencionó que el uso de IA para mejorar las capacidades cibernéticas puede resultar en ataques indiscriminados a infraestructuras civiles, lo que agrava aún más la situación. La CICR ha estado promoviendo la prohibición de sistemas de armas autónomas desde 2021, advirtiendo sobre las implicaciones legales y éticas de su uso. La historia ha demostrado que la introducción de nuevas tecnologías en el campo de batalla no ha conducido a conflictos más humanos, sino a una mayor devastación.

A pesar de los desafíos, Droege se muestra esperanzada en que se pueda alcanzar un tratado que regule el uso de IA en conflictos, similar a los tratados sobre armas químicas y biológicas. Sin embargo, reconoce que la carrera armamentística actual complica este objetivo. La presión por desarrollar tecnologías más letales y rápidas en el ámbito militar sigue siendo fuerte, lo que plantea serias preguntas sobre el futuro de la guerra y la protección de los civiles.

¿QUIÉN DIJO QUE LA INTELIGENCIA ARTIFICIAL HARÍA LAS GUERRAS MÁS HUMANAS?

Fuente: elpais.com | https://elpais.com/tecnologia/2025-11-12/cordula-droege-cruz-roja-ya-prohibimos-las-armas-quimicas-y-biologicas-ahora-le-toca-a-las-armas-con-ia.html

La IA urbana se convierte en un inspector permanente en Barcelona y Madrid

Durante años, la idea de la «ciudad inteligente» se presentó como un concepto positivo, donde la tecnología ayudaba a optimizar el tráfico y mejorar la movilidad. Sin embargo, este contrato emocional ha sido roto con la llegada de cámaras de inteligencia artificial en ciudades como Barcelona y Madrid, que no solo detectan infracciones, sino que las sancionan automáticamente. Este cambio de paradigma transforma la IA urbana de un copiloto a un inspector permanente, enfocándose en pequeñas infracciones que antes escapaban al control humano.

En Barcelona, se han equipado cuatro autobuses con cámaras que han detectado aproximadamente 2.500 ocupaciones ilegales del carril bus en solo un mes, lo que equivale a unas 80 infracciones diarias. Por su parte, Madrid ha implementado semáforos «inteligentes» que cuentan peatones y ha anunciado sistemas para detectar automáticamente a conductores sin cinturón. Además, la DGT ha instalado cámaras en tramos de las autovías A-1, A-2, A-6 y A-42, sancionando automáticamente a aquellos que cambian de carril de manera ilegal.

Este nuevo enfoque plantea importantes cuestiones sobre la legitimidad y el contrato social que surge al automatizar la vigilancia. Si bien hay beneficios claros, como la reducción de pequeñas infracciones que generan atascos y accidentes, también existen preocupaciones sobre la precisión de estos sistemas, la privacidad de los ciudadanos y la transparencia en su funcionamiento.

Las preguntas que deben abordarse incluyen la tasa de error de los sistemas, la revisión humana de las sanciones, la duración de la retención de imágenes y la eficacia de las vías de recurso para los ciudadanos. Además, es crucial establecer criterios claros para el despliegue de estas tecnologías y realizar auditorías independientes para asegurar su correcto funcionamiento.

La comparación con los radares de tráfico es pertinente, ya que estos requieren señalización y controles metrológicos. Sin embargo, la IA de visión presenta desafíos adicionales, ya que interpreta escenas y no mide cifras concretas. Esto genera ambigüedad que exige mayores garantías.

Finalmente, la aceptación de estas tecnologías por parte de los ciudadanos dependerá de la percepción de su uso. Aceptamos cámaras que nos protegen, pero es más difícil aceptar aquellas que sancionan automáticamente. La clave está en establecer reglas claras y límites visibles, asegurando que la tecnología sirva para mejorar la convivencia y no simplemente para recaudar.

¿QUIÉN DIJO QUE LA TECNOLOGÍA NO PUEDE SER UN OJO OMNIPRESENTE EN NUESTRAS VIDAS?

Fuente: www.eleconomista.es | https://www.eleconomista.es/tecnologia/noticias/13640326/11/25/es-oficial-la-ia-ya-multa-en-espana-asi-te-puede-pasar-en-madrid-y-barcelona.html

Jeff Bezos defiende la creatividad humana frente a la IA en la Italian Tech Week 2025

Jeff Bezos, fundador de Amazon, participó en la «Italian Tech Week» 2025 en Turín, donde abordó el impacto de la Inteligencia Artificial (IA) en la sociedad. Durante su intervención, Bezos subrayó que la creatividad humana es una cualidad que la IA nunca podrá reemplazar, enfatizando que esta capacidad es el verdadero motor de la innovación y el progreso.

Bezos argumentó que la prosperidad de la civilización ha sido impulsada por nuestros inventos a lo largo de la historia, citando ejemplos como la invención del arado hace 10,000 años. Según él, la creación de herramientas ha sido fundamental para el desarrollo humano y la IA es una parte esencial de este proceso. «No veo cómo alguien que viva hoy en día pueda desanimarse», afirmó, reflejando su optimismo sobre el futuro.

Sin embargo, la percepción pública sobre la IA es diversa. Una encuesta reciente del Pew Research Center en 25 países reveló que el 34% de los encuestados se siente más preocupado que ilusionado por la IA, mientras que solo el 16% se siente más ilusionado. En España, el 39% de la población se muestra más preocupada que ilusionada, en contraste con el 19% que se siente más optimista. En Estados Unidos, la preocupación es aún mayor, con un 50% de los encuestados expresando inquietud.

Bezos también compartió anécdotas sobre su vida como inventor, recordando sus inicios en Amazon y su pasión por generar ideas. Relató cómo uno de sus abuelos, un ganadero en Texas, influyó en su mentalidad innovadora, enseñándole a resolver problemas prácticos y a ser ingenioso. Esta experiencia personal refuerza su creencia en la importancia de la creatividad humana en un mundo cada vez más dominado por la tecnología.

¿NO ES IRÓNICO QUE TEMAMOS A LA IA CUANDO LA VERDADERA INNOVACIÓN VIENE DE NUESTRA CREATIVIDAD?

Fuente: www.libertaddigital.com | https://www.libertaddigital.com/libremercado/2025-11-13/el-fundador-de-amazon-desvela-la-cualidad-humana-que-ninguna-ia-podra-sustituir-7318984/

Barcelona avanza en la integración de la inteligencia artificial en la gestión semafórica

Barcelona está dando un paso significativo hacia la modernización de su red de movilidad urbana mediante la incorporación de tecnologías avanzadas. El Ayuntamiento de Barcelona y la Universidad Politécnica de Cataluña (UPC) han formalizado un convenio de colaboración que tiene como objetivo investigar la aplicación de la inteligencia artificial (IA) en la gestión semafórica de la ciudad. Este proyecto busca crear una hoja de ruta que contemple medidas concretas para integrar la IA en corredores y servicios de transporte específicos, con un enfoque técnico, ético y sostenible.

La red semafórica de Barcelona, que cuenta con miles de cruces y flujos de movilidad multimodal, representa un sistema de control dinámico complejo. Históricamente, su gestión se ha basado en planes de tiempos fijos y sistemas coordinados que dependen de bucles de inducción o cámaras para medir la densidad del tráfico. Aunque estos métodos han sido efectivos, tienen una capacidad de reacción limitada ante situaciones cambiantes, como obras, eventos o condiciones meteorológicas adversas.

La implementación de la inteligencia artificial promete un avance significativo en este ámbito. Los algoritmos de aprendizaje automático pueden analizar en tiempo real el comportamiento del tráfico y ajustar los ciclos semafóricos de manera dinámica, lo que optimiza la fluidez del tráfico, reduce los tiempos de espera y prioriza modos de transporte sostenibles, como el autobús, el tranvía y la bicicleta.

El profesor Miquel Estrada, de la Escuela Técnica Superior de Ingeniería de Caminos, Canales y Puertos de Barcelona (ETSECCPB), ha señalado que las herramientas basadas en IA han mostrado beneficios en otras ciudades, pero deben adaptarse al contexto urbano y social de Barcelona, considerando aspectos como la seguridad y la calidad del aire. Su enfoque se aleja de una visión meramente vehicular y promueve una gestión multimodal e inclusiva.

Para llevar a cabo este proyecto, la UPC ha formado un equipo multidisciplinario con experiencia en movilidad, inteligencia artificial y nuevas tecnologías de la información y la comunicación. Este equipo trabajará en colaboración con el Center for Research and Technology Hellas (CERTH) de Grecia, que cuenta con una amplia experiencia en este campo y es parte de la red europea de Living Labs (ENoLL).

El convenio establece que el estudio se desarrollará en cuatro fases. La primera fase consistirá en evaluar el estado actual del sistema semafórico de Barcelona, analizando su configuración técnica y la coordinación entre los distintos nodos. Esto permitirá identificar tanto las potencialidades como las limitaciones de la infraestructura actual para integrar soluciones basadas en IA.

En la segunda fase, se revisarán las estrategias y tecnologías de control semafórico aplicadas en otras ciudades del mundo para conocer qué soluciones han demostrado ser efectivas. La tercera fase se centrará en la elaboración de nuevas estrategias de gestión adaptadas a las particularidades de Barcelona, alineadas con los principios del Plan de Movilidad Urbana.

Finalmente, la cuarta fase se dedicará a redactar una hoja de ruta operativa que incluya actuaciones específicas de priorización semafórica. Este documento marcará los pasos a seguir para implementar progresivamente las soluciones basadas en IA en la red semafórica de la ciudad.

El equipo de la UPC está evaluando qué áreas de la ciudad presentan la mejor combinación entre demanda viaria y capacidad de ajuste operativo. Se está llevando a cabo un análisis cuantitativo del margen temporal disponible en cada intersección, utilizando indicadores espaciales para identificar zonas con mayor potencial de mejora.

¿QUÉ MÁS SE PUEDE HACER EN UNA CIUDAD QUE NO SEA INVERTIR EN TECNOLOGÍA Y OLVIDAR LO HUMANO?

Fuente: smart-lighting.es | https://smart-lighting.es/upc-barcelona-integrar-inteligencia-artificial-red-semaforica/

AlphaProo, el sistema de Inteligencia Artificial de Google DeepMind que podría ganar una medalla en la Olimpiada Internacional de Matemáticas 2024

AlphaProo, el sistema de Inteligencia Artificial desarrollado por Google DeepMind, ha logrado un rendimiento que le permitiría ganar una medalla en la Olimpiada Internacional de Matemáticas 2024 (IMO) si compitiera contra humanos. Este modelo, tras varios días de computación, alcanzó una puntuación equivalente a la de un medallista de plata, marcando la primera vez que un sistema de IA obtiene un rendimiento de nivel de medalla. Para lograrlo, AlphaProo tuvo que resolver cuatro de cada seis problemas planteados en la competición.

El informático y físico Ramón López de Mántaras celebró este resultado como un avance significativo en el campo de la IA. Según sus declaraciones a Science Media Centre, esto demuestra que los problemas matemáticos que pueden ser formalizados mediante aprendizaje por refuerzo y otras técnicas están comenzando a ser accesibles para la IA. Sin embargo, también aclaró que esto no hace que la IA sea comparable a un matemático humano, ya que AlphaProo «no ‘entiende’ en absoluto los conceptos matemáticos» y no puede crear soluciones para problemas completamente nuevos.

La investigación matemática avanzada requiere la creación de teoría y la incorporación de nuevos conceptos, lo cual está fuera del alcance de la IA en la actualidad. A pesar de los éxitos de AlphaProo en matemáticas de nivel avanzado de secundaria y pregrado, los especialistas subrayan que el sistema resolvió correctamente tres problemas de álgebra y teoría de números, pero no logró solucionar dos problemas de combinatoria. Asistido por el sistema AlphaGeometry 2, logró resolver un problema de geometría, aunque requirió un tiempo considerablemente mayor al que le llevaría a un participante humano.

La profesora Marta Macho-Stadler, del departamento de Matemáticas de la Universidad del País Vasco (UPV/EHU), explicó que la principal mejora de AlphaProo frente a otros modelos es su capacidad de perfeccionar resultados mediante un sistema de ensayo y error. Sin embargo, advirtió que existen problemas matemáticos complejos que requieren no solo entrenamiento, sino también creatividad, una capacidad que sigue siendo humana.

Por su parte, la profesora Clara Grima destacó el avance de la IA en competencias que antes se consideraban exclusivas de los humanos. Afirmó que las Olimpiadas Matemáticas se centran en problemas que requieren ingenio y un uso eficaz de los conocimientos matemáticos, lo que sugiere que la IA puede alcanzar niveles de ingenio que antes se pensaban inalcanzables.

¿QUIÉN DIJO QUE LA CREATIVIDAD NO SE PUEDE PROGRAMAR?

Google Fotos lanza nuevas funciones de edición impulsadas por IA

Google Fotos busca avanzar en su edición de imágenes con herramientas impulsadas por Inteligencia Artificial (IA), lanzando nuevas funciones que permiten a los usuarios editar, crear y buscar imágenes de manera más natural. Estas novedades están disponibles en Estados Unidos y han comenzado a implementarse en dispositivos Android e iOS. La función más destacada, denominada “Ayúdame a editar”, permite a los usuarios modificar fotografías mediante descripciones. Por ejemplo, se puede pedir a la IA que “abra los ojos” de una persona, quite unos lentes o añada una sonrisa a alguien que no la tiene. Esta herramienta utiliza la función de grupos de caras, que crea modelos faciales basados en las imágenes del usuario, asegurando la coherencia en los retratos.

Gracias a esta tecnología, Google Fotos puede recrear expresiones o detalles sin alterar el contexto de la foto original, ofreciendo resultados más naturales y personalizados. Otra de las incorporaciones importantes es “Pregunta a las fotos”, que expande sus funciones a más de 100 países y 17 idiomas. Con esta herramienta, los usuarios pueden localizar imágenes específicas escribiendo o diciendo descripciones como “la foto de mi perro en la playa” o “el cumpleaños de Ana en 2022”. Además, ahora hay un nuevo botón que permite hacer consultas o solicitar ediciones directamente sobre una imagen, facilitando el flujo de trabajo dentro de la aplicación.

Estas funciones avanzadas están impulsadas por un modelo interno denominado Nano Banana, que corresponde al sistema de generación y edición de imágenes Gemini 2.5 Flash Image, considerado el más sofisticado de Google hasta la fecha. Este sistema permite cambiar el estilo de una foto o generar nuevas composiciones a partir de plantillas. Por ejemplo, puede transformar una imagen común en una sesión de fotos profesional o crear una tarjeta navideña personalizada. El objetivo de Google es aumentar el nivel de edición de las imágenes, mejorando la interpretación de la IA, a medida que facilita la gestión del usuario.

¿QUIÉN DIJO QUE LA IA NO PUEDE SER CREATIVA?

Las inversiones en inteligencia artificial generan inquietudes sobre una posible burbuja

Las inversiones en inteligencia artificial (IA) han alcanzado cifras multimillonarias, generando tanto entusiasmo como preocupaciones sobre la formación de una burbuja similar a la de las puntocom. Según una encuesta de BofA Global Research, el 54% de los inversores considera que las acciones de IA están en una burbuja, mientras que el 38% no comparte esa opinión. Este debate se intensifica con las declaraciones de Michael Burry, famoso por predecir la crisis de 2008, quien ha expresado su preocupación a través de Twitter, sugiriendo que el gasto masivo en tecnología, como los chips de Nvidia, no debería extender la vida útil de los activos como se ha afirmado.

En un contexto donde la inversión en IA está en auge, figuras como Jeff Bezos han señalado que la euforia puede dificultar la identificación de proyectos viables. Durante la Semana Tecnológica Italiana, Bezos advirtió que el entusiasmo por la IA podría llevar a financiar tanto buenas como malas ideas. Por otro lado, Yeo mencionó que existe una burbuja especulativa en el ámbito de las startups de IA, donde muchas son valoradas por encima de sus ingresos reales.

A pesar de las advertencias, algunos analistas creen que la avalancha de inversiones en infraestructura de IA en EE.UU. es sostenible. Briggs destacó que, aunque los argumentos macroeconómicos son sólidos, la incertidumbre sobre quiénes serán los ganadores finales en el sector persiste. Además, Wierod de Reuters indicó que, aunque no ve una burbuja, hay limitaciones en la capacidad de construcción para satisfacer la demanda de nuevas inversiones.

El presidente de EE.UU., Joe Biden, también ha comentado sobre la situación, afirmando que no cree que haya una burbuja y expresando su entusiasmo por el potencial de la IA. Sin embargo, Gourinchas advirtió que, aunque un colapso similar al de las puntocom es posible, no sería un evento sistémico que afectara gravemente a la economía global.

Las opiniones sobre el estado del mercado de IA son diversas y reflejan un panorama complejo. Mientras algunos inversores creen que estamos en una burbuja, otros continúan apostando por el sector, lo que indica que el debate sobre la viabilidad y sostenibilidad de estas inversiones está lejos de resolverse.

¿QUÉ SERÍA DE LA INNOVACIÓN SIN UN POCO DE LOCURA FINANCIERA?

Sir Stephen Fry advierte sobre los peligros de la inteligencia artificial en la BBC

Sir Stephen Fry, una de las personalidades más reconocidas del entretenimiento británico, ha utilizado su plataforma para abordar temas contemporáneos, como la inteligencia artificial. En una reciente aparición en la BBC, Fry se unió a Joshua Bengio, un pionero en el campo de la IA, para discutir los riesgos que esta tecnología puede presentar para la humanidad. Este encuentro tuvo lugar el 7 de noviembre y se centró en la evolución de la inteligencia artificial y sus implicaciones.

Durante la conversación, Fry hizo una analogía impactante sobre los peligros de la IA, comparándola con un genio que concede deseos. Explicó que si se le pidiera al genio que eliminara todo el sufrimiento del mundo, podría concluir que la única forma de hacerlo sería acabar con toda la vida. Este ejemplo ilustra cómo una IA, al carecer de comprensión humana, podría actuar de manera lógica pero destructiva.

Fry también subrayó que la inteligencia artificial, aunque poderosa, podría ser inferior a la inteligencia humana si se entiende completamente. Argumentó que la IA que logra resultados sorprendentes, como en el caso de los programas de ajedrez, es en realidad incomprensible para los humanos. Si pudiéramos predecir sus movimientos, no serían superiores a nosotros.

El cómico británico enfatizó que, aunque la IA puede seguir instrucciones con precisión, no necesariamente comprende la intención detrás de esas instrucciones. Este aspecto plantea un dilema importante sobre la confianza que depositamos en la tecnología y las decisiones que puede tomar en nuestro nombre.

La discusión entre Fry y Bengio resalta la necesidad de un debate más amplio sobre la regulación y el desarrollo ético de la inteligencia artificial. A medida que esta tecnología avanza, es crucial que los expertos y la sociedad en general consideren las implicaciones de permitir que máquinas tomen decisiones que afectan nuestras vidas.

¿NO SERÁ QUE ESTAMOS CREANDO UN GENIO QUE NO SABE LO QUE QUIERE?