El gobierno del Reino Unido ha publicado un informe que destaca las amenazas potenciales que la Inteligencia Artificial (IA) podría representar para la seguridad nacional y la humanidad en general. Este informe se ha elaborado en colaboración con empresas líderes en IA, como la unidad DeepMind de Google, y varias agencias de inteligencia del gobierno británico. El documento se presenta como un preludio a la AI Safety Summit, una cumbre internacional que se celebrará en el Reino Unido y que se centrará en la seguridad de la IA.

Joe White, enviado de tecnología del Reino Unido a Estados Unidos, enfatiza que la cumbre es una oportunidad para que los países y las principales compañías de IA comprendan mejor los riesgos asociados con esta tecnología. Rishi Sunak, el primer ministro del Reino Unido, también hablará sobre los riesgos y oportunidades que la IA presenta para las futuras generaciones.

El informe aborda varios escenarios en los que la IA podría ser mal utilizada. Uno de los casos examina la posibilidad de que actores malintencionados combinen grandes modelos de lenguaje, como ChatGPT, con documentos secretos del gobierno. Esto podría acelerar la creación de armas biológicas y representar una amenaza significativa para la seguridad nacional. Además, el informe también considera el riesgo de que la IA se libere del control humano, lo que podría hacer que sea cada vez más difícil para los humanos recuperar el control sobre las decisiones importantes.

Sin embargo, el informe ha recibido críticas por parte de algunos expertos en IA que argumentan que el gobierno debería centrarse en problemas más inmediatos, como la discriminación algorítmica y la consolidación del poder en manos de unas pocas compañías dominantes. También se ha señalado que el enfoque en escenarios futuristas podría distraer la atención de los problemas actuales.

El informe fue revisado por un panel que incluía expertos en política y ética de DeepMind y Hugging Face, así como Yoshua Bengio, uno de los «padrinos de la IA», quien recientemente declaró que su optimismo sobre la tecnología se ha desvanecido y que se necesita una nueva organización para mantener a raya a esta tecnología.

En resumen: El gobierno del Reino Unido ha publicado un informe que destaca los riesgos potenciales de la IA para la seguridad nacional y la humanidad. El informe se presenta antes de la AI Safety Summit y aborda temas como el mal uso de la IA en la creación de armas biológicas y la posibilidad de que la IA se libere del control humano.

*** Información extraída del artículo original: Reino Unido advierte sobre la IA: podría filtrar documentos secretos del gobierno o crear armas biológicas, publicado en WIRED.***

.
.
.
.