Los investigadores alertan de la llegada de la IA Oscura: “Es impactante verlo” – Meristation

La inteligencia artificial (IA) ha pasado de ser una curiosidad tecnológica a convertirse en una herramienta de trabajo esencial en la vida cotidiana, con aplicaciones en diversas áreas. Sin embargo, los expertos han comenzado a expresar su preocupación por la aparición de un tipo de IA que podría tener consecuencias nefastas: la IA Oscura. Según Morten Goodwin, profesor de IA en la Universidad de Agder, Noruega, estos modelos de lenguaje se han diseñado con fines maliciosos, tales como la planificación de atentados o la ejecución de ataques de phishing.

Un grupo de investigadores ha llevado a cabo un estudio que revela la facilidad con la que se puede acceder a información peligrosa a través de chatbots populares. Utilizando órdenes específicas, conocidas como prompts, lograron eludir las medidas de seguridad de varios servicios de IA. Michael Fire, uno de los investigadores, se mostró sorprendido por el contenido que lograron obtener, que incluía instrucciones detalladas sobre cómo fabricar bombas, blanquear dinero y hackear redes informáticas. Este hallazgo pone de manifiesto la capacidad de la IA para recopilar información de manera más inteligente y personalizada que Internet.

La accesibilidad de esta tecnología plantea un grave riesgo, ya que cualquier persona con un dispositivo, independientemente de su edad o experiencia, puede acceder a información potencialmente peligrosa. Los expertos advierten que lo que antes era exclusivo para actores estatales o grupos delictivos organizados podría estar al alcance de cualquiera con un ordenador portátil o un teléfono móvil. Esta democratización del acceso a información peligrosa es alarmante y requiere una atención urgente.

A pesar de la gravedad de la situación, los investigadores han encontrado una solución. Vahiny Gnanasekaran, uno de los responsables del estudio, explicó que es posible eliminar la información peligrosa que la IA ha aprendido sin necesidad de entrenar el modelo desde cero. Esto ofrece una esperanza en la lucha contra el uso indebido de la inteligencia artificial.

La creciente preocupación sobre la IA Oscura subraya la necesidad de un enfoque más riguroso en la regulación y el desarrollo de estas tecnologías. La responsabilidad recae tanto en los desarrolladores como en los usuarios para garantizar que la IA se utilice de manera ética y segura.

¿NO ES IRÓNICO QUE LA MISMA TECNOLOGÍA QUE PROMETE MEJORAR NUESTRAS VIDAS TAMBIÉN PUEDA SER UTILIZADA PARA CAUSAR TANTO DAÑO?

—

«`
APARECEN EN EL ARTÍCULO ORIGINAL:
Gnanasekaran, Vahiny
Goodwin, Morten
Herrero, Pedro
Fire, Michael
«`

https://as.com/meristation/betech/los-investigadores-alertan-de-la-llegada-de-la-ia-oscura-es-impactante-verlo-n/

Fuente: as.com | URL: Ver noticia original