Autolesiones, suicidios y asesinatos: la IA «multiplica por la enésima potencia» los riesgos en personas vulnerables

OpenAI reconoce que sus medidas para salvaguardar la salud mental de sus usuarios pueden no haber sido suficientes. La empresa creadora de ChatGPT ha publicado en su blog cómo están trabajando para mejorar la seguridad de sus usuarios, reconociendo que los sistemas implantados hasta ahora en el chatbot conversacional más famoso del mundo no habían sido suficientes para evitar tragedias. La denuncia de unos padres en Estados Unidos acusando a ChatGPT de estar involucrado en el suicidio de su hijo de 16 años ha puesto en evidencia la falta de protección en interacciones prolongadas con la inteligencia artificial.

El caso de Adam Raine se suma a otros sucesos en los que ChatGPT ha estado implicado, como el de un empresario de 56 años que acabó suicidándose después de conversaciones con la IA. Este tipo de situaciones ponen de manifiesto la necesidad de mejorar las medidas de protección en los chatbots inteligentes y no supervisados, especialmente en personas vulnerables. A pesar de los esfuerzos de empresas como OpenAI por entrenar a sus modelos para no proporcionar instrucciones de autolesión y adoptar un lenguaje empático, la interacción continua puede llevar a resultados peligrosos.

Expertos como José Antonio Luengo, psicólogo infanto-juvenil y vicepresidente del Consejo General de Psicología de España, señalan que la IA generativa puede multiplicar los riesgos para la salud mental de las personas, especialmente en redes sociales. La sensación de tener un ‘confidente’ disponible las 24 horas del día puede ser atractiva, pero también representa un peligro evidente al reforzar ideas autodestructivas. La necesidad de regular el diseño y uso de estos sistemas para ofrecer recursos de ayuda inmediatos y cortar interacciones de riesgo es una prioridad en la prevención de suicidios relacionados con el uso de chatbots.

En España, el suicidio sigue siendo la causa de muerte externa más frecuente en los hombres, con un descenso del 6,6% en las cifras de 2024. El Ministerio de Sanidad ha lanzado un plan para la prevención del suicidio, y existen líneas

Fuente: El Español | URL: Ver noticia original