Las apps que ‘desnudan’ con IA, en el punto de mira: Meta ha denunciado a una de estas plataformas

En agosto de 2024, la organización Thorn publicó una encuesta que reveló que uno de cada diez menores en Estados Unidos conoce a alguien que ha utilizado inteligencia artificial para crear desnudos falsos de otros niños. Este problema, que va más allá del acoso escolar, ha puesto en alerta a gobiernos y plataformas tecnológicas, especialmente con la proliferación de aplicaciones conocidas como nudify apps. En respuesta a esta preocupación, en España se aprobó una ley de protección a la infancia en el ámbito digital que castiga con hasta dos años de cárcel la creación y difusión de imágenes sexuales generadas con IA.

En este contexto, Meta ha demandado a Joy Timeline HK Limited, responsable de CrushAI, una aplicación que prometía «desnudar a cualquiera» a partir de una simple foto. La denuncia pública señala que los responsables de CrushAI intentaron evadir el sistema de revisión publicitaria de Meta para promocionar sus servicios. La investigación de CBS News reveló que se publicaron miles de anuncios en Instagram, Facebook y otras aplicaciones asociadas a la red publicitaria de Meta, mostrando deepfakes sexuales de celebridades como Scarlett Johansson y Anne Hathaway, e incluso permitiendo a los usuarios subir imágenes reales de personas sin su consentimiento para ser manipuladas por IA.

Meta ha tomado medidas para combatir esta problemática, eliminando miles de anuncios y bloqueando enlaces y páginas asociadas a CrushAI. Sin embargo, la controversia sobre los desnudos falsos generados con inteligencia artificial continúa siendo motivo de preocupación, ya que estas aplicaciones plantean serios desafíos éticos y legales en términos de privacidad y consentimiento. La tecnología avanza rápidamente, pero es crucial establecer regulaciones claras y efectivas para proteger a las personas, especialmente a los menores, de posibles abusos y violaciones de su intimidad.

Fuente: 20 Minutos | URL: https://www.20minutos.es/tecnologia/ciberseguridad/apps-que-desnudan-con-ia-meta-denuncia-crushai-5721783/