Google crea un sistema de marcas de agua para detectar textos creados con IA, pero…«Google ha creado SynthID-text, un sistema de marcas de agua para identificar textos generados por IA, aunque su eficacia disminuye si el contenido es editado. Este avance, clave para la transparencia, cumple con los requisitos de la normativa europea AI Act.»
Google ha desarrollado SynthID-text, un sistema que utiliza marcas de agua para identificar textos generados por su modelo de inteligencia artificial, Gemini. Esta innovación mejora la detección de contenido artificial con un éxito del 90%, aunque su eficacia se ve afectada si el texto es editado.
El artículo destaca el desarrollo por parte de Google Deepmind de SynthID-text, un sistema de marcas de agua invisible que permite identificar textos generados por IA, particularmente por Gemini, el modelo generativo de Google. Este avance, publicado en Nature, se considera el sistema más eficiente hasta ahora para detectar contenido generado artificialmente y se alinea con los requisitos de la ley europea AI Act, que exige que los contenidos creados por IA sean identificables. No obstante, el sistema no es infalible, ya que su eficacia disminuye cuando el usuario edita o parafrasea el texto.
La herramienta tiene un impacto mínimo en la calidad del texto generado y no requiere un gran uso de recursos computacionales, lo que facilita su aplicación a gran escala. Este desarrollo representa un hito en la implementación de mecanismos de transparencia en IA, cumpliendo con la necesidad de marcar el contenido artificial de forma efectiva. Sin embargo, persisten desafíos, como la dificultad para detectar textos breves o aquellos que han sido modificados por el usuario.
A pesar de las mejoras respecto a tecnologías anteriores, la detección se ve limitada por la precisión de las respuestas generadas. Cuanto más específica sea la pregunta, menos alteraciones tendrá el texto y más difícil será identificar su origen artificial. Además, el éxito de este tipo de tecnologías depende de la estandarización en su uso entre diferentes empresas tecnológicas, como OpenAI, lo que ha suscitado debates sobre la necesidad de un ente regulador que supervise la aplicación de estándares.
En un contexto en el que las IA generativas están cambiando el panorama de la educación y la creación de contenido, la capacidad para identificar claramente si un texto ha sido generado por IA es crucial. Sin embargo, como señalan expertos como Albert Sabater y Pablo Haya, aún queda mucho por mejorar para que estas herramientas sean completamente fiables y universales.
¿Podrá esta tecnología convertirse en un estándar global que permita una regulación efectiva de los contenidos generados por IA o dependerá de que cada empresa implemente sus propios sistemas?
·····················
Este texto es un resumen comentado basado en la noticia original de Marc Masip publicada en La Vanguardia el 23 de octubre de 2024. Puedes leer el artículo completo aquí: https://www.lavanguardia.com/ciencia/20241023/10044924/google-crea-sistema-marcas-agua-detectar-textos-creados-ia.html
·····················
.
.
.
.
