Microsoft ha presentado una nueva herramienta durante el evento Ignite 2023 que está causando revuelo en la industria tecnológica. La herramienta, conocida como Azure AI Speech text-to-speech avatar, es capaz de crear avatares fotorrealistas y animarlos para simular que dicen cosas que la persona real no dijo. Esta herramienta está disponible públicamente y ha generado importantes debates éticos.

Características y Funcionalidad

• Creación de Avatares: Los usuarios pueden generar videos de avatares hablando al subir imágenes de una persona y escribir un guion.
• Modelos de IA: Un modelo de IA anima el avatar, y otro modelo de texto a voz (preconstruido o entrenado con la voz de la persona) lee el guion.
• Usos Múltiples: Estos avatares pueden ser utilizados para crear videos de entrenamiento, introducciones de productos, testimonios de clientes y más.
• Capacidades Lingüísticas: Los avatares pueden hablar en múltiples idiomas y, para escenarios de chatbot, pueden usar modelos de IA como GPT-3.5 de OpenAI.

Consideraciones Éticas y de Seguridad

• Prevención del Mal Uso: Microsoft es consciente de que la herramienta podría ser utilizada indebidamente, como en la producción de propaganda y noticias falsas. Por lo tanto, inicialmente, la mayoría de los suscriptores de Azure solo tendrán acceso a avatares preconstruidos, y los avatares personalizados estarán disponibles solo bajo registro y para ciertos casos de uso.
• Consentimiento Explícito: Se requiere que los clientes de avatares personalizados obtengan un permiso explícito por escrito y declaraciones de consentimiento del talento del avatar.
• Replicación de Voz: Una nueva capacidad dentro del servicio de voz neural personalizado de Microsoft puede replicar la voz de un usuario con solo una muestra de discurso de un minuto, aunque el acceso a esta característica está restringido.
• Marcas de Agua en Voces: Se añadirán marcas de agua a las voces personales para garantizar la autenticidad, pero su detección en aplicaciones o plataformas requiere aprobación de Microsoft.

La iniciativa de Microsoft, aunque innovadora en términos tecnológicos, destaca la importancia de abordar las implicaciones morales y legales en la era de la inteligencia artificial. La capacidad de crear deepfakes realistas plantea preguntas críticas sobre la ética y la seguridad en la tecnología de IA, enfatizando la necesidad de una reflexión y regulación cuidadosa en este campo emergente.

Para más detalles, visita el artículo completo en WWWhat’s New​​.