La aplicación de vídeo de sora – la IA de Abierto AI capaz de producir vídeos realistas y evocadores a partir de una petición textual – ya no permitirá la creación de películas con celebridades o voces de personajes famosos, sin el consentimiento de este último.
La decisión se tomó luego de polémicas surgidas en las últimas semanas. OpenAI, SAG-AFTRA (sindicato que representa a miles de profesionales de los medios y el entretenimiento), el actor Bryan Cranston (conocido por la serie de televisión Breaking Bad), la United Talent Agency (UTA), Creative Artists Agency (CAA) y la Association of Talent Agents (ATA) han emitido un comunicado en el que hablan de «colaboración productiva» con el objetivo de definir estándares compartidos para la gestión del consentimiento y la protección de los derechos de imagen.
Cranston expresó su preocupación después de que comenzaron a circular videos deepfake de usuarios que mostraban lo que parecía ser el actor, imágenes (completas con una voz simulada del actor) que circularon sin su consentimiento o autorización. Quejas similares vinieron de las familias de robin williams, George Carlín Y martin luther king jr..
Las organizaciones mencionadas anteriormente han criticado repetidamente el uso de material protegido sin autorización, destacando los riesgos concretos para sus clientes.
Levantamiento de barreras protectoras
Sam Altman, el director ejecutivo de OpenAI, Sam Altman, es comprometido para garantizar que la empresa que dirige impida «la apropiación indebida de la voz y la imagen de los artistas», afirmando que OpenAI fue uno de los primeros en apoyar la Ley NO FAKES, un proyecto de ley federal que tiene como objetivo crear una norma nacional para impedir la reproducción digital no autorizada de personas reales, con especial atención a los artistas y figuras públicas.
OpenAI ya había establecido políticas de «inclusión voluntaria» que permiten el uso de la voz y la imagen de una persona viva sólo con consentimiento previo, pero es evidente que algunos usuarios han logrado generar vídeos con las características de Cranston, lo que muestra fallas en el sistema de verificación. Ahora se han levantado “barreras de seguridad”, mecanismos que deberían impedir cualquier reproducción de rostros y voces sin consentimiento explícito.
Para ver todos los artículos sobre Inteligencia Artificial, consulte la sección dedicada de aatma.