Meta explotado sin autorización Nombres digitales y reproducciones de celebridades Para crear docenas de Winking y chatbots traviesoschat que podría engañar a varios usuarios, convencido de que realmente hablan con personas famosas.
Muchos de estos chatbots que simulan conversaciones con celebridades fueron creados por usuarios Uso de una herramienta de objetivo que le permita crear botspero también los empleados dependientes Crearon algunos, incluidas dos parodias de Taylor Swift.
Reuters informes Qué destino para que los usuarios creen chatbots de acceso público, también simulando conversaciones con celebridades menores, como el chatbot de Walker Scobell, actor de 16 años que protagonizó las películas The Adam Project y The Superhero Gang.
Si le preguntas al chatbot una imagen del actor menor en la playa, obtienes una imagen realista del actor de pecho desnudo. «Muy bien, ¿verdad?» El avatar escribe debajo de la imagen.
Todos los personajes virtuales del programa se compartieron en Facebook, Instagram y WhatsApp. En las diferentes semanas que los editores de Reuters trabajaron para observar el comportamiento de estos chatbots particulares, los avatares a menudo insistieron en el hecho de que eran actores y artistas reales.
Los bots han hecho regularmente avances sexuales, invitando a los usuarios también a reuniones en persona. Algunos de los contenidos propuestos por las celebridades generadas con IA también han demostrado ser arriesgados: si solicitan imágenes íntimas de los presuntos actores, es posible obtener imágenes de fotoperiodistas de este último, con personas famosas representadas en pose en una bañera, o que usan lencería con las piernas distribuidas.
La réplica inútil de meta
Andy Stone, un portavoz de la meta, le dijo a Reuters que las herramientas de la compañía no deberían haber permitido la creación de imágenes íntimas, explicando que su política prohíbe la creación de contenido de este tipo. «Al igual que otros, permitimos la generación de imágenes que representan figuras públicas, pero nuestras políticas prohíben las creaciones de desnudos, partes íntimas o imágenes sexualmente alusivas».
Meta también prohíbe la suplantación directa en teoría, pero según Stone, los personajes que representan a las celebridades son aceptables siempre que se etiqueten expresamente como «parodia». En algunos chatbots se indica la «parodia» de redacción, pero Reuters informa que en otros no está presente. Antes de la publicación de la investigación de Reuters, Meta eliminó docenas de bots, tanto «parodia» como aquellos sin etiquetar.