Meta eliminó repentinamente una característica nueva y controvertida que permitía a los usuarios explotar la inteligencia artificial para generar imágenes ficticias a partir del contenido publicado en Instagram.
Esta opción también fue parte del lanzamiento de Muse Image, la herramienta de generación visual basada en IA sin precedentes lanzada por el gigante de las redes sociales. A través de esta función, cualquiera que use el chat Meta AI podría mencionar una cuenta pública y usar rápidamente sus publicaciones para crear o modificar imágenes mediante algoritmos.
El mecanismo desató inmediatamente una tormenta relacionada con la protección de la privacidad, empujando a la empresa dirigido por Mark Zuckerberg admitir el error ea eliminar la característicadeclarando explícitamente que no había dado en el blanco.
Lo que suscitó la controversia más acalorada fue sobre todo el hecho de que la opción estaba activa por defecto para todos los miembros. Importantemente, cualquier persona con un perfil público corría el riesgo de que se utilizara su imagen y reelaborado sin su conocimiento y sin autorización alguna.
Esta no es la primera vez que Meta es criticada por la relación entre la IA y los datos personales. En el pasado ya había introducido la posibilidad de oponerse al uso de publicaciones, fotografías y comentarios para el entrenamiento de IAtras la polémica por el uso del contenido publicado por los usuarios.
El modelo elegido por Meta es el dedarse de baja: la función está disponible y el usuario debe desactivarla si es necesario. Para muchos críticos, sin embargo, una función tan sensible sólo debería funcionar con el consentimiento explícito, es decir, con un modelo registrarse.
Varias organizaciones acogieron calurosamente la decisión de dar marcha atrás. El sindicato de Hollywood Sag-Aftra calificó el cambio de rumbo de la empresa como una verdadera victoria, después de haber instado a sus miembros y a todos los usuarios de la plataforma a tomar medidas para defender su imagen personal frente a lo que se consideró un error total de juicio sobre los peligros intrínsecos de esta tecnología.
En la misma línea se expresó Privacy International, asociación humanitaria con sede en Londres, destacando ante la micrófonos de la bbc cómo este episodio es sólo la enésima confirmación de cómo las empresas que trabajan en el sector de la IA consideran los datos y las fotografías de las personas como una simple materia prima que debe ser explotada.
De las intenciones al desastre
Al justificar la retirada de la función, la empresa matriz de Instagram explicó que la intención inicial era ofrecer una herramienta creativa útildando a las personas control sobre si se hace referencia a su contenido público. Sin embargo, la empresa añadió que escuchó las críticas y actuó en consecuencia.
En el momento del debut de Muse Image, Meta había especificado que la herramienta se limitaría a Instagram, aunque la empresa prevé introducir más funciones relacionadas con la inteligencia artificial también en WhatsApp, Facebook y Messenger, así como una herramienta para generar vídeos actualmente en desarrollo.