A partir de la próxima semana, Google etiquetará las imágenes que detecte como editadas con IA en Google Photos.
«Las fotos editadas con herramientas como Magic Editor, Magic Eraser y Zoom Enhance ya incluyen metadatos basados en los estándares técnicos del Consejo Internacional de Telecomunicaciones de Prensa (IPTC), lo que le permite determinar si una imagen ha sido editada utilizando IA generativa». explica en una publicación en el blog de la empresa John Fisher, director de ingeniería de Google Photos. «Ahora vamos más allá al hacer que esta información sea visible junto con información como su nombre, ubicación y estado de la copia de seguridad en la aplicación Fotos».
Además de indicar si una imagen ha sido modificada mediante IA generativa, los metadatos IPTC permiten comprender si una imagen está compuesta por elementos de diferentes fotografías utilizando funciones no generativas, aquellas que permiten crear composiciones combinando varias fotografías en una secuencia continua. imagen.
El sitio de EE. UU. El borde informes que la sección «Información AI» será visible en la vista de detalles de la aplicación Google Photos y también desde el sitio web dedicado.
«El trabajo no ha terminado y continuaremos recopilando comentarios y evaluando soluciones adicionales para una mayor transparencia en torno a la edición de IA», dijo Fisher.
Hasta ahora, los metadatos que tienen en cuenta las funciones de IA en Google Photos eran prácticamente invisibles para los usuarios, y muchos sectores presionaron a la empresa para que indicara detalles para reconocer imágenes modificadas.
Apple ha decidido limitar la IA en las herramientas de edición de imágenes, explicando que la próxima función llamada «Limpiar» (para eliminar rápidamente objetos y personas de las imágenes) será menos invasiva que las ofrecidas por competidores como Google y Samsung, que también permiten para agregar elementos totalmente generados por IA a las imágenes.
Apple no está sola en este enfoque sobre la transparencia. Por ejemplo, la iniciativa Content Authenticity promovida por Adobe utiliza un sistema llamado “Content Credentials”, que -gracias a una marca de agua invisible- tiene como objetivo distinguir las imágenes auténticas de aquellas modificadas con inteligencia artificial.