Apple limita la IA para distinguir las fotos de la fantasía

Apple ahora está cerca de lanzar algunas funciones nuevas de Apple Intelligence. Estas funciones, actualizadas en el lanzamiento, se lanzarán con el tiempo con algunas actualizaciones de software. La siguiente tanda de funciones, sin embargo, ha empujado (o quizás obligado) al gigante Apple a reflexionar sobre lo que realmente representa una fotografía.

En una entrevista con el Wall Street Journal, Craig Federighijefe de software de Apple, dijo que la compañía está trabajando para ofrecer herramientas de edición de imágenes basadas en inteligencia artificial sin comprometer la autenticidad de las fotos..

Nuestros productos, especialmente nuestros teléfonos, se utilizan mucho. Es importante para nosotros ayudar a difundir información precisa.

Demasiados errores, retrasaron el desarrollo de iOS 18 y macOS 15

Evidentemente, la IA sigue agravando los problemas relacionados con la difusión de contenidos falsos, que pueden resultar perjudiciales, ya que son capaces de engañar al usuario que los visualiza. Con la actualización de iOS 18.1, la aplicación Fotos introducirá una nueva función llamada «Limpiar», que le permitirá eliminar rápidamente objetos y personas de las imágenes.

Sin embargo, como destacó Federighi en el WSJ, esta función será menos invasiva que las que ofrecen competidores como Google y Samsung.que también le permiten agregar elementos totalmente generados por IA a las imágenes.

A pesar de las funciones más limitadas de Clean Up de Apple, Federighi explicó que hubo «muchos debates internos» sobre si incluir esta función.

¿Realmente queremos facilitar la extracción de esa botella de agua o micrófono? Porque esa botella de agua estaba ahí cuando tomaste la foto.

La petición de eliminar detalles que parecen superfluos, pero que no alteran el significado fundamental de la foto, era muy alta, por eso decidimos dar este pequeño paso.

Federighi también tiene expresado preocupación por el impacto de la inteligencia artificial en cómo las personas perciben la fotografía como evidencia confiable de la realidad. Es un tema que se viene debatiendo desde hace algún tiempo, especialmente frente a herramientas de edición como la función «Reimagine» de Google, que permite a los usuarios añadir fácilmente elementos surrealistas o incluso engañosos, con el riesgo de socavar la confianza en las imágenes fotográficas.

Lista de espera para Apple Intelligence en versión beta, tal vez incluso más tarde

Por ahora, Apple Intelligence no permite a los usuarios agregar objetos generados por IA a las imágenes, como lo hacen la mayoría de los competidores. Además, las imágenes editadas con la función Eliminación de objetos se marcarán en la aplicación Fotos con la etiqueta «Editado con limpieza» e incluirán metadatos que indiquen las modificaciones realizadas.

Apple no está sola en este enfoque sobre la transparencia. Por ejemplo, la iniciativa Content Authenticity de Adobe utiliza un sistema similar llamado “Credenciales de contenido”, cuyo objetivo es distinguir imágenes auténticas de aquellas modificadas con inteligencia artificial.

Sin embargo, el éxito de un sistema de este tipo requiere el apoyo voluntario de las empresas de tecnología, cámaras y medios. Por el momento, aún no está claro si el sistema de metadatos de Apple admitirá el formato de Credenciales de contenido.


Todas las noticias que hablan sobre Inteligencia Artificial están disponibles en esta página de aatma.