Una fotografía normal es suficiente para encontrarse desnudo en Internet sin haber dado nunca su consentimiento. Esta es la razón por la que Apple y Google se encuentran ahora en el punto de mira de las autoridades de California: según el fiscal de San Francisco, las dos empresas siguen albergando aplicaciones basadas en inteligencia artificial capaces de crear desnudos falsos realistas, también siguen ganando con las comisiones generadas por estos servicios, pero al mismo tiempo provocan vergüenza y malestar a muchas personas.
La acción legal fue iniciada por el Fiscal General de San Francisco, David Chiu, quien envió cartas de cese y desistimiento a Apple y Google solicitando la eliminación de 13 aplicaciones. intercambio de caras que permiten crear imágenes de desnudos no consentidas generadas con inteligencia artificial.
California contra las apps que «desnudan» a la gente
En las cartas enviadas a las dos empresas se argumenta que Apple y Google deben parar «fomentar» la venta de imágenes deepfake explícitas y terminar las relaciones comerciales con los desarrolladores de estas aplicaciones. «Generar imágenes íntimas no consentidas es ilegal, nocivo y completamente inaceptable«, él declarado chiu a cableado.
Según el fiscal general, cuya oficina ya ha iniciado acciones legales contra 16 sitios web especializados en pornografía deepfake en el pasado, Apple y Google probablemente habrían sacado provecho millones de dólares en comisiones gracias a estas aplicaciones y debería fortalecer los controles al revisar las aplicaciones.
«Estas empresas tienen la responsabilidad de garantizar que las aplicaciones de sus plataformas no faciliten el abuso sexual», añadió Chiu.
Algunas aplicaciones también eran accesibles para menores
Los avisos legales también le recuerdan que la ley de California prohíbe apoyar servicios que produzcan pornografía deepfake. Los investigadores han identificado varias aplicaciones en Apple App Store y Google Play Store que permiten a la IA crear imágenes sexuales, incluidas algunas clasificadas como aptas para niños.
Tanto Apple como Google ya cuentan con directrices para desarrolladores que prohíben la pornografía, el acoso y el abuso. A pesar de esto, algunas aplicaciones aún logran pasar los controles iniciales, pero son eliminadas tras informes de investigadores, periodistas o autoridades.
Apple ya había intervenido en el pasado
Esta no es la primera vez que surge el problema. Apple ya eliminó varias aplicaciones que utilizaban IA generativa para crear imágenes de desnudos no consensuales a partir de fotografías de personas desprevenidas.
En algunos casos, los desarrolladores habían logrado evadir los controles de la App Store presentando aplicaciones como herramientas de fotografía o edición de fotografías completamente inofensivas, ocultando la funcionalidad real para la que fueron diseñadas.
La nueva iniciativa de la fiscalía de San Francisco pretende ahora ir más allá de la simple eliminación de aplicaciones individuales: el objetivo es presionar a Apple y Google para impedir que software de este tipo llegue a las tiendas, interviniendo ya en la fase de aprobación e interrumpiendo cualquier relación comercial con los desarrolladores que los distribuyen.