El Congreso de los Estados Unidos envió cartas a ejecutivos de empresas de TI, Manzana incluso, resaltar las preocupaciones sobre la creciente difusión no consensuada de imágenes íntimas “deepfake”, imágenes o vídeos sexualmente explícitos en los que los rostros de actores de películas para adultos son reemplazados mediante inteligencia artificial por los de personas comunes y corrientes, generalmente mujeres.
La carta, firmada por grupos bipartidistas de miembros del Congreso, destaca la difusión de imágenes íntimas no consensuadas creadas con aplicaciones distribuidas en plataformas como las de Apple y Google. También a Satya Nadella, director ejecutivo de microsoftSe le pidió que indicara cómo está abordando el problema, teniendo en cuenta Microsoft Designer, una herramienta para crear imágenes con IA.
«A principios de este año, Apple eliminó tres aplicaciones utilizadas para crear deepfakes de su tienda de aplicaciones después de que una investigación independiente realizada por 404 Media señalara enlaces a las aplicaciones y anuncios relacionados», dijo. ley en la carta enviada a Tim Cook. “Si bien la decisión de eliminar las aplicaciones es positiva, es preocupante que Apple no haya podido revelar las aplicaciones por sí sola. La App Store obliga a los desarrolladores a someterse a un proceso de selección, pero la persistencia de estas aplicaciones pone de relieve la existencia de lagunas en las directrices. Mientras Apple trabaja para cerrar estas lagunas, nos gustaría entender qué medidas se están tomando y qué pautas adicionales pueden ser necesarias para contener la propagación de la pornografía deepfake”.
La carta enviada a Sundar Pichai, director ejecutivo de, es similar Googledestacando también en este caso el papel de la Gran G al permitir la difusión de anuncios que invitan a descargar las aplicaciones «incriminadas».
«A principios de este año, Google anunció que prohibiría los anuncios de sitios web y servicios que permitieran la producción de pornografía deepfake», se lee en la carta. “Como saben, la aparición de deepfakes ha provocado un aumento de anuncios dirigidos a usuarios que quieren producir contenido sexual explícito. Si bien las políticas actualizadas de Google instruyen a los desarrolladores de aplicaciones de IA a protegerse contra el contenido ofensivo, […] Informes recientes han destacado que Google continúa promoviendo resultados que muestran aplicaciones que utilizan IA generativa para crear imágenes con desnudos no consensuados. Este hecho genera preocupación sobre la complicidad de Google y su papel en la proliferación de imágenes deepfake. Nos gustaría aclarar aún más el resultado de estas actualizaciones y comprender qué orientación adicional puede ser necesaria para contener la propagación de la pornografía deepfake, incluidos los esfuerzos para eliminar las plataformas deepfake de los resultados de búsqueda de Google”.
Los mismos miembros del Congreso enviaron cartas a los directores ejecutivos de Facebook, tiktok Y Snapchatdestacando las preocupaciones sobre la difusión de contenido no consensuado en sus respectivas plataformas.
En esta dirección se detalla cómo reconocer vídeos deepfake, explotados no sólo con fines pornográficos sino también para fraudes financieros y estafas contra empresas.