Una víctima de abuso sexual infantil demanda a Apple por eliminar progresivamente la tecnología en 2022 Detección de CSAM – el sistema de protección que debería haber verificado automáticamente la posible presencia de imágenes de pornografía infantil en los iPhone y otros dispositivos producidos por la empresa, para proteger a los menores, escaneando las imágenes presentes en iCloud.
Apple había previsto esta funcionalidad en 2021, una novedad que le hubiera gustado integrar en iOS 15 pero antes de la presentación del sistema operativo había dado marcha atrás después de que numerosas organizaciones de privacidad informaran de su oposición, destacando los peligros por la posibilidad que el algoritmo podría generar. falsos positivos.
Desde un punto de vista técnico, el sistema permitió identificar automáticamente la presencia de material de pornografía infantil analizando las imágenes mediante un algoritmo que en la jerga se llama Hash neuronal: identificar la correspondencia entre los hashes de las fotos presentes en el dispositivo (solo aquellas que están cargadas en iCloud) con los hashes incluidos en la base de datos del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), posiblemente enviando informes a la policía.
Bajo la presión de grupos de privacidad y otros, Apple – como se mencionó – dio marcha atrás y ahora un estadounidense de 27 años – víctima de abuso sexual por parte de un miembro de la familia cuando era niño – ha demandado a la empresa por la eliminación de la funcionalidad en cuestión. .
La mujer afirma que cuando Apple estaba probando la función, recibió un aviso de las autoridades porque las imágenes de su abuso estaban ubicadas en una cuenta de iCloud, cargadas desde una MacBook confiscada en Vermont.
En la denuncia, la mujer señala que Apple no ha cumplido su promesa de proteger a víctimas como ella al eliminar la función de escaneo CSAM de iCloud y permitir que los pedófilos los compartan sin que las autoridades puedan recibir informes automáticos. En la cita, la mujer afirma que Apple vende «productos defectuosos que perjudican a determinadas categorías de clientes» como ella.
En la demanda, la mujer pide que Apple modifique los procedimientos seguidos y piense en posibles obligaciones de compensación hacia otras 2.680 víctimas potenciales, destacando que las tecnologías CSAM explotadas por Google y Meta son capaces de identificar mucho más material ilegal que las funciones antidesnudez de Apple. .
Según la legislación vigente en EE.UU., las víctimas de abuso sexual infantil pueden ser indemnizadas con un mínimo de 150.000 dólares; Si todos los posibles demandantes nombrados en la denuncia de la mujer recibieran una compensación por el presunto daño, la compensación total podría superar los 1.200 millones de dólares.
Antes de que Apple decidiera eliminar la función de escaneo CSAM, la Fundación Frontera Electrónica había lanzado una petición para pedir a Apple que no implementara mecanismos de verificación similares, mientras que otras asociaciones habían elogiado la iniciativa, que también fue calificada como positiva por las asociaciones italianas para la protección de menores.