En 2021 Apple empezó a implementar un mecanismo en iOS, iPadOS y macOS que debería haber permitido luchar contra la pornografía infantilidentificando automáticamente imágenes sospechosas cuando se cargan en Fotos de iCloud o se intercambian, por ejemplo, con la aplicación Mensajes.
El sistema CSAM (acrónimo de Material sobre abuso sexual infantil), generó polémica en su momento, por temor a una censura preventiva y posibles riesgos, destacando la posibilidad de mecanismos de control que podrían ser utilizados por gobiernos y diversos regímenes que también podrían exigir el control de otro tipo de imágenes (por ejemplo, símbolos no deseados, adversarios políticos, etc.).
En 2021, Apple se vio obligada a dar marcha atrás tras las protestas de los defensores de la privacidad, que consideraban el sistema una grave violación de sus derechos. Cuatro años después, Apple podría verse obligada a integrar la solución antipedofilia en sus sistemas operativos: el sitio web euractivo informes que, después de años de discusiones. el Consejo de la UE habría llegado a un acuerdo para regular la cuestión de la circulación de imágenes de abuso infantil; La idea inicial era obligar a las empresas tecnológicas a implementar metodologías para la búsqueda automática de material de pornografía infantil en dispositivos, computadoras y servicios en la nube, la nueva versión del texto ya no impone esto pero la opción sigue abierta y cada empresa podrá implementarla si lo considera necesario para cumplir con los requisitos de la lucha contra el abuso sexual de menores.
Aunque la propuesta aún no ha obtenido la aprobación del Parlamento Europeo, se ha alcanzado un hito importante que podría allanar el camino para una legislación específica dentro de unos meses. Las organizaciones de protección de la privacidad permanecerán vigilantes, pero tendrán que enfrentarse a varios legisladores, entre ellos Peter Hummelgaard, ministro danés de Justicia, que valora positivamente la evolución, subrayando que «cada año se comparten millones de archivos que representan abusos y millones», afirmando que se alegra de que se alcancen normas específicas.
¿Cómo funcionó el mecanismo de protección de Apple?
Desde un punto de vista técnico, el sistema permitió identificar automáticamente la presencia de material de pornografía infantil analizando las imágenes mediante un algoritmo que en la jerga se llama Hash neuronal: identificar la correspondencia entre los hashes de las fotos presentes en el dispositivo (solo aquellas que están cargadas en iCloud) con los hashes incluidos en la base de datos del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), posiblemente enviando informes a la policía.
Entre las organizaciones que apoyaron la iniciativa de Apple en 2021 también se encuentran El Centro Nacional para Niños Desaparecidos y Explotados; entre los que dudan: Edward Snowden y el Fundación Frontera Electrónica. En diciembre del año pasado, Apple fue demandada en EE.UU. por haber eliminado la tecnología de Detección CSAM de varios dispositivos en 2022.