Entre las nuevas funciones de iOS 18.2 (en el momento de escribir una versión beta para desarrolladores) se encuentra una función activa para usuarios australianos que les permite Informar contenido inapropiado directamente a Apple.
La función en cuestión es una extensión de las medidas de seguridad ya vistas con iOS 17, capaz de identificar automáticamente en iMensajes, Entrega por paracaídas, FaceTime y en la aplicación Foto Imágenes y videos con desnudos.
Cuando un menor recibe imágenes que el sistema identifica como desnudez, aparece una ventana emergente para explicarle que se pueden tomar medidas, reportando la imagen a Apple, quien, a su vez, potencialmente puede enviar información a las autoridades correspondientes.
Cuando aparece la advertencia, el dispositivo del usuario prepara un informe, que incluye cualquier material ofensivo, mensajes enviados antes y después de recibir el material e información de contacto de las dos cuentas involucradas. El usuario puede completar un formulario y describir lo sucedido.
Después de recibir el informe, Apple revisa el contenido y puede tomar medidas en la cuenta del remitente, incluida la desactivación de la mensajería de iMessage y reportar el problema a las autoridades.
Como se mencionó al principio, la función en cuestión está integrada en la beta 1 de iOS 18.2; Actualmente está reservado para usuarios australianos, pero debería estar disponible a nivel mundial en el futuro.
el guardián informes Lo más probable es que Apple haya optado por empezar a activar la función en cuestión desde Australia porque aquí las empresas estarán obligadas a partir de finales de 2024 a denunciar a la policía material relacionado con abusos infantiles y terrorismo, elementos posiblemente identificados en los servicios de mensajería en la nube.
El sistema en cuestión utiliza el aprendizaje automático en el dispositivo para analizar fotos y vídeos adjuntos y determinar si una foto o un vídeo parece contener desnudos.
Apple ha intentado previamente habilitar las funciones de protección CSAM (Material de abuso sexual infantil) pero chocó con organizaciones que criticaban la tecnología de escaneo, potencialmente peligrosa porque en el futuro, algunos gobiernos podrían utilizar el mismo sistema para forzar el escaneo de otros tipos de imágenes, p. símbolos antigubernamentales o imágenes de protestas.
Apple había abandonado la idea, pero varias asociaciones de protección de menores están presionando para que se adopten sistemas de protección y un regulador australiano ha calificado de insuficientes los esfuerzos de las multinacionales en este ámbito.