Apple introducirá con iOS y iPadOS una tecnología criptográfica con la que limitar la distribución de material de abuso sexual infantil en servicios como iCloud, y empleará aprendizaje automático en el dispositivo para advertir de contenido sexual explícito en su app Messages.
La compañía tecnológica ha compartido las novedades en materia de protección infantil, nuevas herramientas diseñadas con expertos que buscan proteger a los niños de depredadores que utilizan servicios digitales para llegar hasta ellos.
Una de las principales preocupaciones en esta área es la compartición de material de abuso sexual infantil. Apple ha anunciado «nuevas aplicaciones criptográficas» en las próximas versiones de iOS y iPadOS que permitirán detectar las imágenes de este tipo que estén guardadas en iCloud.
La compañía explica que este método no escanea las imágenes en la nube, sino que se basa en una comparación en el dispositivo de las imágenes conocidas proporcionadas por organizaciones de seguridad infantil antes de que sean subidas a iCloud.
Lo que se compara no es la imagen en sí, sino los ‘hashes’ de las imágenes, una especie de huella digital. Una tecnología criptográfica llamada ‘intersección de conjuntos privados’ es la que determina si hay una coincidencia sin revelar el resultado, y se adjunta a la imagen una vez subida a iCloud.
La tecnología de ‘umbral de intercambio secreto’ asegura un alto nivel de coincidencia, y es entonces cuando Apple recibe una alerta, para que los equipos humanos la revisen. Si se confirma, se desactiva la cuenta del usuario y se envía un informe a las asociaciones pertinentes y a la Policía.
CONTENIDO SENSIBLE EN MESSAGES
La aplicación Messages incorporará nuevas herramientas que alertarán a los usuarios (niños y padres) del envío o la recepción de contenidos sensibles, que detectará material sexualmente explícito a través del análisis mediante aprendizaje automático en el propio dispositivo.
En el caso de que se trate de un contenido recibido, la ‘app’ lo difuminará y mostrará una advertencia, recursos informativos e incluso asegurará que «está bien si no quiere ver esa foto». También se puede avisar a los niños de que los padres serán notificados si decide ver la imagen. Si se trata del envío de este tipo de contenidos, el menor recibirá una advertencia y los padres una notificación.
Esta novedad estará disponible en las cuentas familiares de iCloud para iOS 15, iPadOS 15 y macOS Monterey.
RECURSOS ADICIONALES CON SIRI Y SEARCH
La compañía también ha reforzado Siri y Search para que puedan proveer de recursos con los que los niños puedan estar seguros en Internet, pero también podrán intervenir en el caso de que detecten que la búsqueda de contenido de abuso sexual infantil.
La actualización de Siri y Search llegará con iOS 15, iPadOS 15, watchOS 8 y macOS Monterey.
