En août 2021, Apple a annoncé l’introduction de deux nouvelles fonctions de sécurité dans ses produits afin de protéger les enfants.
L’une consistait à détecter, au moment où un utilisateur téléverse des photos sur iCloud, si ces photos relevaient du CSAM (contenus pédopornographiques) sur la base de hachages d’images ; l’autre visait à ajouter une fonction de filtrage qui masque la photo et affiche un avertissement lorsqu’un mineur reçoit ou envoie une image obscène via iMessage.
Cette annonce a suscité une vive controverse. Même des employés d’Apple ont immédiatement exprimé leurs inquiétudes, et de nombreuses organisations et personnes, dont l’EFF (Electronic Frontier Foundation), ont signé une lettre ouverte s’y opposant. Plusieurs articles à ce sujet ont également été publiés ici sur GeekNews.
Apple a expliqué qu’il s’agissait d’un malentendu de penser que la vie privée serait compromise, mais la controverse et les inquiétudes ne se sont pas dissipées facilement. Par la suite, le New York Times a d’ailleurs rapporté le cas d’une personne pénalisée par une action unilatérale fondée sur l’algorithme de détection CSAM de Google, montrant concrètement que ces inquiétudes n’étaient en rien infondées.
- Apple introduit de nouvelles fonctions de sécurité pour la protection des enfants
- Apple regrette la controverse autour du « scan de l’iPhone »
- Apple reporte le lancement de la fonction de scan des photos iCloud pour la protection des enfants
- CSAM, qu’est-ce qui inquiète les gens dans l’approche d’Apple ?
- Google a désigné comme criminel un père ayant photographié la zone malade de son bébé
Selon ce qu’Apple a indiqué cette fois à WIRED, le projet consistant à vérifier la présence de CSAM lors du téléversement de photos sur iCloud a été abandonné.
À la place, l’entreprise dit vouloir renforcer davantage la fonction de filtrage qui avertit lorsqu’un mineur reçoit ou envoie des images obscènes. Plus précisément, elle travaille à étendre cette fonction non seulement aux photos, mais aussi aux vidéos, et prévoit également de permettre l’usage de cette détection CSAM basée sur le machine learning on-device dans d’autres apps qu’iMessage. Et, sans doute pour éviter une nouvelle controverse, Apple souligne que ces fonctions sont désactivées par défaut et nécessitent un opt-in, ainsi que le fait qu’Apple n’est pas informée de ces détections.
La polémique de l’an dernier ayant été particulièrement intense, Apple semble avoir complètement abandonné l’idée de scanner les photos téléversées dans le cloud pour privilégier à la place le développement de fonctions de filtrage CSAM directement sur l’appareil. Cependant, la censure par machine learning on-device faisait déjà partie des points les plus controversés à l’époque ; il semble donc que cette nouvelle décision d’Apple ne suffira peut-être pas à apaiser entièrement la controverse et les inquiétudes associées.
3 commentaires
En voyant l'affaire Google, cela m'inquiétait, donc je me dis que c'est heureusement une bonne chose qu'Apple y renonce.
J’aime beaucoup aussi ce genre de texte qui intègre un point de vue personnel.
Merci pour ce résumé clair !