Présentation du cas

Apple a été poursuivi pour ne pas avoir scanné les fichiers stockés sur iCloud pour détecter les contenus illégaux à caractère sexuel mettant en scène des mineurs (CSAM). La société avait initialement prévu d'utiliser une technologie de détection appelée NeuralHash, mais a finalement décidé de mettre en œuvre le chiffrement de bout en bout pour les fichiers iCloud.

Contexte technique

La décision d'Apple de ne pas scanner les fichiers iCloud pour CSAM a été motivée par des préoccupations concernant la vie privée et la sécurité des utilisateurs. Le chiffrement de bout en bout garantit que seuls les utilisateurs autorisés peuvent accéder aux fichiers stockés sur iCloud, ce qui rend difficile pour Apple la détection de contenus illégaux.

Les plaignants ont allégué que la décision d'Apple de ne pas mettre en œuvre une technologie de détection de CSAM constituait un défaut de conception, car la société aurait pu utiliser des fonctionnalités disponibles pour prévenir la diffusion de CSAM. Cependant, la cour a rejeté ces allégations, estimant que la décision d'Apple était protégée par la loi sur la responsabilité des fournisseurs de services en ligne (Section 230).

Implications et limites

La décision de la cour a des implications importantes pour la protection de la vie privée et la sécurité des utilisateurs. Si Apple avait été contraint de scanner les fichiers iCloud pour CSAM, cela aurait nécessité de compromettre le chiffrement de bout en bout, ce qui aurait pu mettre en danger la sécurité des utilisateurs.

Le juge Wise a exprimé son inquiétude quant aux implications de la décision, notant que les entreprises comme Apple ne sont pas obligées de prendre des mesures pour prévenir la diffusion de CSAM, à moins que la loi ne l'exige. Cependant, elle a également souligné que le chiffrement de bout en bout est un élément essentiel de la protection de la vie privée et de la sécurité des utilisateurs.

NeuralHash et PhotoDNA sont des technologies de détection de CSAM qui nécessitent d'accéder aux contenus stockés sur les serveurs pour fonctionner.

En fin de compte, la décision de la cour souligne l'importance de trouver un équilibre entre la protection de la vie privée et la sécurité des utilisateurs, et la nécessité de prévenir la diffusion de contenus illégaux.