1 commentaires

 
GN⁺ 2024-10-31
Avis de Hacker News
  • Le simple hash correspondant de Google pouvait constituer une cause probable suffisante pour que la police obtienne un mandat lui permettant de consulter directement les fichiers de Maher
    Le raisonnement selon lequel Google peut signaler un compte comme contenant du matériel pédopornographique, mais que la police doit tout de même obtenir un mandat délivré par un juge pour voir les fichiers réels, est très sensé. Il est aussi appréciable que le juge se soit penché sur les valeurs de hash.

    • Cela vaut pour l’avenir. La condamnation de Maher est maintenue même si elle reposait sur une fouille sans mandat
      Le tribunal a estimé que l’exception de bonne foi s’appliquait, et a validé la conclusion du tribunal de district selon laquelle les policiers ayant mené la fouille sans mandat croyaient alors de bonne foi qu’un mandat n’était pas nécessaire.
    • J’ai essayé d’imaginer un exemple concret. Je n’aime pas l’idée qu’on crée une nouvelle faille permettant d’accéder aux données des gens pour des raisons juridiques, mais cette approche me semble raisonnable et l’objectif digne d’être poursuivi
      Par exemple, ce serait un peu comme si quelqu’un voyait un étui ayant exactement la forme d’une mitrailleuse, prévenait la police, et que celle-ci allait vérifier si l’arme était enregistrée. Ce degré d’intervention me paraît assez raisonnable, mais je serais curieux d’entendre les contre-arguments.
    • Si la police avait “envie de voir”, oui, mais si elle a été informée de l’existence de ces éléments, il me semble qu’elle n’a pas besoin de mandat.
    • Non. Ce que j’envoie par e-mail ne regarde que moi et Dieu.
    • Est-ce vraiment raisonnable ? Même si le hash était du MD5, la probabilité d’une collision fortuite avec un fichier image valide est bien plus faible que la probabilité que les autres éléments présentés au juge soient faux ou mal interprétés.
  • Une grande partie de la décision semble tenir au fait que Google a comparé le hash d’une image avec ceux d’images pédopornographiques connues, mais n’a pas exigé qu’un employé voie l’image réelle avant de la signaler à la police
    Si Google avait vérifié visuellement que l’image soupçonnée sur la base du hash correspondait bien, aucun mandat n’aurait probablement été nécessaire, mais le juge semble avoir considéré qu’une correspondance de hash d’image n’équivaut pas à une vérification visuelle. Selon la méthode de hash utilisée, il peut subsister un certain doute sur la possibilité de collisions, et avec certaines stratégies de hash, les collisions peuvent être extrêmement rares, voire presque impossibles.
    Il n’est évidemment pas souhaitable d’obliger un employé de Google à regarder directement du matériel pédopornographique identifié par un hash d’image avant d’en informer les forces de l’ordre. La solution pratique semble donc très probablement être que la police obtienne un mandat après avoir reçu le signalement, mais avant de demander les données originales à Google.
    À la page 4, le juge ne consacre pas comme précédent le fait qu’une correspondance de hash d’image constitue une cause probable suffisante pour délivrer un mandat. Personnellement, cela me paraît être une cause probable solide, mais il arrive que des juges ou des tribunaux interprètent la technologie de manière particulière, et laisser cela à des interprétations individuelles peut produire des résultats contradictoires.

    • Les hashes utilisés à cette fin, comme pour la mise en correspondance automatique en matière de droits d’auteur, ne sont pas des hashes cryptographiques mais des hashes perceptuels (https://en.wikipedia.org/wiki/Perceptual_hashing)
      Les faux positifs sont suffisamment courants pour que des attaques contre les hashes perceptuels soient déjà utilisées afin de manipuler les résultats des moteurs de recherche. Un exemple d’article à ce sujet se trouve ici : https://gangw.cs.illinois.edu/PHashing.pdf
    • Les fonctions de hash utilisées à cette fin ne sont généralement pas des hashes cryptographiques. Ce sont des hashes perceptuels, qui autorisent des correspondances approximatives même en cas de redimensionnement ou de modification de la luminosité d’une image. https://en.wikipedia.org/wiki/Perceptual_hashing
      Ces hashes ne sont pas résistants aux collisions.
    • Même s’il s’agissait d’un hash cryptographique, cette quasi-certitude mathématique serait une condition nécessaire, mais pas suffisante. Comme pour la cryptographie utilisée pour la confidentialité ou l’intégrité, les mathématiques ne garantissent pas le résultat : c’est l’implémentation qui compte le plus
      Par exemple, chaque entrée de la base de données de hashes illicites repose sur le fait que quelqu’un a classé l’image originale comme illégale. Il n’existe pas de formule mathématique définissant une image illégale, et cette classification peut être inexacte. Il faut aussi faire confiance à l’intégrité de la base de données, à l’application et à l’implémentation côté utilisateur, et même au calculateur de hash.
      Si j’étais juge, je voudrais simplement savoir si quelqu’un a réellement vu du matériel pédopornographique. C’est peut-être une tâche pénible, mais arrêter quelqu’un pour des accusations de pédopornographie peut causer des dommages graves même sans condamnation — détention, caution ou attente du procès, traitement comme délinquant sexuel sur mineur — et détruire une vie comme une réputation.
    • Il me semble qu’il faut une jurisprudence précisant quelles conditions un hash d’image doit remplir pour être reconnu comme cause probable justifiant la délivrance d’un mandat. Bien sûr, les hashes d’image peuvent être conçus très bien comme très mal
      Je ne suis absolument pas opposé à la tendance des juges qui insistent sur “par pitié, obtenez d’abord un mandat”.
      Je ne suis pas non plus opposé au fait que Google recherche ce type de contenu dans son propre stockage cloud. Je suis souvent mal à l’aise avec l’idée que des fournisseurs de cloud partent à la recherche d’activités potentiellement illégales, mais dans ce cas précis, cela me va.
      En revanche, je m’oppose fermement à ce qu’une entreprise fouille le contenu d’appareils que je possède afin de détecter des activités illégales, sans cause probable ni mandat. De même, je m’oppose au fait que presque tout ce que je fais sur mes appareils soit transmis au cloud de manière massive et presque invisible.
      Autrement dit, je veux conserver la garde de mes biens ; la possession physique de mes biens devrait être protégée par le quatrième amendement et ne devrait pas non plus faire l’objet de recherches par des entreprises. Si je remets volontairement quelque chose à un fournisseur de cloud pour qu’il le conserve, des recherches limitées et les signalements nécessaires aux autorités me paraissent acceptables. Le critère de base est de savoir entre les mains de qui se trouve réellement le support sur lequel résident les bits.
  • Indépendamment de la règle qui dit d’utiliser le titre original, j’aime bien cette citation de la première page du jugement
    Un « hash » ou une « valeur de hash » est décrit comme « une chaîne de caractères généralement courte, générée au moyen d’un algorithme à partir d’une chaîne de données beaucoup plus grande, par exemple une image électronique, et calculée de sorte qu’il soit très peu probable qu’un autre ensemble de données produise la même valeur »
    Je trouve amusant que, pour expliquer ce qu’est un hash, on renvoie non pas à un manuel, mais à une affaire de la Cour suprême. Quand on pense au fonctionnement du système judiciaire, ça se tient, mais l’idée qu’il existe une sorte de corpus de littérature informatique propre aux tribunaux reste fascinante
    Quelqu’un pourrait publier un livre CS pour juges qui enseignerait autant d’informatique que possible uniquement à partir de la jurisprudence. À bien y penser, ce serait peut-être vraiment utile. Cela dit, comme l’ont relevé d’autres commentaires, la définition du hash donnée ici aurait besoin de davantage de nuances, en particulier pour distinguer les hashes de réseaux neuronaux des hashes traditionnels comme MD5 en ce qui concerne la « probabilité qu’un autre ensemble de données produise la même valeur »

    • Un livre « CS pour juges » : on tient enfin une forme de participation citoyenne à la fois utile et intéressante
      Cela dit, une bonne partie du contenu nécessaire pourrait être difficile à présenter uniquement à partir de précédents établis. Je crains que des conseils directs ou des obiter dicta ne soient pas admis dans une affaire, puisqu’ils ne relèvent pas d’une procédure contradictoire. Même sur des sujets informatiques, se reconvertir comme expert judiciaire a l’air assez ennuyeux
    • Ce livre risque d’être assez étrange, du genre à expliquer que des patent trolls ont inventé toutes sortes de choses évidentes
    • En quoi est-ce étrange ? La littérature en informatique n’a aucune force juridique contraignante. Il est naturel qu’un juge préfère citer une décision antérieure d’un collègue plutôt qu’un manuel ou Wikipedia
  • Si cela signifie que, « comme les autorités avaient de bonne foi des raisons de croire qu’un mandat n’était pas nécessaire au moment où elles ont ouvert le fichier téléversé, l’exception de bonne foi à la règle d’exclusion justifie le rejet de la demande de Maher visant à écarter les preuves », alors cette condamnation est maintenue, mais de futures affaires similaires sans mandat pourraient être annulées ?

    • Cette « exception de bonne foi » est tellement absurde qu’il est difficile de croire qu’elle existe réellement
      On attend des citoyens ordinaires qu’ils comprennent et respectent scrupuleusement toutes les lois, mais pour les forces de l’ordre, il suffit qu’elles croient que ce qu’elles font est légal, même si c’est en réalité illégal ?
      Cela ressemble moins à un élément rationnel du système judiciaire qu’à la chute d’une blague de Chappelle[1]
      [1] https://www.youtube.com/watch?v=0WlmScgbdws
    • À l’époque, personne n’avait encore tranché cette question, donc ce qu’ils ont fait était considéré comme légal
      Désormais, il existe un précédent déclarant que c’est illégal
      Cette décision revient à dire : « nous l’avons autorisé jusque-là, mais nous n’aurions pas dû, donc nous ne l’autoriserons plus à l’avenir »
      Je ne suis pas juriste, mais c’est la meilleure explication que je puisse donner. La façon dont le système judiciaire applique le droit est extrêmement complexe et incohérente
    • Cette condamnation précise est bien maintenue. Mais cette décision ne dit pas à elle seule si de futures condamnations seront annulées
      Elle signifie simplement que, dans une situation similaire où des preuves incriminantes ont été obtenues sans mandat, les procureurs de première instance auront à l’avenir du mal à s’appuyer sur l’exception de bonne foi à la règle d’exclusion. Si l’État tente de présenter ces preuves au procès, que le défendeur s’y oppose et que le juge les admet malgré tout, cela deviendra alors un motif concret d’appel
      Cette décision ne fait que renforcer l’esprit du Quatrième amendement : « mieux vaut obtenir un mandat »
    • C’est globalement bien ça
  • Il est absurde que certains des gens les plus dangereux que l’on croise régulièrement puissent faire tout ce qu’ils veulent du moment qu’ils croient en avoir le droit
    L’exception de bonne foi me semble être l’une des lois les plus fascisantes actuellement dans les textes
    Dans aucun autre contexte ni métier on ne peut faire ce qu’on veut puis s’en sortir en disant « je pensais avoir le droit ». Les policiers devraient être soumis à une norme plus élevée, pas à l’absence de norme

    • Surtout en matière de droit, un particulier qui enfreint la loi et affirme « je ne savais pas que c’était mal » ne dispose pas, dans notre système judiciaire, d’un moyen de défense valable
      Les forces de l’ordre formées devraient être soumises au même standard, mais plus strictement, pas moins. Sinon, c’est un deux poids deux mesures
    • « Fais ce que tu veux et tu t’en sortiras si tu pensais en avoir le droit », ce n’est pas la devise du capital-risque ? Des exemples comme Uber, AirBnB et WeWork me viennent à l’esprit
    • Ce n’est pas ce que cela veut dire. On peut examiner si cette croyance est raisonnable, c’est-à-dire si elle peut être justifiée par un raisonnement
      Dans cette affaire, l’argument pour appliquer l’exception de bonne foi était que la probabilité de faux positif d’une correspondance de hash perceptuel était suffisamment faible pour qu’il soit légal d’ouvrir l’image et de vérifier s’il s’agissait bien de matériel pédopornographique. Cette vérification a ensuite servi à obtenir un mandat de perquisition pour le compte Gmail et le domicile de la personne
    • Les lois du bon Samaritain fonctionnent aussi plus ou moins de cette manière
    • Ce n’est pas « il suffit de dire qu’on pensait avoir le droit », c’est « il existe des éléments raisonnables indiquant qu’un crime est en train d’être commis »
      Ici, le caractère raisonnable vient du fait que « Google l’a dit », et c’était effectivement vrai
      Si la police reçoit un signalement de violences conjugales, arrive sur place et entend quelqu’un crier à l’aide, enfoncer la porte n’est-il pas aussi un acte accompli de bonne foi ?
  • Je ne sais vraiment pas quoi penser de l’exception de bonne foi
    J’ai l’impression que plus la police minimise sa compréhension du droit, plus elle peut croire qu’elle respecte la loi, ce qui crée une incitation dans ce sens

    • C’est exactement ça. En pratique, c’est ce qui se passe, et c’est pourquoi beaucoup de policiers connaissent moins bien le droit qu’un citoyen pris au hasard
      Dans une société meilleure, on fixerait un niveau élevé de connaissances attendu des policiers et on exigerait, comme condition de recrutement, quelque chose comme un diplôme de quatre ans en justice pénale ou en pré-droit. Au lieu de plafonner le QI ou de privilégier une expérience antérieure dans l’exercice de la violence
    • Ce n’est pas aussi laxiste que ça. C’est limité aux situations où une personne raisonnable, sachant exactement ce que disent la loi et la jurisprudence existante, pourrait conclure qu’un acte donné est légal
      Dans cette affaire, d’autres cours fédérales d’appel avaient déjà jugé des actes similaires légaux
    • L’exception de bonne foi exige que la croyance soit raisonnable. Ignorer un droit clairement établi n’est pas raisonnable
      Il faut que le droit ait été flou, que les interprétations aient été contradictoires, ou qu’une personne raisonnable puisse l’interpréter de la manière dont la police l’a fait
  • Le problème d’Internet aujourd’hui, c’est que quelques grandes entreprises créent leurs propres lois
    Elles entrent souvent en contradiction avec les lois locales, mais personne ne peut leur tenir tête. Par exemple, quelqu’un peut créer un contenu, une autre personne le téléverse, obtient un meilleur score, et le créateur original se retrouve bloqué. Ou bien des enfants jouent un concert de violon et l’audio est supprimé pour suspicion d’atteinte au droit d’auteur. Il n’y a pas de voie d’appel, et aucune personne sensée n’irait jusqu’au tribunal. Les choses suivent simplement leur cours

  • Le quatrième amendement n’a pas été d’une grande aide ici. Je ne sais pas si c’est une bonne ou une mauvaise chose.
    Cela dit, 25 ans de prison pour possession de contenus pédopornographiques, c’est lourd.

    • La sévérité de la peine ne tient pas à l’acte de conserver les photos en soi, mais aux préjudices individuels et aux dommages sociaux causés par la consommation de ce type de contenu.
  • Il y a ce passage : « la doctrine de la fouille privée permet à un acteur gouvernemental de répéter, sans obtenir de mandat, une fouille déjà effectuée par une personne privée ».
    Je ne suis pas juriste, mais est-ce que cela veut dire que si quelqu’un s’introduit chez moi pour chercher de la drogue, en trouve une partie, la vole, puis se fait arrêter par la police et avoue tout, la police peut ensuite fouiller ma maison sans mandat ?

    • Je ne suis pas juriste non plus, mais d’après ce que j’ai lu, les tribunaux sont particulièrement prudents, au regard du quatrième amendement, lorsqu’il s’agit de fouiller un domicile.
      Au moins une cour d’appel a freiné l’application de la jurisprudence sur les fouilles privées aux espaces d’habitation, et l’affaire concernait une chambre d’hôtel[0].
      Contrairement au colis de Jacobsen, la chambre de motel d’Allen n’était pas un objet ne contenant que de la contrebande, mais un logement temporaire avec des effets personnels. Allen avait un intérêt légitime et important au respect de la vie privée concernant le contenu de sa chambre de motel, et le simple fait que la gérante du motel en ait vu une partie n’a pas supprimé cet intérêt dans son ensemble. Jacobsen, qui mesurait l’étendue d’une fouille privée portant sur un colis postal, reposait sur des faits différents, et cette cour a déclaré qu’elle n’étendrait pas ce raisonnement aux affaires de fouilles privées de domiciles.
      Donc, dans cette hypothèse, la police pourrait examiner « votre drogue » saisie auprès du voleur et, sur cette base, demander un mandat de perquisition pour votre domicile, mais une fouille sans mandat serait, à mon avis, illégale.
      [0] https://casetext.com/case/us-v-allen-167
    • Il me semble que la fouille privée elle-même devrait être légale.
  • « Cela ne signifie pas pour autant que Maher a droit à une réparation concernant sa condamnation. Comme le tribunal de district l’a aussi correctement jugé à titre subsidiaire, au moment où les autorités ont ouvert ses fichiers téléversés, elles avaient un motif de bonne foi de croire qu’un mandat n’était pas nécessaire ; l’exception de bonne foi à la règle d’exclusion justifie donc le rejet de la demande de Maher visant à écarter les preuves. »
    « Le prévenu a été condamné, après avoir plaidé coupable devant le tribunal fédéral du district nord de New York, pour avoir reçu et possédé environ 4 000 images et 5 vidéos représentant des contenus pédopornographiques. »
    C’est une victoire pour Google, pour le système judiciaire américain et pour les droits constitutionnels, et une défaite pour un auteur d’abus sur enfants.

    • Les droits constitutionnels n’ont pas suffisamment gagné. Quand des droits constitutionnels sont violés, le prévenu devrait être automatiquement remis en liberté, point final.