Amazon Ring et Google Nest révèlent la gravité de l’État de surveillance aux États-Unis

• Les publicités d’Amazon Ring et le cas Google Nest révèlent l’extension d’un système de surveillance État-entreprises aux États-Unis
• Lors d’une publicité diffusée pendant le Super Bowl, la fonction « Search Party » de Ring a été présentée, déclenchant une controverse autour d’un réseau de recherche basé sur l’IA reliant les caméras du voisinage
• Des organisations citoyennes comme l’EFF ont averti des risques de traçage biométrique, et face au rejet de l’opinion publique, Amazon a mis fin à sa coopération avec Flock Safety, une entreprise de surveillance utilisée par la police
• L’affaire de la récupération par le FBI d’une vidéo d’un compte Google Nest non abonné a révélé que Google conservait aussi les données des non-abonnés
• Plus de dix ans après les révélations de Snowden, le système de surveillance combinant l’État et la Big Tech se renforce, tandis que les technologies d’IA et de reconnaissance faciale affaiblissent rapidement la vie privée individuelle

---

Controverse autour d’une publicité Amazon Ring et extension des fonctions de surveillance

• Une publicité Amazon Ring diffusée pendant le Super Bowl a déclenché la controverse en présentant la fonction « Search Party »
  • Si un utilisateur téléverse la photo de son chien perdu, plusieurs caméras Ring à proximité scannent tous les chiens via l’IA pour identifier l’animal recherché
  • La publicité mettait en scène des retrouvailles émouvantes, mais elle montrait visuellement le potentiel d’une surveillance à grande échelle
• Les consommateurs ont été choqués d’apprendre que Ring, qu’ils considéraient comme un dispositif de sécurité personnel, pouvait fonctionner comme un réseau de surveillance reliant tout un voisinage
  • Amazon a insisté sur le fait qu’il s’agissait d’un système opt-in, sans pour autant dissiper les inquiétudes
• L’Electronic Frontier Foundation (EFF) a critiqué cette fonction, estimant qu’elle annonçait « un monde où il devient possible d’identifier, de suivre et de localiser toute cible, humaine ou animale »
• USA Today a rapporté que des vidéos montrant certains utilisateurs retirer ou détruire leurs caméras se sont multipliées
  • Face à la dégradation de l’opinion, Amazon a annoncé la fin du partenariat entre Ring et Flock Safety, société de surveillance policière

Affaire de récupération de vidéos Google Nest

• Dans l’affaire de la disparition de Nancy Guthrie, mère de Savannah Guthrie, les caméras Google Nest sont devenues un enjeu central
  • Guthrie utilisait uniquement la surveillance en direct sans abonnement payant, et les vidéos étaient censées être supprimées après 3 à 6 heures
• Le FBI a pourtant réussi à récupérer ces vidéos plusieurs jours plus tard, révélant que Google stockait aussi les vidéos des non-abonnés
  • La photo du suspect rendue publique par le directeur du FBI a de fait confirmé la conservation des données par Google
• CBS News a cité des experts soulignant une pratique selon laquelle « les données ne sont pas supprimées, elles sont simplement renommées »
• Cette affaire soulève la possibilité que Google ait stocké les vidéos des utilisateurs sans consentement explicite

Renforcement du système de surveillance combinant État et entreprises

• Les cas d’Amazon et de Google montrent une structure de surveillance coopérative entre l’État et les entreprises de la Silicon Valley
  • L’extension des contrats fédéraux de Palantir et l’adoption de la reconnaissance faciale par des organismes publics élargissent encore le champ de la surveillance
  • La reconnaissance faciale se banalise, qu’il s’agisse de la Customs and Border Protection (CBP) dans les aéroports ou des contrôles de l’ICE dans la rue
• Le danger signalé dans Your Face Belongs to Us, le livre de la journaliste du New York Times Kashmir Hill, dépasse désormais le stade de la simple mise en garde pour devenir une réalité

L’IA et l’érosion de la vie privée

• Les progrès de l’IA accélèrent l’effondrement de la vie privée
  • L’article mentionne le cas où Gemini de Google a agrégé des données utilisateur pour constituer un profil couvrant l’ensemble de la vie personnelle
  • L’IA est désormais capable d’inférer même des informations non intentionnellement divulguées, comme les horaires d’activité d’un utilisateur
• Ces technologies pourraient conduire à la disparition de la sphère privée et évoluent vers un système où chaque transaction et chaque déplacement sont reliés et analysés

Le retour en arrière après les révélations de Snowden

• Après les révélations d’Edward Snowden en 2013, il y a bien eu un moment de colère et quelques réformes, mais le système de surveillance État-entreprises s’est reconstitué et renforcé
  • Les reportages de l’époque avaient révélé un cadre de surveillance conjointe entre le gouvernement américain et la Big Tech
  • Puis, à mesure que l’attention s’est dispersée, le renforcement de la surveillance s’est poursuivi en silence
• Des affaires récentes, comme des opérations de surveillance non autorisées du FBI, ont aussi été révélées, sans véritable réaction du monde politique ni des médias
• Le texte avertit que l’IA pourrait éliminer totalement la sphère privée et rappelle l’esprit fondateur américain selon lequel échanger la liberté contre la sécurité n’est jamais un marché valable

[GN⁺]

Avis sur Hacker News

• Ce passage m’a vraiment marqué
  La logique est du genre : « si l’on renonce à la liberté, on peut réduire les fausses allégations et les discours de haine ; les perquisitions sans mandat peuvent permettre d’arrêter les criminels plus vite ; et si l’on abandonne la vie privée, la sécurité pourra peut-être être renforcée »
  Mais le postulat central de l’Occident, surtout des États-Unis, est justement que ce marchandage entre liberté et sécurité n’a jamais de valeur
  La phrase de Patrick Henry, « Give me liberty, or give me death », symbolise précisément cet esprit

  • Je pense que ce marchandage entre liberté et sécurité est en réalité une illusion
    On peut céder sa liberté sans rien obtenir en retour
    Dès qu’on dit « la liberté vaut mieux », on accepte déjà implicitement l’idée qu’en face il y aurait une vraie sécurité à gagner
    Mais si la sécurité promise n’arrive jamais, il est alors déjà trop tard
  • En réalité, les tentatives de préserver la liberté et celles de préserver la sécurité échouent en même temps
    Les affrontements de principes abstraits n’ont pas grand sens ; il faut seulement se demander si, sur le terrain, cela aide réellement ou si cela nuit
    Par exemple, on a renforcé l’armement civil au nom de la « liberté », mais au final cela n’a protégé ni contre la surveillance autoritaire ni contre la violence, et cela a surtout fait exploser la violence civile
  • La citation de Patrick Henry est mal comprise
    Il parlait de liberté politique vis-à-vis du pouvoir colonial, pas des libertés civiles internes ni des questions de sécurité
    Et l’affirmation selon laquelle « le postulat central de l’Occident est que ce genre de compromis ne vaut jamais la peine » est également fausse
    Ce n’est que la croyance d’une minorité libertarienne ; la société américaine conclut et débat de ce type de compromis tous les jours
    Il suffit de regarder les débats sur le contrôle des armes
  • Le terme « Occident » me gêne
    Cela sonne comme une forme d’impérialisme inconscient qui cherche à étendre une logique centrée sur les États-Unis au reste du monde
    En pratique, on ne parle que du cas américain ; généraliser cela à « l’Occident » est une paresse intellectuelle

• Il existait autrefois des lois interdisant l’ouverture du courrier ou l’écoute des communications
  Par exemple : le Postal Service Act de 1792 et l’Electronic Communications Privacy Act (ECPA) de 1986
  Mais aujourd’hui Facebook lit les DM, Google lit les e-mails, et Ring regarde les images des caméras
  On pourrait à nouveau qualifier cela de crime, mais nous ne semblons pas vouloir le faire

  • Il y avait aussi en 1988 le Video Privacy Protection Act
    Mais le Congrès actuel ne protège plus que les grandes entreprises riches
    Depuis l’arrêt Citizens United, le système de surveillance est devenu une structure auto-renforçante
    Les citoyens ont déjà du mal à changer ne serait-ce que l’angle de leur caméra Ring, et même si une ville interdit les CCTV, la police utilise les données des zones voisines
    Au final, on ne peut pas échapper à ce système
    Il faut désormais des term limits et l’abrogation de Citizens United
  • Le fait que Google lise les e-mails était connu dès le départ
    Ils en faisaient même la promotion en disant que « c’est pour ça que le filtre anti-spam est bon »
    S’indigner aujourd’hui parce que Ring regarde les vidéos est donc contradictoire
    Une caméra cloud repose par nature sur un stockage sur les serveurs d’autrui
    Le savoir, l’utiliser quand même, puis passer maintenant à des caméras chinoises, c’est assez ironique
  • Cette situation n’est pas le résultat d’une volonté populaire
    L’argent et le pouvoir empêchent que ces pratiques soient qualifiées de crimes
  • On pourrait résoudre cela en retirant l’argent de la politique (abrogation de Citizens United) et en imposant des limites de mandat et d’âge
    La plupart des Américains pensent au fond la même chose
    Le vrai problème, c’est que les politiciens exploitent les divisions
    Il faut tourner la page de l’ancienne génération politique et avancer vers un agenda de réformes transpartisan
    Après l’affaire Epstein, il y a peut-être une fenêtre pour une réforme contre la corruption
  • J’ai l’impression que cette vague d’indignation va vite retomber
    Le public choisit le confort plutôt que la liberté réelle
    Si les gens se souciaient vraiment de leur vie privée, ils n’auraient pas acheté ce genre de produits dès le départ

• J’ai envie de dire qu’il faut arrêter d’utiliser les produits de Google, Amazon et Meta
  Ils accumulent depuis longtemps des données de surveillance, et les réutilisent désormais pour l’entraînement de l’IA
  On peut créer des services d’IA alternatifs qui n’exploitent pas les données
  Nous en avons les moyens

  • Mais dans la réalité, c’est plus complexe
    Même ton application Words Unite utilise YouTube, Stripe (AWS), PyTorch et TensorFlow
    Le slogan « il suffit d’arrêter de les utiliser » est séduisant, mais la dépendance à l’écosystème est bien trop profonde
  • Pour certaines personnes, c’est une question de survie économique
    Par exemple, si l’on tient un restaurant, sans Facebook, Instagram et Google Maps, on perd la moitié de sa clientèle
    La présence numérique devient une condition de survie
  • Sans intervention de l’État, c’est impossible
    C’est comme dire : « n’utilisons plus Standard Oil »
    Pour casser une structure monopolistique, il faut une intervention institutionnelle
  • Les gens pensent désormais que tout doit être « gratuit »
    Mais les services gratuits se paient par l’abandon du contrôle
    La différence entre Kagi et Google le montre clairement
  • Pour quelqu’un comme moi, qui a déménagé entre plusieurs villes, Facebook est une bouée de sauvetage pour le lien social
    Dire « supprime ton compte » revient presque à dire de brûler ses photos de famille
    Sortir de tout cela est un problème bien plus complexe qu’on ne le croit

• Glenn Greenwald est revenu sur Substack
  C’est le journaliste qui a couvert les révélations de Snowden, et il traite depuis longtemps de censure, surveillance et hypocrisie gouvernementale

  • Il est solide sur les questions de vie privée et de surveillance, mais son obsession pour Israël devient excessive et donne une impression de dispersion
  • Le documentaire Citizenfour de Laura Poitras montre très bien son travail et la répression exercée par le gouvernement
  • Mais par la suite, il a perdu en crédibilité en relayent sans esprit critique des informations russes et des attaques du camp Trump
    Résultat, l’élan initial en faveur de la transparence s’est affaibli
  • Beaucoup disent qu’il ressemble désormais à un porte-voix de la propagande russe
  • Certains estiment aussi qu’il n’est pas anti-impérialiste, mais plutôt anti-américain

• Il existe aujourd’hui des campagnes concrètes contre la surveillance

  • End the Surveillance State : abrogation du Patriot Act, opposition à la surveillance sans mandat
  • Ban Facial Recognition : campagne d’Amnesty et de l’ACLU contre la reconnaissance faciale
  • Stop Surveillance Data Brokers : campagne de Mozilla pour réguler les data brokers
  • Protect User Data from Subpoenas : campagne de l’EFF pour empêcher les abus de citations à comparaître du DHS
  • Oppose Localized Surveillance : limitation de la reconnaissance automatique des plaques (ALPR)
  • The Fourth Amendment is Not for Sale Act : projet de loi visant à limiter l’achat de données par les agences de renseignement

• Je suis d’accord avec l’idée que la publicité d’Amazon a montré à quel point la technologie de surveillance est intrusive
  Mais c’est une stratégie délibérée
  Même au prix de la polémique, il s’agit d’une mise en scène calculée pour normaliser la surveillance à travers l’image chaleureuse « d’enfants qui retrouvent leur chien »

  • J’aimerais surtout que la question de l’intégration Flock/ICE soit davantage médiatisée
    Cela aiderait à diffuser plus largement, dans le débat public, la conscience des dangers de la surveillance technologique
  • Mais je ne pense pas qu’une équipe marketing chercherait délibérément à provoquer ce genre de controverse

• Les gens ne mesurent pas bien la gravité de la situation actuelle
  On ne peut pas la régler par la loi ou par le boycott
  Parce que les moyens mêmes de communication sont sous le contrôle des entreprises de surveillance
  Le seul moyen serait une guerre économique
  Mais pas un simple boycott de consommateurs ; quelque chose de bien plus fondamental

  • La vraie solution, c’est une réforme de la gouvernance, de la décentralisation et de la démocratisation
    Il faut rendre le pouvoir aux citoyens
  • La guerre économique est déjà perdue
    Amazon et Google sont déjà en train de compter le butin ; vouloir se battre maintenant arrive trop tard
  • Appeler à une grève générale n’est pas encore illégal
    Si les ports, les chemins de fer et les livraisons s’arrêtent, les milliardaires pousseront les politiciens à agir
    Lorsque leurs intérêts coïncident momentanément avec les besoins de la société, une fenêtre de changement peut s’ouvre

• C’est clairement une violation du quatrième amendement américain
  Le gouvernement contourne les règles en s’appuyant sur la surveillance privée

  • L’agence de détectives Pinkerton, fondée en 1850, fonctionnait déjà un peu ainsi
    Comme l’État ne surveillait pas directement mais passait par des acteurs privés, il échappait aux contraintes constitutionnelles
    Cela a fini par être interdit en 1893 par l’Anti-Pinkerton Act
  • En tant qu’avocat, j’aimerais demander ceci
    Quels actes précis constituent ici une violation de la Constitution, et quelles jurisprudences l’étayent ?
  • Si les entreprises et l’État coopèrent pour surveiller, alors c’est le fascisme au sens de Mussolini
    La démocratie actuelle ressemble en réalité de plus en plus à un crypto-fascisme

• Nous avons aujourd’hui le pire des deux mondes : une surveillance totale, alors que le crime demeure

  • Il y a trop de lois, et la plupart des gens ne savent même pas qu’ils commettent des infractions au quotidien
    Si la surveillance était appliquée de manière cohérente, tout le monde s’en rendrait compte et se révolterait
    C’est précisément pour cela qu’elle n’est appliquée que de façon sélective, comme outil de contrôle
    Vidéo liée
  • Ceux qui détiennent le pouvoir ne rendent pas de comptes pour leurs propres crimes
    Au contraire, ils utilisent le système de surveillance pour dissimuler leurs propres délits
  • L’idée même selon laquelle « le crime est omniprésent » est une fiction exagérée
  • La surveillance sert à protéger le régime
    La criminalité de rue n’est pas une menace politique, donc elle est laissée de côté
    Contrairement à l’époque où le FBI visait la mafia, le plus grand problème aujourd’hui est la corruption politique
  • Au fond, le but de la surveillance n’est pas de résoudre les crimes, mais de maintenir le contrôle

• Amazon a diffusé une publicité pour sa caméra Ring affirmant qu’une fonction de reconnaissance faciale par IA permet de « retrouver un chien perdu »,
  alors qu’en réalité il s’agit d’un système de surveillance servant à suivre des personnes
  C’est une stratégie de propagande qui utilise des récits émotionnels (enfant disparu, immigré clandestin, etc.) pour accroître l’acceptabilité sociale de la surveillance
  L’« affaire Nancy Guthrie disparue » ressemble elle aussi à un élément de campagne de manipulation psychologique