L’ICE va utiliser l’intelligence artificielle pour surveiller les réseaux sociaux

• L’Immigration and Customs Enforcement (ICE) des États-Unis a conclu un contrat de 5,7 millions de dollars pour déployer un logiciel de surveillance des réseaux sociaux fondé sur l’IA, étendant ainsi son dispositif de surveillance avec une analyse en temps réel des activités en ligne
• Le contrat porte sur la plateforme Zignal Labs, fournie via Carahsoft Technology, un système d’analyse de données basé sur l’IA et le machine learning déjà utilisé par l’armée israélienne et le département américain de la Défense
• Zignal analyse plus de 8 milliards de publications par jour et fournit des « flux de détection sélectionnés », qui devraient être utilisés dans les enquêtes criminelles et la stratégie de contrôle de l’immigration de l’ICE
• Cette technologie suscite des inquiétudes concernant les atteintes à la liberté d’expression et à la protection de la vie privée, et des syndicats ainsi que des organisations de défense des droits civiques ont engagé des poursuites en dénonçant un programme de surveillance politique du gouvernement
• Alors que l’ICE continue d’étendre ses capacités de surveillance par l’IA, le système de surveillance numérique de l’État se diffuse à l’ensemble de la société, au-delà des sphères privée et militaire

---

Le nouveau contrat de surveillance par IA de l’ICE

• L’ICE a signé avec Carahsoft Technology un contrat de 5,7 millions de dollars sur cinq ans, obtenant l’accès à la plateforme de surveillance des réseaux sociaux de Zignal Labs
  • Le contrat a été rendu public en septembre 2024 et doit être utilisé par la division Homeland Security Investigations (HSI) de l’ICE pour l’analyse de données en temps réel
  • Zignal est une plateforme déjà utilisée par l’armée israélienne et le département américain de la Défense, analysant plus de 8 milliards de publications par jour pour fournir des flux de détection des menaces
• Zignal exploite l’IA et le machine learning pour analyser automatiquement d’énormes volumes de données en ligne et aider les forces de l’ordre à identifier rapidement les menaces
  • L’entreprise affirme dans sa communication que cela permet une « réponse aux menaces plus claire et plus rapide »
• Ce contrat s’inscrit dans le cadre d’une stratégie de long terme visant à renforcer la surveillance des réseaux sociaux par l’ICE, dans une version étendue de l’adoption initiale de Zignal par le Secret Service en 2019

Contexte de Zignal Labs et usages militaires

• Zignal Labs a été fondée en 2011 dans la Silicon Valley et proposait initialement des services d’analyse de données pour les relations publiques et les campagnes politiques
  • L’entreprise s’est ensuite tournée vers les marchés de la défense et du renseignement, officialisant son entrée dans le domaine de la sécurité nationale en 2021 avec la création d’un conseil consultatif pour le secteur public
• Une brochure publiée par l’entreprise en 2025 mentionne explicitement une coopération avec l’armée israélienne et explique qu’elle fournit du renseignement tactique (tactical intelligence) pour les opérations sur le terrain dans la bande de Gaza
  • Elle inclut également des exemples de coopération avec le Corps des Marines des États-Unis et le département d’État
• Zignal a refusé de répondre officiellement aux questions concernant son contrat avec l’ICE et ses liens avec l’armée israélienne

Les outils de surveillance existants de l’ICE et son mouvement d’expansion

• L’ICE dispose déjà de divers outils de surveillance numérique, dont ShadowDragon et Babel X
  • ShadowDragon utilise des sites web publics pour établir une cartographie de l’activité en ligne d’une personne
  • Babel X croise et analyse des profils de réseaux sociaux, des données de localisation et des numéros de sécurité sociale
• Récemment, l’ICE a conclu un contrat de 7 millions de dollars avec SOS International LLC(SOSi) afin d’introduire un service de « skip tracing » (recherche de localisation)
  • SOSi a recruté Andre Watson, un ancien cadre de l’unité de renseignement de l’ICE, et cherche à renforcer sa coopération avec les forces de l’ordre
• Ces contrats montrent que l’ICE continue d’élargir ses capacités de surveillance fondées sur l’IA

Opposition des organisations civiles et des syndicats

• Patrick Toomey, directeur adjoint de l’American Civil Liberties Union (ACLU), a critiqué le fait que « le gouvernement utilise l’IA pour surveiller les prises de parole en ligne des citoyens », y voyant une atteinte aux droits civiques
  • Il a également souligné que l’exploitation secrète de ce type de technologie “boîte noire” révélait un manque de responsabilité
• Une coalition syndicale a engagé une action en justice, affirmant que la surveillance des réseaux sociaux par le gouvernement constituait un programme de surveillance de masse fondé sur les opinions politiques
  • La plainte soutient que le gouvernement surveille des personnes ayant certaines opinions à l’aide de l’IA et d’outils automatisés
  • L’Electronic Frontier Foundation (EFF) et la clinique pour la liberté de la presse de la faculté de droit de Yale avertissent que cette surveillance aggrave l’effet dissuasif (chilling effect) sur l’expression

Exemples de surveillance politique et conséquences sociales

• Il est rapporté que, sous l’administration Trump, l’ICE a directement utilisé les données des réseaux sociaux dans sa stratégie de contrôle de l’immigration
  • Des militants pro-palestiniens comme Mahmoud Khalil ont été arrêtés après avoir été exposés en ligne (doxing) par des sites d’extrême droite pro-israéliens
  • Plus récemment, il y a eu des cas où des opérations contre des vendeurs de rue à New York ont été menées immédiatement après la publication de vidéos par des influenceurs de droite
• Ces exemples montrent à quel point la frontière entre surveillance privée et répression publique devient floue
  • Ils soulèvent la possibilité que le gouvernement combine des informations en ligne provenant d’acteurs privés et des analyses par IA pour en faire un instrument de contrôle politique et social

Conclusion : l’institutionnalisation de la surveillance par IA et ses risques

• L’adoption de Zignal par l’ICE symbolise l’institutionnalisation de la surveillance par IA, avec un projet en cours de mise en place d’une équipe de surveillance permanente 24 heures sur 24
• L’extension de la surveillance gouvernementale par l’IA risque de restreindre la liberté d’expression des groupes vulnérables, notamment les immigrés, les militants et les travailleurs
• Des experts avertissent qu’une expansion de la surveillance par IA en l’absence de transparence, de supervision et de régulation juridique pourrait créer un vide dans le contrôle démocratique

[GN⁺]

Avis Hacker News

• On dirait que la vraie raison derrière la poussée de l’IA apparaît enfin
  On a l’impression de vivre dans un monde à la 1984 de George Orwell, où chaque son est surveillé et chaque geste observé

  • Maintenant qu’on dit qu’on peut même voir des gens avec des signaux Wi‑Fi, on a l’impression d’être entrés dans une époque où la surveillance est possible même dans l’obscurité
    :(
  • Pour jouer l’avocat du diable, on peut aussi se demander si punir quelqu’un qui enfreint la loi est vraiment une mauvaise chose
    Même pour une infraction mineure comme la traversée hors passage piéton, il semble normal que la personne soit sanctionnée dans les limites prévues par la loi

• On pourrait très bien voir une scène comme celle-ci au tribunal
  Un agent de l’ICE demande : « Cette personne est-elle en situation irrégulière ? », et une IA répond : « Oui ! » ; on imagine ce genre de preuve apparaître

  • Mais on en est déjà à des arrestations qui ressemblent à des enlèvements arbitraires, donc la situation est dangereuse, que l’on soit citoyen ou non
  • Dans les faits, il y a souvent expulsion sans procédure régulière, si bien qu’il n’y a même pas de procès
  • Au final, l’ICE ne fait qu’utiliser l’IA comme prétexte pour justifier le résultat qu’elle veut obtenir

• Tant qu’on ne règle pas le problème des entreprises qui emploient des immigrés sans papiers, les opérations de l’ICE ne seront qu’un jeu de taupe
  Tant qu’il y aura du travail, des gens continueront à venir aux États-Unis

  • Les entreprises qui emploient massivement des travailleurs sans papiers ont une influence politique telle qu’une expulsion de masse est en réalité impossible
    Les actions récentes de l’ICE ne sont, à mon avis, qu’une mise en scène destinée à tromper les électeurs
  • L’ICE pourrait aussi être détournée de sa mission d’application des lois migratoires pour devenir une sorte de police secrète
  • Dans bien des cas, l’embauche se fait avec des identités usurpées et de faux papiers, et les entreprises le savent tout en fermant les yeux
    Dans une telle structure, il me semble plus important de tenir les dirigeants responsables que de renforcer les descentes de l’ICE
  • Du point de vue du POSIWID (« The Purpose Of a System Is What It Does »), le système actuel est une structure conçue pour maintenir l’exploitation du travail
    Les travailleurs sans papiers ne bénéficient pas des protections du droit du travail, et les employeurs peuvent ainsi maintenir bas salaires et irresponsabilité
  • En fin de compte, ce genre de politique n’est qu’un spectacle politique destiné à apaiser l’anxiété des électeurs blancs

• Il est surprenant de voir à quelle vitesse les républicains ont abandonné ce qui faisait autrefois leur identité : la défense de la citoyenneté et de la souveraineté

  • En réalité, le discours sur les « droits des États » a toujours servi de prétexte pour opprimer les minorités
    Le gouvernement fédéral a plutôt joué le rôle de dernier rempart contre cette oppression
    À ce sujet, je recommande le livre Freedom’s Dominion
  • La logique républicaine sur la « souveraineté » n’est finalement qu’un principe sélectif, valable seulement quand cela les arrange
  • En réalité, il ne s’agit pas de « souveraineté », mais bien de pouvoir et de contrôle
    Trump est la figure qui a révélé le vrai visage du parti républicain, et les nationalistes chrétiens poussent les États-Unis vers une théocratie monopartite
  • « States’ rights » n’a finalement jamais été qu’un code pour l’esclavage et le racisme, sans aucun rapport avec la liberté

• Selon un article du Guardian, une journaliste britannique aurait été arrêtée par l’ICE aux États-Unis après avoir critiqué Israël

  • Mais en réalité, la raison de l’arrestation reste floue
    The Guardian ne cite que les suppositions de l’organisation qui la représente, sans avoir confirmé la position de l’ICE
    Le titre est peut-être factuellement exact, mais écrire « une journaliste a mangé des céréales au petit-déjeuner puis a été arrêtée » relèverait du même niveau de spéculation
  • Je ne soutiens pas l’action de l’ICE, mais je trouve contradictoire que le CAIR et la journaliste invoquent la “liberté d’expression” pour protester
    Dans la plupart des pays islamiques, la liberté d’expression n’existe pas
    Il est peu convaincant qu’une organisation représentant les intérêts de tels pays revendique cette liberté uniquement aux États-Unis
  • À ce stade, le plus sage semble simplement de ne pas aller aux États-Unis
    Même payé, je n’irais pas en ce moment

• Quelqu’un plaisante en disant qu’il suffirait peut-être de répéter « je compte embaucher des immigrés sans papiers » pour faire chauffer les GPU de l’ICE

  • Cela rappelle spook.el d’Emacs et le projet Spook de Tom7
  • De toute façon, le coût de ces GPU est payé avec nos impôts
    Les Américains paient directement via l’impôt, et les étrangers indirectement via les droits de douane

• En démocratie, le pouvoir de l’État doit impérativement être limité
  Si un camp prend le pouvoir pour réprimer l’autre, ce pouvoir reste ensuite en place pour le gouvernement suivant et sert à une nouvelle répression
  Voir aujourd’hui des agents masqués et des véhicules aux plaques dissimulées circuler librement est un signal extrêmement inquiétant
  Si le prochain président était quelqu’un comme Poutine, cela reviendrait à lui remettre déjà les clés de la surveillance et du contrôle

  • Une véritable démocratie n’est possible que lorsqu’on maintient un équilibre où l’État protège les citoyens tout en permettant aussi aux citoyens de se protéger contre l’État

• Nous vivons désormais à une époque où n’importe qui peut devenir surveillant grâce à l’IA
  Pas seulement l’ICE ou la police : les citoyens ordinaires aussi peuvent se surveiller mutuellement via les réseaux sociaux
  « Googling someone » est en train de devenir « ChatGPTing someone »
  Dans un tel environnement, la parole libre s’autocensure, et le Web devient de moins en moins intéressant

• Les gouvernements et les forces de l’ordre du monde entier se dirigent vers un usage de l’IA pour contrôler et punir les citoyens
  L’IA n’est pas devenue un outil d’émancipation, mais une technologie militarisée, au point qu’on a l’impression que les PDG de la tech font désormais partie du système militaire

• Ce serait amusant de promettre une prime à la personne qui réussirait à pousser l’ICE à faire la chose la plus stupide et la plus humiliante possible en la trompant avec de fausses informations sur les réseaux sociaux

  • On imagine aussi des alertes avec un nom de code satirique du style « HIZONNER CAT3-SDA-HN: DISSIDENT DEPORTATION ALERT »