ELITE, l’application que Palantir fournit à l’ICE pour choisir les zones de rafles

• ELITE est un outil interne de Palantir utilisé par l’Immigration and Customs Enforcement (ICE) des États-Unis pour retrouver des personnes visées par une expulsion, en visualisant via une interface cartographique la densité de cibles dans certaines zones
• L’application, similaire à Google Maps, exploite des données, notamment sur la densité de population immigrée, pour indiquer les « zones riches en cibles »
• Lorsqu’un utilisateur sélectionne une personne, un dossier individuel s’affiche avec son nom, sa photo, son numéro d’étranger (Alien Number), sa date de naissance et son adresse
• Selon des documents internes, le système fournit même un score de confiance sur l’adresse actuelle de la cible et sert à des opérations massives de profilage racial
• L’article soutient que cette technologie renforce le pouvoir administratif permettant d’expulser des personnes sans procédure légale et pose la question de la responsabilité éthique des développeurs

---

La coopération technologique entre l’ICE et Palantir

• D’après des documents internes de l’ICE et des témoignages de personnes liées au dossier, un lien direct a été établi entre l’infrastructure technologique construite par Palantir pour l’ICE et les opérations de terrain
• Selon une enquête de 404 Media, le système ELITE est utilisé par l’ICE pour identifier les zones d’opérations d’expulsion à grande échelle
• Cet outil affiche sur une carte les personnes potentiellement visées par une expulsion et fournit pour chacune un score de confiance de l’adresse

Fonctions et interface d’ELITE

• ELITE repose sur une interface cartographique similaire à Google Maps et visualise les « zones riches en cibles » à partir de données incluant la densité de population immigrée
• Lorsqu’un utilisateur clique sur une personne sur la carte, le système affiche un dossier individuel comprenant le nom, la photo, le numéro d’étranger, la date de naissance et l’adresse complète
• Ces données sont utilisées par l’ICE pour suivre la localisation des personnes ciblées et planifier les opérations d’arrestation

Questions éthiques soulevées

• L’article qualifie ce système de « profilage racial à grande échelle » et critique l’usage de la technologie pour expulser des personnes sans procédure légale
• L’auteur décrit le conflit moral que peuvent ressentir les employés de Palantir en développant de tels produits
  • À travers l’idée de « venir travailler chaque jour pour fabriquer un logiciel qui expulse des gens », il souligne le décalage entre le quotidien du développeur et l’éthique
• Il note que les employés de Palantir bénéficient de salaires, stock-options et avantages sociaux, tout en contribuant par leur travail à une technologie qui participe à la violence d’un organisme armé

Le lien entre technologie et violence

• L’article mentionne des actes de l’ICE, décrit comme une force armée qui enlève des civils et ouvre le feu, et affirme qu’ELITE soutient ces activités par « une interface cartographique belle et moderne »
• En évoquant notamment un cas où l’ICE a tiré au visage d’une femme, il critique l’usage de la technologie comme outil d’optimisation d’une violence administrative

Les techniciens et leur responsabilité sociale

• L’article décrit comment des employés de Palantir peuvent à la fois penser « j’aime travailler avec cette équipe » et ressentir intérieurement qu’ils « devraient chercher un autre emploi »
• Il interroge la possibilité, pour les travailleurs de la tech, de justifier leur activité par le salaire ou la carrière lorsque leur travail contribue à une violence sociale
• En conclusion, ELITE est présenté comme un système qui soutient techniquement les opérations violentes de l’ICE et comme un cas révélateur de la responsabilité éthique des développeurs de technologies

[GN⁺]

Commentaires sur Hacker News

• Je n’ai jamais travaillé chez Palantir, mais si on met de côté le cosplay de méchant de sa direction tapageuse, l’entreprise ressemble à un éditeur enterprise tout à fait classique
  Les produits sont banals, mais survendus aux acheteurs institutionnels, puis imposés au final aux agents de terrain
  Le vrai problème, ce sont les décisions politiques qui conduisent à utiliser ce type d’outils, ainsi que la structure qui rend largement accessibles des données qui devraient être contrôlées
  Plutôt que de donner à Palantir une image de « méchant », il faut se concentrer sur le contexte politique qui fait naître la demande pour ce genre d’outils

  • C’est aussi à peu près comme ça que je vois Palantir. Au fond, c’est une société de conseil, avec un emballage cartographie, base de données graphe et « IA »
    Ils vendent des forward deployed engineers très chers pour faire du sur-mesure chez le client
    Je ne dirais pas que c’est une entreprise éthique, mais ce n’est pas elle qui collecte directement les données personnelles. Les données sont fournies par le client
    C’est donc de ce côté-là que le changement doit se produire
  • Le fait qu’il existe un « faux mal » me sidère. Comme la « fausse piété » au XVIIe siècle, on est maintenant entrés dans l’ère de la fausse méchanceté
    Si la culture pousse les entreprises à faire semblant d’être plus maléfiques qu’elles ne le sont réellement, c’est le signe d’une faillite morale de la société
  • Je ne suis pas d’accord. Le problème, c’est Palantir et ses clients
    On peut choisir de ne pas fabriquer l’outil, comme on peut choisir de ne pas l’utiliser
  • Le vrai problème, c’est que l’État utilise les services de Palantir pour relier les données entre elles et rendre possible une surveillance de masse
  • Karp justifie cela en disant qu’il s’agit « d’aider l’État à mieux fonctionner »
    Mais au bout du compte, ce sont les électeurs qui sont censés contrôler l’État

• J’ai l’impression qu’aujourd’hui les gens ont perdu le sens de la pensée complexe
  On peut croire que l’ICE a une mission claire et éthique, tout en estimant que la manière dont elle l’exécute est mauvaise
  On peut aussi penser qu’il est important de respecter les procédures légales sans pour autant qualifier les immigrés sans papiers d’« illégaux par essence »
  Le monde n’est pas binaire, alors je ne comprends pas pourquoi on raisonne de plus en plus uniquement en termes d’extrêmes. C’est peut-être l’effet des réseaux sociaux

  • Sauf que le camp qui a le pouvoir et les armes veut imposer une « seule bonne croyance », à savoir les « valeurs américaines »
    Ce n’est pas un affrontement idéologique symétrique. La vague bleue aux prochaines élections de mi-mandat est peut-être le dernier espoir
    Si cela échoue, le désespoir de la littérature russe paraîtra encore plus parlant
  • Dire que quelque chose est « possible » ne veut pas dire que c’est « juste »
    La mission légale de l’ICE n’est pas claire, et dans les faits elle est menée de manière contraire à l’éthique et illégale
    Le simple fait qu’une croyance soit « défendable » ne suffit pas à la légitimer
  • Dire que « contourner la file d’attente de l’immigration est immoral », c’est parler sans connaître la réalité
    Pour les pauvres, cette file d’attente n’existe même pas. Ils ne peuvent même pas demander un visa légal
  • Le fond du problème, ce n’est pas que les gens sont incapables de penser de manière nuancée, c’est que cette complexité n’est pas récompensée
  • Certains répondent aussi qu’il faudrait arrêter de faire semblant de s’y intéresser (trolling)

• J’aimerais dire aux dirigeants et recruteurs d’autres entreprises qu’ils devraient annoncer publiquement qu’ils intervieweront les ingénieurs qui veulent quitter Palantir pour des raisons morales
  J’aimerais que réduire les barrières à la mobilité et offrir un refuge à ces personnes devienne une nouvelle norme du secteur

  • Je pense l’inverse. Je n’ai pas envie de faire entrer dans mon entreprise quelqu’un qui a construit un système éthiquement douteux
  • La réputation de Palantir était déjà mauvaise il y a dix ans
    Si quelqu’un ne s’en rend compte que maintenant, cela montre un certain manque de principes
  • Je pense qu’il vaut mieux travailler sur des projets positifs pour la société et se construire une bonne réputation
    Étrangement, je n’ai jamais vu le CV d’un ancien de Palantir. Peut-être qu’ils sont filtrés automatiquement, ou qu’ils ne s’intéressent pas à ce type d’entreprise
  • Ont-ils vraiment mal agi ? On peut aussi penser qu’utiliser ses talents pour traquer des criminels relève au contraire d’un devoir moral

• Depuis sa création, Palantir a reçu environ 10 milliards de dollars d’argent public du gouvernement américain

  • Le gouvernement actuel fonctionne en pratique comme un État corporatif. Tout le monde cherche seulement à savoir combien il peut détourner
  • (Ce commentaire était écrit sous forme de paroles de chanson, mais a été omis pour des raisons de droits d’auteur)

• Si l’on veut éviter que ce fil soit supprimé, il faut une discussion plus approfondie
  Il faut traiter concrètement de la gamme de produits Palantir utilisée, de l’application de la FOIA (loi sur la liberté d’information) et des données effectivement fournies

• On dirait que l’équipe de gestion d’image de Palantir est intervenue beaucoup plus vite sur ce fil

  • Ils exploitent peut-être une armée de bots en ligne pour manipuler l’opinion
    Ils pourraient même finir par vendre cela comme service à leurs clients
    Pour empêcher ce genre de problème, les sites devraient renforcer la vérification d’identité des comptes anonymes

• Quand j’avais 19 ans, un employé de Palantir était venu donner une conférence sur le TDD, et les étudiants l’avaient boycottée
  À l’époque, je trouvais cela trop extrême, mais aujourd’hui j’ai plutôt l’impression qu’ils avaient raison
  Je ne travaillerai jamais dans une entreprise comme Palantir. Si je pouvais revenir en arrière, je participerais moi aussi au boycott
  L’argument du type « la Chine fait ce genre de choses, donc nous devons le faire aussi » est moralement répugnant
  La réponse à un monde corrompu n’est pas de se corrompre davantage. Ce genre de logique déresponsabilise, déshumanise et attise les conflits
  Il faut lutter contre cette corruption morale

  • En pratique, dès qu’on formule ce genre de critique, on se prend les downvotes des bots

• Ce n’est pas simplement une question d’« immigrés illégaux »
  Une infrastructure de surveillance de masse est déjà en train d’être mise en place. Pour l’instant elle vise des groupes spécifiques, mais bientôt tout le monde sera concerné
  Des systèmes de surveillance comme Flock et Ring, combinés à l’IA et à l’intégration de données, en constituent la base
  Ceux qui ont construit ces technologies doivent assumer une responsabilité morale, et il faut des plateformes traçables

  • Si l’État peut retrouver des gens sans historique administratif depuis des décennies, il lui sera encore plus facile de retrouver les contribuables
  • Mais si l’on prend la « morale » comme critère, alors les salariés des FAANG devraient eux aussi tous être critiqués

• Article original : 404 Media - ELITE: the Palantir app ICE uses to find neighborhoods to raid
  Lien d’archive : archive.ph/wa32f