Le plus haut responsable du renseignement israélien révèle sa véritable identité à cause d’une erreur de sécurité en ligne
(theguardian.com)- L’identité du commandant de l’unité de renseignement militaire israélienne ultrasecrète Unit 8200 a été révélée par des traces numériques laissées dans un ebook Amazon publié en 2021
- Le livre, publié sous le pseudonyme Brigadier General YS, contenait une adresse e-mail anonyme qui menait à un compte Google au nom de Yossi Sariel, ainsi qu’à des profils Maps et Calendar
- Le livre The Human Machine Team traite de l’association entre personnels militaires et IA, et renvoie au schéma d’un système de recommandation de cibles fondé sur l’IA dont l’IDF s’est servi pendant les six mois de la guerre à Gaza
- L’IDF a affirmé que cette adresse e-mail n’était pas un compte personnel mais un compte dédié au livre, avant de reconnaître ensuite auprès des médias israéliens que l’exposition d’informations personnelles de Sariel était une « erreur » et d’annoncer un examen pour éviter que cela ne se reproduise
- Cette révélation ajoute une pression supplémentaire sur Sariel, sur fond de critiques visant Unit 8200 pour sa responsabilité dans l’incapacité à empêcher l’attaque du Hamas du 7 octobre 2023 et de mises en cause de ses biais technologiques
Révélation de l’identité du commandant de Unit 8200
- L’identité du commandant de l’Unit 8200 israélienne est considérée comme l’un des secrets les plus sensibles, y compris au sein de l’armée
- Unit 8200 est connue comme une puissante agence de surveillance, au point d’être comparée à la NSA américaine
- Son commandant a été identifié comme Yossi Sariel, qui opérait depuis plus de 20 ans sans que son nom soit rendu public
- L’identité de Sariel a été exposée par des traces numériques liées à un livre publié sur Amazon
- Une adresse e-mail anonyme incluse dans l’ebook menait à un compte Google créé au nom de Sariel
- Ce compte était associé à un identifiant unique et à des liens vers des profils Google Maps et Calendar
- Un porte-parole de l’IDF a expliqué que cet e-mail n’était pas l’adresse personnelle de Sariel, mais un compte dédié aux questions liées au livre
- L’IDF a ensuite reconnu auprès des médias israéliens que l’exposition d’informations personnelles était une « erreur » et a indiqué qu’elle examinerait l’affaire afin d’empêcher des cas similaires
The Human Machine Team et stratégie militaire de l’IA
- Sariel a publié The Human Machine Team en 2021 sous le pseudonyme Brigadier General YS
- Le pseudonyme est composé de ses initiales
- Selon plusieurs sources concordantes, Sariel est l’auteur non public de ce livre
- Le livre expose une vision de la manière dont l’IA peut transformer la relation entre les personnels militaires et les machines
- Sariel estime que, dans la guerre moderne, le machine learning doit passer de la périphérie au centre de la scène
- L’orientation centrale est le human-machine teaming, qui recherche une synergie entre humains et IA plutôt que des systèmes entièrement autonomes
- Le public visé comprend les hauts commandants militaires et les responsables de la sécurité
- Sariel aurait écrit le livre avec l’autorisation de l’IDF après avoir passé un an comme chercheur invité à la National Defense University, à Washington DC, aux États-Unis
Concept de machine à cibles fondée sur l’IA
- Une partie du livre traite du concept de « targets machine » fondée sur l’IA
- Ce concept ressemble à la description d’un système de recommandation de cibles que l’IDF aurait utilisé dans les bombardements à Gaza
- Sariel estime que, pour créer une machine à cibles efficace, il faut du big data que le cerveau humain ne peut pas traiter
- Les exemples cités incluent les données du champ de bataille, les informations démographiques, les informations visuelles, les données de téléphones mobiles, les connexions sur les réseaux sociaux, les photos et les contacts téléphoniques
- Sa position est que plus les données sont nombreuses et variées, mieux c’est
- La machine à cibles utilise des modèles complexes qui combinent en masse de petites caractéristiques pour effectuer des prédictions
- Les exemples incluent une personne se trouvant dans le même groupe WhatsApp que des membres du Hezbollah, une personne recevant un nouveau téléphone portable tous les quelques mois ou une personne changeant souvent d’adresse
- L’IA est présentée comme un moyen de réduire les goulots d’étranglement causés par les agents de renseignement humains ou les soldats dans le processus de création de cibles militaires potentielles
- Recherche de nouvelles cibles et décisions d’approbation
- Traitement de grands volumes de données
- Connexion entre renseignement et puissance de feu
Systèmes d’IA dans la guerre à Gaza
- Sous le commandement de Sariel, l’IDF a déployé pendant les six mois de la guerre à Gaza plusieurs systèmes d’aide à la décision fondés sur l’IA, rapidement développés et améliorés par Unit 8200
- Parmi les systèmes rendus publics figurent the Gospel et Lavender
- Les deux systèmes ont été révélés par le média israélo-palestinien +972 magazine, le média en hébreu Local Call et le Guardian
- L’IDF explique que les systèmes d’IA sont destinés à assister les officiers du renseignement humains
- Les officiers du renseignement humains doivent vérifier si un suspect militaire constitue une cible légitime au regard du droit international
- Un porte-parole a déclaré que l’armée utilise divers outils et méthodes, et qu’il existe aussi des outils fondés sur l’IA pour aider les chercheurs du renseignement
Polémique autour de Unit 8200 après le 7 octobre
- La faille de sécurité de Sariel est rendue publique sur fond de critiques reprochant à Unit 8200 de ne pas avoir prévu ni empêché l’attaque du Hamas du 7 octobre 2023
- Lors de cette attaque, des combattants palestiniens ont tué environ 1 200 Israéliens et en ont enlevé environ 240
- Unit 8200 a longtemps été très appréciée, en Israël comme à l’étranger, pour des capacités de renseignement comparables à celles du GCHQ britannique
- Elle est considérée comme ayant construit un vaste dispositif de surveillance pour surveiller de près les territoires palestiniens
- Après l’attaque, des critiques ont estimé que l’arrogance technologique de Unit 8200 s’était faite au détriment des méthodes traditionnelles de collecte de renseignement
- En février 2024, le journal israélien Maariv a traité des querelles internes de responsabilité au sein de Unit 8200 après le 7 octobre
- Sariel y était désigné non par son nom, mais comme le commandant de Unit 8200, « Y »
- Ses détracteurs estiment que, sous le commandement de Sariel, l’unité a privilégié des technologies « addictives et passionnantes », conduisant à la catastrophe
- Sariel aurait déclaré à ses collègues que le 7 octobre le hanterait jusqu’à son dernier jour, qu’il acceptait la responsabilité au sens le plus profond, et : « nous avons perdu. J’ai perdu ».
1 commentaires
Commentaires sur Hacker News
Je me demande plus précisément de quelle nature était cette erreur de sécurité mentionnée dans la citation
Je me demande s’il y avait un bug sur Amazon qui exposait l’adresse e-mail du compte d’un auteur autoédité, ou si en partageant dans le livre du contenu Google Maps ou Google Calendar, il ignorait simplement que ces fonctionnalités révélaient l’adresse e-mail réelle
Il semble qu’il y avait un compte Gmail créé pour recevoir des retours, corrections, avis et sollicitations de la presse, qui était censé rester à peu près anonyme, mais qui aurait été enregistré sous son vrai nom
Au minimum, les personnes ayant reçu des réponses voyaient probablement son nom, et il a aussi pu être révélé via d’autres liens entre comptes
Je ne sais pas s’il s’agit d’un numéro d’identité, d’un matricule militaire ou d’un autre identifiant
Je ne vois pas ici de faille de sécurité
Certaines personnes utilisent un pseudonyme pour cacher leur véritable identité, d’autres pour séparer leur persona publique de leur vie privée
Dans ce cas, on est clairement plus proche de la seconde situation
Il a publié un livre en combinant ses initiales avec des indices sur sa profession, et le fait qu’il n’ait pas essayé sérieusement de cacher son e-mail s’inscrit assez naturellement dans cette logique
Ce n’est pas plus remarquable que de faire un article sur le fait d’avoir découvert le vrai nom de JJ Lehto
En y repensant, c’est à la fois un nom de guerre et un pseudonyme
La sécurité opérationnelle est difficile
Et peu importe à quel point on est optimiste sur le potentiel de l’IA, utiliser l’IA pour décider qui tuer est horrible et manifestement contraire à l’éthique
Cela rend possibles des atrocités sans responsabilité clairement attribuable
Le simple fait que cette personne ait été anonyme au départ semble aussi indiquer que l’objectif n’était pas la responsabilité
https://www.theguardian.com/world/2024/apr/03/israel-gaza-ai...
Cela dit, dans cet article, la plupart des aspects effrayants viennent des opérateurs humains
On a l’impression d’une assez forte absence de volonté de trouver des raisons de se méfier de la machine
Je partage le sentiment que « recourir à l’IA pour décider qui tuer est contraire à l’éthique », mais j’ai du mal à accepter une proposition aussi forte sans nuance
Par exemple, s’il y a un groupe de 10 personnes qui prennent des décisions de ciblage, et qu’une IA réduit leur charge de travail pour leur permettre de revoir les cas plus longtemps, cela reste une forme d’« utilisation de l’IA pour décider qui tuer », mais le résultat pourrait au contraire être meilleur
Le vrai problème, dans la réalité, c’est que les gens risquent fort de rejeter la responsabilité sur la machine en haussant les épaules
Je pense qu’il est difficile de répondre correctement à cette question tout en donnant une réponse simple
Au contraire, ce type de commentaire et de raisonnement permet d’y échapper
Il y a des humains qui ont décidé d’utiliser l’IA, et ce sont eux qui doivent en répondre
S’ils ne peuvent pas assumer cette responsabilité, alors ils ne devraient pas utiliser l’IA
Même si son identité a fuité, ce n’est pas très important
Pour une personnalité de niveau directeur, quoi qu’elle fasse, elle attirera davantage l’attention et ne pourra pas vraiment se cacher
Dans le domaine militaire, on ne protège pas l’identité des officiers supérieurs, car ils représentent l’armée
Bien sûr, il faut toujours protéger l’identité des soldats et personnels subalternes ou intermédiaires, car ce sont eux qui exécutent les ordres et prennent les risques réels
Il aurait mieux valu que son identité ne soit pas publique puisqu’il peut être exposé à un risque d’assassinat lors de ses déplacements, mais honnêtement ce n’est pas un sujet majeur
Cela ne fera probablement qu’alimenter des commentaires haineux dans les groupes anti-israéliens
En apparence, il essayait de cacher son identité, et comme il a échoué de façon assez lamentable, c’est devenu un sujet d’article
Le livre est ici :
https://www.amazon.com/Human-Machine-Team-Artificial-Intelli...
Personnellement, son identité m’intéresse peu, mais cet article traite aussi du contenu du livre qu’il a publié, et c’est bien plus intéressant
Le coup astucieux de échecs en 4D de Yossi Sariel
On dirait qu’il essaie de quitter son poste sans démission officielle, en faisant passer ça pour une erreur
Cette « erreur » donne à ses supérieurs un prétexte pour l’écarter tout en lui évitant d’assumer le 7 octobre
Vu ce qui s’est passé depuis le 7 octobre, aucun des deux camps ne semble particulièrement doué pour élaborer une quelconque stratégie
Encore moins pour de « brillants échecs en 4D »
Il aurait donc fait exprès de commettre cette erreur à l’époque pour se préparer une porte de sortie trois ans plus tard, sans démissionner ?
On n’a pas vraiment l’impression qu’il cherchait à garder ça secret
S’il l’avait voulu, il aurait aussi pu devenir lanceur d’alerte comme Snowden
C’est étrangement rassurant d’apprendre que ce genre de chose est difficile même pour les experts
« Les critiques de Sariel estiment que l’Unit 8200 a privilégié des technologies “addictives et intéressantes” plutôt que des méthodes de collecte de renseignement plus anciennes, ce qui a conduit à la catastrophe »
Eux aussi utilisent Kubernetes et les derniers frameworks front-end ?
C’est une énorme boucle useEffect() qui contrôle individuellement tous les robots tueurs avec des noms codés en dur
Ils n’avaient pas encore le budget pour étudier la mémoïsation, donc c’était un peu lent, mais sur du matériel suffisamment puissant ça tenait la route
Les calculs balistiques sont entièrement faits en WebGL, ce qui a provoqué la pénurie mondiale de GPU de ces dernières années
Parfois ils se trompaient sur la taille du viewport, ce qui causait des dommages collatéraux :(
Ayant tiré les leçons de cela, le prochain projet d’IA d’Israël suivra une approche éprouvée et sera entièrement écrit en CSS
Une métaphore plus crédible serait de licencier les développeurs seniors et d’embaucher des juniors avec un abonnement ChatGPT, en espérant que la vitesse de développement s’améliore fortement
Ils compromettent des ordinateurs aléatoires dans des sous-sols pour leur distribuer de petites fonctions
Les données sont si petites qu’il est impossible de reconstituer ce qu’ils font
C’est du SETI@HOME à la soviétique
Vous vous retrouvez à traiter leurs données sans le savoir
La seule chose à faire est de formater votre système pour supprimer la porte dérobée, en espérant que ça suffise
La sécurité opérationnelle est difficile
Même si vous faites tout correctement 99 999 fois, une seule erreur et c’est fini