« Lavender » : la machine d’IA israélienne qui pilote les bombardements sur Gaza

« Lavender » : le système d’IA israélien qui pilote les bombardements sur Gaza

• L’armée israélienne a développé un programme fondé sur l’intelligence artificielle appelé « Lavender », qui joue un rôle majeur dans les bombardements indiscriminés visant les Palestiniens de la bande de Gaza.
• Ce système désigne des dizaines de milliers d’habitants de Gaza comme cibles d’assassinat sans supervision humaine, dans le cadre d’une politique très permissive en matière de victimes.
• Lavender a été conçu pour marquer comme cibles potentielles de bombardement les membres des branches militaires du Hamas et du Jihad islamique palestinien (PIJ).

ÉTAPE 1 : génération des cibles

• Lavender analyse les informations recueillies via un système de surveillance de masse couvrant la majorité des habitants de la bande de Gaza, puis classe chaque personne selon la probabilité qu’elle soit membre d’une branche militaire du Hamas ou du PIJ.
• Ce système d’IA apprend les caractéristiques de membres connus de ces branches militaires, puis recherche et évalue ces mêmes caractéristiques dans la population générale.
• Lavender a ainsi désigné environ 37 000 Palestiniens comme « membres de branche militaire » présumés du Hamas, en faisant des cibles d’assassinat.

ÉTAPE 2 : associer les cibles au domicile familial

• L’armée israélienne utilise des systèmes automatisés pour relier les cibles à leur domicile familial, ainsi que des systèmes d’automatisation supplémentaires comme « Where’s Daddy? » pour signaler le moment où la cible entre chez elle.
• Ces systèmes permettent une surveillance continue des cibles et rendent possible une frappe dès qu’elles mettent le pied dans leur maison familiale.

ÉTAPE 3 : choix de l’arme

• Une fois qu’une personne a été marquée par Lavender comme cible d’assassinat, les soldats vérifient qu’il s’agit bien d’un homme, puis, lorsque le logiciel de suivi localise la cible à son domicile, ils choisissent la munition à utiliser pour le bombardement.
• Les bombes « stupides », peu coûteuses, peuvent provoquer davantage de dégâts collatéraux que les bombes à guidage de précision, et sont principalement utilisées pour assassiner des membres subalternes.

ÉTAPE 4 : approbation des pertes civiles

• Au cours des premières semaines de la guerre, l’armée israélienne a autorisé la mort de jusqu’à 15 ou 20 civils pour chaque assassinat d’un membre subalterne signalé par Lavender.
• Ce « niveau de dégâts collatéraux » a été appliqué largement à tous les membres subalternes présumés, indépendamment de leur rang, de leur importance militaire ou de leur âge.

L’avis de GN⁺

• Le système Lavender constitue un exemple d’application de la technologie d’IA aux opérations militaires, ce qui suggère que le rôle de l’IA dans les guerres futures va croître.
• Le recours à une liste de cibles d’assassinat déterminée par intelligence artificielle soulève de graves questions éthiques et accroît le risque de victimes civiles dues à des erreurs de ciblage.
• Une discussion approfondie est nécessaire sur la manière dont cette technologie pourrait transformer la conduite de la guerre, ainsi qu’une nouvelle interprétation du droit international et des lois de la guerre.
• L’introduction de systèmes comme Lavender peut améliorer l’efficacité militaire, mais présente aussi une dimension ambivalente en mettant en danger la vie de civils innocents.
• Il est nécessaire d’examiner quel impact cette technologie pourrait avoir sur la communauté internationale à l’avenir, ainsi que les régulations ou réponses qu’elle exigerait.

[GN⁺]

Avis Hacker News

• Des chercheurs ont déjà soulevé depuis longtemps des inquiétudes concernant le ciblage d’individus sur la base de corrélations indirectes. Ces systèmes étaient à l’origine utilisés à des fins de surveillance, mais ils servent désormais non plus seulement à surveiller, mais à tuer réellement des personnes.

  Le droit international humanitaire interdit de tuer des personnes qui ne sont pas des « combattants » d’un groupe armé. Seules les personnes qui « participent de manière continue et directe aux hostilités » peuvent être visées. Les autres civils ne peuvent être ciblés que lorsqu’ils prennent directement part aux hostilités.

• Des inquiétudes sont exprimées quant à l’idée qu’une intelligence artificielle (IA) prenne à l’avance la décision de tuer des personnes. Dans ce cas, il y avait bien une approbation humaine, mais il est souligné qu’on n’est plus qu’à un pas d’une situation où des robots tueraient des humains sans intervention humaine.

  On s’interroge sur l’alternative : sans IA, Israël aurait-il sélectionné ses cibles de manière plus aléatoire, ou n’aurait-il pas largué de bombes du tout ? En temps de guerre, la mort de personnes innocentes est inévitable.

• Il est souligné que beaucoup de gens ne liront pas l’article au-delà du titre, et il est recommandé de prêter attention au deuxième paragraphe.

  Il est affirmé qu’avec l’utilisation du système d’IA Lavender, des responsables militaires israéliens ont accepté un très grand nombre de morts parmi les civils palestiniens.

• Il est suggéré d’écouter la saison en cours du podcast Serial.

  La manière dont l’IA traite les données pour identifier rapidement les opérateurs « juniors » à cibler n’est pas différente de celle utilisée en 2001. Les décisions sont prises par des humains, pas par l’IA.

• Bien qu’il s’agisse d’un récit dépeignant négativement les actions d’Israël, cela peut malgré tout se lire comme une tentative de viser au moins des objectifs militaires.

  Israël vise à rendre la vie impossible dans la bande de Gaza en ciblant des journalistes, du personnel médical, des travailleurs humanitaires, etc.

• Des doutes sont exprimés quant à la précision de cette technologie, avec l’impression qu’on s’intéresse davantage à son apparence de technologie avancée qu’à ses résultats.

  Cela montre que les détenteurs du pouvoir s’intéressent moins à ce qui est « exact » qu’au fait de disposer d’une justification confirmant leurs propres biais.

• Il est mentionné que les Forces de défense israéliennes (IDF) ne cherchaient pas seulement à tuer des opérateurs du Hamas dans des bâtiments militaires ou pendant des activités militaires.

  L’IDF n’a pas hésité à bombarder des maisons familiales, et le système a été conçu pour les y trouver dans ce type de situation.

• Une question est soulevée sur le bénéfice que l’usage de l’IA a apporté à l’IDF dans l’atteinte de ses objectifs.

  L’usage continu de l’IA est peut-être soutenu parce qu’il offre une forme de refuge aux individus impliqués dans des crimes de guerre.

• The Guardian traite également cette histoire en une et avait reçu des détails à l’avance.

  Ce type d’histoires relève de l’intérêt public, et il est souhaité qu’un débat ait lieu.

• Une source a indiqué que les employés humains ne faisaient que servir de « tampon d’approbation » aux décisions de la machine.

  Cela rappelle l’article sur l’ironie de l’automatisation : lorsque la majorité du travail est automatisée, la supervision humaine devient presque inutile.