Le problème de la Silicon Valley du Pentagone
(harpers.org)- Les organisations de défense et de renseignement des États-Unis et d’Israël présentent l’IA et les technologies de la Silicon Valley comme une percée pour la prise de décision en temps de guerre, mais plusieurs exemples montrent que les certitudes technologiques se sont heurtées à répétition à des échecs sur le terrain
- Le Shin Bet a affirmé avoir intégré l’IA générative comme un « copilote » de la prise de décision, mais l’attaque du Hamas du 7 octobre 2023 a pris par surprise les systèmes israéliens de défense et de renseignement malgré des vidéos de surveillance, des entraînements publics, des rapports internes et des documents préalables
- Dans le secteur de la défense américaine, Igloo White, Assault Breaker, Future Combat Systems et Secure Border Initiative Network ont tenté de contrôler le champ de bataille par l’informatique et les capteurs, mais ont échoué ou été annulés après des coûts considérables
- Contrairement à son image d’institution réticente à l’IA, le Pentagone soutient au moins 686 projets d’IA et a attribué en 2022 aux grandes entreprises technologiques des contrats Joint Warfighting Cloud Capability pouvant atteindre 9 milliards de dollars
- Google, Amazon, Microsoft, Palantir et Anduril se sont profondément engagés sur le marché de la défense, mais les cas Project Maven, IVAS, Roadrunner et Palantir montrent que l’IA militaire s’accompagne à la fois de controverses éthiques, de limites de performance, d’exagérations marketing et de problèmes d’hallucination
L’attaque du 7 octobre que l’IA n’a pas vue venir
- Ronen Bar, directeur du Shin Bet, a annoncé trois mois avant l’attaque du Hamas que l’agence de sécurité intérieure avait développé une plateforme d’IA générative similaire à ChatGPT et l’avait intégrée naturellement à une « interdiction machine »
- Ce système était conçu pour analyser le comportement et prédire les risques à partir des déplacements, amis, proches, activités, propos et publications des personnes ciblées, puis déclencher des alertes
- L’attaque du Hamas du 7 octobre 2023 a totalement pris par surprise le Shin Bet et le système de défense israélien, malgré des milliards de dollars investis
- Le Hamas menait publiquement des entraînements sur des maquettes de la barrière frontalière et de colonies israéliennes
- Des groupes armés dirigés par le Hamas ont mis en ligne des vidéos d’entraînement
- Des habitants israéliens proches de la frontière ont observé ces entraînements et donné l’alerte, mais ont été ignorés
- Des conscrits israéliens chargés de surveiller les caméras à la frontière de Gaza ont produit des rapports détaillés sur des préparatifs de percée de la barrière et de prises d’otages, mais ceux-ci ont été écartés comme des « scénarios imaginaires »
- Les services de renseignement israéliens détenaient depuis plus d’un an un document du Hamas détaillant le plan d’attaque
- Les membres du Hamas, en tenant compte des méthodes de renseignement israéliennes, ont fait parvenir aux Israéliens, par l’intermédiaire d’informateurs qu’ils connaissaient, les données que ceux-ci voulaient entendre
- Ils ont envoyé le signal que le Hamas à Gaza se concentrait sur l’amélioration de l’économie locale via l’accès au marché du travail israélien
- Ils ont donné l’impression que la puissance militaire écrasante d’Israël dissuadait le Hamas d’agir
- Cet échec met en contraste la confiance selon laquelle l’IA « sait tout sur les terroristes » et sa limite fondamentale : ne pas savoir ce que pensent réellement les cibles
L’optimisme autour de l’IA de défense et la réalité du Pentagone
- Dans Foreign Affairs, Michèle Flournoy estime que l’IA transformera la conduite du champ de bataille, la détection des menaces, la maintenance des systèmes d’armes et l’estimation du coût des décisions stratégiques
- La bureaucratie du Pentagone est souvent citée comme un obstacle à l’entrée des entreprises technologiques dans la défense, mais il est difficile de voir le Pentagone comme une organisation indifférente à l’IA
- Il aurait financé au moins 686 projets d’IA
- En 2022, il a accordé aux grandes entreprises technologiques des contrats Joint Warfighting Cloud Capability pouvant atteindre 9 milliards de dollars
- Un responsable du Pentagone a déclaré que ce contrat allait « turbocharge » les solutions d’IA
- Gamechanger est un projet d’IA conçu pour aider les employés du Pentagone à trouver ce que fait réellement cette immense organisation et où va l’argent
- Début 2022, un communiqué du Joint Artificial Intelligence Center mentionnait des sources indiquées comme « 28 Authoriative Sources »
- Un haut responsable comptable du Pentagone espérait appliquer Gamechanger pour améliorer la visibilité et la compréhension de l’ensemble des données budgétaires
- Pourtant, en 2023 encore, le Pentagone n’a pas réussi son audit financier, soit six échecs consécutifs
- Le récit selon lequel des figures de l’industrie technologique vont révolutionner le système militaire nourrit le mythe selon lequel même un système de défense tristement célèbre pour ses armes coûteuses, peu performantes et ses défaites pourrait être fondamentalement amélioré
Les échecs répétés des tentatives de contrôle du champ de bataille par l’informatique
- Dans la conduite de la guerre américaine, la croyance selon laquelle le logiciel peut résoudre les problèmes des conflits humains est ancrée de longue date
-
Igloo White
- De 1967 à 1972, l’US Air Force a déployé un vaste réseau de capteurs autour de la piste Ho Chi Minh, dans les jungles d’Asie du Sud-Est
- L’opération visait à détecter l’activité humaine à partir de bruits de pas, de l’odeur d’ammoniac dans l’urine et de signaux électroniques d’allumage de moteurs, puis à envoyer les informations vers des ordinateurs IBM dans une base secrète en Thaïlande afin d’identifier les routes d’approvisionnement
- Malgré un coût d’au moins plusieurs centaines de millions de dollars par an, elle s’est soldée par un échec complet
- Les forces vietnamiennes accrochaient des seaux d’urine aux arbres hors des routes ou conduisaient du bétail sur des chemins inutilisés pour que les ordinateurs interprètent ces signaux comme des mouvements ennemis
- En 1972, l’armée nord-vietnamienne a lancé une offensive avec des centaines de chars, qu’Igloo White n’a absolument pas détectée, et l’opération a été abandonnée peu après
-
Assault Breaker et les programmes suivants
- Après le retrait du Vietnam, les États-Unis ont massivement investi dans Assault Breaker, qui devait observer par radar aérien l’arrière soviétique en Europe de l’Est
- Lors des essais, le système ne parvenait pas à distinguer les chars, les voitures et les arbres agités par le vent, et il a été annulé au cours de la décennie suivante
- Future Combat Systems promettait de relier capteurs et armes par des processeurs haute performance afin de frapper les cibles si facilement que le blindage défensif deviendrait inutile, mais le programme s’est achevé sans résultat après près de 20 milliards de dollars dépensés
- Le Secure Border Initiative Network du Department of Homeland Security a été promu comme une « barrière virtuelle » reliant radars, caméras et capteurs de surveillance, mais il a été annulé en 2011
- Boeing était un contractant majeur de Future Combat Systems et du Secure Border Initiative Network, et ces échecs contrastent avec l’espoir que l’innovation rapide façon Silicon Valley puisse remplacer les ratés des industriels de défense traditionnels
La recomposition entre la Silicon Valley et le complexe militaro-industriel
- L’industrie de la Silicon Valley est profondément liée à l’électronique qui a grandi sous le parrainage du Pentagone
- Le circuit intégré, au cœur de l’informatique moderne, a été produit pour la première fois par Texas Instruments en 1958, son développement étant poussé par les budgets de défense
- Sa première application fut le système de guidage du missile nucléaire intercontinental Minuteman II
- Apple Computer est entrée en Bourse en décembre 1980 et, moins d’un mois plus tard, était valorisée plus haut que Ford ; le Macintosh a été présenté avec une image émancipatrice, donnant aux particuliers une puissance informatique de niveau entreprise
- La rupture avec la défense n’a jamais été complète
- Internet est issu d’ARPANET, développé par l’Advanced Research Projects Agency du Pentagone
- Les premiers travaux à Stanford des fondateurs de Google, Larry Page et Sergey Brin, ont été en partie financés par cette même agence du Pentagone, devenue la DARPA
- Google Earth provient de Keyhole EarthViewer, financé en partie par In-Q-Tel, l’organisation de capital-risque de la CIA, puis racheté par Google
- Peter Thiel, enrichi par la cofondation de PayPal et son investissement précoce dans Facebook, a pris la direction d’un retour du complexe militaro-industriel vers la Silicon Valley
- Palantir, fondée en 2003, fournit un logiciel qui détecte et communique visuellement des motifs dans les données, sur la base des technologies de détection de fraude de PayPal
- La CIA a été un investisseur initial via In-Q-Tel
- Une grande partie des premiers contrats seraient venue des agences de renseignement
- Il a été affirmé que Palantir avait joué un rôle majeur dans la détection de GhostNet et de la cachette d’Osama bin Laden, mais aucune preuve n’étaye ces affirmations
- Malgré l’opposition de hauts responsables militaires, Palantir a promu sa technologie par l’intermédiaire d’officiers de niveau intermédiaire de l’Army et de parlementaires alliés
Les organisations d’innovation de défense et Project Maven
- Robert O. Work a averti que les États-Unis perdaient l’avantage technologique dont ils avaient bénéficié dans les armes nucléaires et les armes à guidage de précision, tandis que la Chine et la Russie les rattrapaient
- En 2014, le secrétaire à la Défense Chuck Hagel a présenté la Defense Innovation Initiative, supervisée par Work, en déclarant qu’il rechercherait activement des propositions d’entreprises et d’universitaires en dehors des domaines traditionnels du Department of Defense
- Ash Carter s’est rendu à plusieurs reprises dans les régions technologiques et a créé en 2015 la Defense Innovation Unit Experimental à Mountain View, près des sièges de Google et Apple
- « Experimental » a ensuite disparu du nom
- Le Department of Homeland Security a lui aussi installé un bureau satellite à proximité pour développer ses relations avec les entreprises technologiques de la Silicon Valley
- En 2016, Carter a créé le Defense Innovation Advisory Board, dirigé par Eric Schmidt ; Schmidt a ensuite dirigé la National Security Commission on Artificial Intelligence, dont Work était vice-président
- Project Maven est un programme créé par Work, avec pour objectif d’accélérer l’intégration du big data et du machine learning au Pentagone
- En 2017, Google a obtenu un contrat pour développer des outils capables de traiter le flux continu de vidéos de drones et d’identifier des cibles
- Selon des e-mails internes divulgués à Gizmodo, la participation de Google ne devait pas être rendue publique sans l’autorisation de l’entreprise
- Fei-Fei Li, scientifique en chef IA de Google Cloud, a envoyé un e-mail demandant d’éviter toute mention ou allusion à « l’IA »
- Lorsque le contrat a été révélé, environ 4 000 employés de Google ont signé une pétition demandant une politique claire selon laquelle ni Google ni ses sous-traitants ne fabriqueraient de technologies de guerre, et certains ont démissionné
Les limites de performance révélées après Maven et le déplacement vers la sous-traitance
- La source vidéo de Project Maven était Gorgon Stare, un système de nacelles de caméras monté sur les drones Reaper
- Gorgon Stare était présenté comme capable de tout voir, mais un rapport de 2011 de l’unité d’essai d’Eglin Air Force Base a relevé plusieurs défauts
- Les caméras ne trouvaient ni n’identifiaient facilement les cibles
- Le débit de transmission était trop lent
- L’unité d’essai a conclu que le système n’était « pas efficace sur le plan opérationnel » et a recommandé de ne pas le déployer en Afghanistan, mais l’Air Force l’a quand même déployé
- Un ancien pilote de chasse devenu analyste au Pentagone affirme que la reconnaissance automatique de cibles (ATR) ne fonctionne toujours pas malgré des années de dépenses
- Un autre vétéran de combat travaillant sur ces questions dans une agence du Pentagone estime que les développeurs d’IA semblent ne pas comprendre une partie des exigences militaires
- Lors d’une expérience de la DARPA, une escouade de Marines a modifié ses silhouettes pour éviter d’être détectée par un robot contrôlé par IA
- Deux d’entre eux se sont déplacés à l’intérieur d’une grande boîte en carton, d’autres ont fait des roulades, et l’un portait des branches de sapin
- Tous ont traversé un terrain ouvert jusqu’au robot et l’ont touché sans être détectés
- Après le retrait de Google de Maven, Microsoft, Amazon, Palantir et d’autres ont repris la sous-traitance
- C’est Jack Poulson, parti de Google, qui l’a découvert
- Poulson a ensuite lancé Tech Inquiry afin de suivre les contrats de la Defense Innovation Unit et les organisations liées
Les contrats cloud et l’effacement du fossé entre tech et défense
- Le retrait de Google de Maven a provoqué une vive réaction dans le camp des technologies de défense
- Peter Thiel a qualifié l’attitude de Google de « traîtresse »
- Eric Schmidt a déclaré ne pas être d’accord avec cette décision
- Jeff Bezos a affirmé que si les grandes entreprises technologiques tournaient le dos au Department of Defense, les États-Unis se retrouveraient en difficulté
- En 2013, Amazon a remporté auprès de la CIA un contrat de 600 millions de dollars sur 10 ans pour fournir son cloud AWS aux services de renseignement
- Le cloud computing est devenu un nouveau front de revenus pour des entreprises comme Amazon, Microsoft, Oracle et Google
- Google, mettant de côté les préoccupations morales de l’époque Maven, a répondu à l’appel d’offres pour obtenir une part du contrat Joint Warfighting Cloud Capability pouvant atteindre 9 milliards de dollars
- Tout en dégageant de gros profits sur les services commerciaux, les entreprises ont commencé à voir le gouvernement comme une source de revenus stable et abondante, et le fossé entre l’industrie technologique et le Pentagone s’est rapidement effacé
Anduril, Roadrunner, IVAS
- L’impact des drones dans la guerre en Ukraine a été largement commenté, mais beaucoup de drones courants et efficaces des deux côtés sont plutôt des dispositifs simples et bon marché, assemblés à partir de composants disponibles avec un compte Amazon et équipés de petites bombes ou d’obus
- Anduril a dévoilé Roadrunner en décembre 2023
- Il s’agit d’un petit drone à propulsion à réaction, censé détecter et détruire de manière autonome les menaces à propulsion à réaction, drones compris, puis revenir à sa base
- Selon Newsweek, son prix se situe dans les « quelques centaines de milliers de dollars »
- La vidéo de présentation montre Roadrunner réalisant parfaitement son essai
- L’analyste du Pentagone Franklin “Chuck” Spinney a qualifié la promotion de Roadrunner de « bullshit marketing » et s’est étonné que, sur les images d’un atterrissage queue la première dans le désert, les tuyères ne soulèvent presque pas de colonne de poussière
- Anduril est une entreprise fondée par Palmer Luckey, qui a développé Oculus et l’a vendu à Facebook pour 3 milliards de dollars avant de se concentrer sur la défense
- Anduril promet de créer un modèle 3D parfait de vastes zones grâce à une plateforme de fusion de capteurs basée sur l’IA
- Luckey prédit que le soldat du futur deviendra un « super-héros » doté d’une « omniscience parfaite », connaissant la position de tous les ennemis, alliés et ressources dans sa zone d’opérations
- En 2021, l’Army a signé avec Microsoft un contrat de 21,9 milliards de dollars pour l’Integrated Visual Augmentation System (IVAS) basé sur HoloLens
- Un rapport 2023 du bureau des essais opérationnels et de l’évaluation du Pentagone indique que de nombreux soldats testeurs ont signalé au moins un dommage physique : désorientation, vertiges, fatigue oculaire, maux de tête, mal des transports, nausées, tension cervicale ou vision en tunnel
- Les soldats ont aussi cité comme problèmes les performances en basse lumière, la qualité d’affichage, l’encombrement, la faible fiabilité, l’incapacité à identifier amis et ennemis, la difficulté à tirer, les dommages physiques et le champ de vision périphérique limité
- Le Congress a gelé l’essentiel du budget d’acquisition, mais l’Army a versé 125 millions de dollars supplémentaires à Microsoft pour modifier le système, portant le montant total juste en dessous de 23 milliards de dollars
- L’Army affirme que, lors de ses propres essais du système modifié, les retours des soldats ont été positifs
Le boom de l’IA, Palantir et les hallucinations
- Après la sortie de ChatGPT, Microsoft a vu une occasion encore plus grande, mais le scepticisme sur les capacités de l’IA demeure
- Yann LeCun, scientifique en chef IA de Meta, estime que les avertissements sur la menace de machines superintelligentes sont très prématurés, alors qu’il n’existe même pas aujourd’hui de conception de système comparable à la capacité d’apprentissage d’un chat
- Nate Koppikar, cofondateur d’Orso Partners, juge que l’état du secteur technologique depuis 2016 relève presque du « bullshit »
- Le secteur tech a perdu de l’argent et réduit ses effectifs après l’éclatement de la bulle fin 2021
- Les pertes des investisseurs du secteur sont estimées à environ 7 400 milliards de dollars
- Il dit que la promesse de l’IA comme « prochaine grande révolution » est soudainement vendue
- Il voit la peur des robots IA comme une partie d’une campagne marketing destinée à faire croire à la puissance de la technologie
- L’IA a tendance à inventer des choses, un défaut que l’industrie appelle « hallucination »
- Palantir a vu son action s’envoler pendant la fièvre de l’IA en 2023, et son CEO Alex Karp a déclaré publiquement que Palantir était « aux côtés d’Israël »
- Google Bard a répondu, sous la forme d’un communiqué de presse professionnel, que Palantir avait annoncé en 2019 un partenariat avec l’IDF pour développer des outils d’IA, mais ce communiqué de presse n’existe pas : c’était une hallucination
1 commentaires
Avis de Hacker News
Les exemples cités dans l’article semblent assez choisis sur mesure. Il est difficile d’attribuer l’échec au Vietnam à un seul IBM 360, et l’attaque du Hamas a peut-être surpris Israël, mais Iron Dome était une technologie qui fonctionnait bien ces dernières années.
Les États-Unis ont averti quiconque voulait bien l’entendre que la Russie attaquerait l’Ukraine, et ceux qui ont construit la bombe atomique étaient aussi des physiciens assez théoriques.
On n’envoie pas une grande partie de sa marine faire le tour de l’Europe jusqu’à la mer Noire pour le plaisir. Envoyer des réserves de sang vers des zones de rassemblement près de la frontière n’est pas non plus quelque chose qu’on ferait pour un simple exercice ou une démonstration de force.
Le cœur du texte est que le Pentagone pense financer la technologie, mais n’obtient pas une valeur à la hauteur de cet argent. Il échoue parce qu’il n’a ni la volonté ni la capacité de réunir expertise, autorité et responsabilité dans la tête d’une seule personne.
Lorsqu’une organisation dilue les responsabilités, ou donne du pouvoir à des personnes incapables de distinguer mouvement et progrès, le résultat est toujours le gaspillage et la stagnation. Dans les rares moments où un leader fort parvient temporairement à inverser cette entropie organisationnelle, des choses presque magiques se produisent ; on peut comparer ULA et SpaceX, DeepMind et OpenAI.
Si la compétence institutionnelle était la norme, plutôt qu’instable et limitée à de brefs miracles, l’humanité aurait atteint un niveau technologique bien plus élevé.
Les États-Unis ont aussi averti la Russie au sujet de l’attaque de Moscou, mais cela a été traité comme une ingérence politique. Il s’agissait presque certainement de renseignement d’origine électromagnétique qui a été ignoré.
https://apnews.com/article/russia-intelligence-duty-to-warn-...
Pour moi, avec les troupes massées à la frontière, les diverses déclarations, les propos de Biden et les républicains qui politisaient la question sans fondement, c’était une invasion tellement évidente au niveau d’une vente à découvert ou d’un marché de prédiction. Aussi évident qu’un contrat d’option à échéance zéro jour.
Pourtant, cette réaction continue de me trotter dans la tête. Je ne sais pas comment réagir à l’avenir. Discuter avec des personnes qui ont une perception différente de la réalité semble inutile, et j’ai l’impression qu’il ne reste finalement que l’inaction totale ou les paris financiers.
J’aime parier sur ce que je crois : la récompense est correcte, et ce n’est pas grave si la prédiction se révèle fausse. Malgré tout, une conversation visant à trouver une compréhension partagée de la réalité me semblait plus naturelle, mais aujourd’hui cela paraît vain.
Je pense que cet article, comme beaucoup de reportages sur ce domaine, généralise excessivement l’intelligence artificielle. Les aspects prédictifs du machine learning sont utilisés dans les armées modernes depuis des décennies, et le premier paragraphe suggère vaguement que les LLM auraient joué un rôle important dans l’échec du renseignement lors de l’attaque du 7 octobre.
Il n’est pas surprenant qu’un LLM fasse partie d’un système incluant beaucoup de machine learning. C’est une excellente interface humaine. Mais je ne crois absolument pas qu’il ait joué un rôle assez important pour porter une responsabilité significative dans le fait d’avoir manqué l’attaque.
Le machine learning continuera à jouer un rôle, connaîtra des succès comme des échecs, et deviendra plus imparfait à mesure qu’il sera confronté au machine learning adverse. Il n’est pas utile d’accuser un outil imparfait d’être la cause d’échecs inévitables, et il est difficile d’y voir un « problème » quand l’alternative, plus susceptible d’échouer, est l’humain.
L’expression IA a bien plus de poids que nous ne voulons l’admettre, et l’utiliser pour les LLM en affaiblit le sens.
Quand les gens ordinaires entendent IA, ils s’attendent à beaucoup plus qu’un algorithme qui tente de prédire et d’imiter l’écriture humaine, aussi intelligent et impressionnant soit-il.
L’industrie semble s’être mise d’accord pour appeler la prochaine génération d’algorithmes de machine learning « intelligence artificielle », parce que cela se vend mieux et attire beaucoup plus de financements. Dans ce cas, je m’inquiète de ce qu’il advient des questions de sécurité, de morale et d’éthique qu’il faudrait poser avant de créer une véritable IA.
« Les systèmes d’IA savent tout sur le Hamas. Ce qu’ils ont dit, ce qu’ils ont publié […] Ils analysent les comportements, prédisent les risques et déclenchent des alertes. »
« Les membres du Hamas, qui le savaient très bien, ont nourri l’ennemi avec les données qu’il voulait entendre. Au final, les systèmes d’IA savaient tout sur le terroriste, mais ne savaient pas ce qu’il pensait. »
Si l’adversaire peut voir tout ce que je fais et entendre tout ce que je dis, la seule défense est la vie privée. Dans le roman The Three Body Problem, cette idée est poussée à l’extrême : la seule vie privée se trouve dans l’esprit humain, et certaines personnes sont chargées de prendre des décisions selon des stratégies qu’elles n’ont jamais exprimées à voix haute. La science-fiction est devenue réalité.
La leçon la plus importante, à mon avis, est qu’il est presque impossible de concevoir un bon système sans cas d’usage clair.
L’Ukraine dispose de tels cas d’usage, et la motivation pour les résoudre est très forte. Les Ukrainiens contrôlent le champ de bataille avec des ordinateurs polyvalents https://en.defence-ua.com/news/how_the_kropyva_combat_contro..., ont coulé plusieurs navires de guerre russes avec des drones maritimes longue portée https://www.bbc.com/news/world-europe-68528761 et ont récemment commencé à tester à grande échelle des drones aériens bon marché dotés d’une reconnaissance de cibles basée sur la vision par ordinateur embarquée https://www.forbes.com/sites/davidhambling/2024/03/21/ukrain....
Les États-Unis, en revanche, sont en temps de paix. C’est une bonne chose en soi, mais cela rend beaucoup trop facile le gaspillage de milliards de dollars dans des technologies qui ont fière allure dans PowerPoint, mais sont inutiles en pratique.
Les drones aériens sont également conçus par plusieurs entreprises, afin d’éviter le risque qu’une seule société soit détruite par une frappe de missile russe. J’imagine qu’il en va de même pour d’autres produits militaires.
Des milliards de dollars seront encore gaspillés, mais cet argent ira à la reconstruction des bâtiments, ponts, infrastructures et vies détruits par la guerre.
L’Ukraine a accompli des choses remarquables avec des technologies bon marché assemblées par ses propres moyens, mais le prix à payer est de 486 milliards de dollars nécessaires à la reconstruction du pays.
https://www.reuters.com/world/europe/ukraine-needs-486-bln-r...
Je ne sais pas vraiment où tracer la ligne entre se préparer à une guerre imminente et être en temps de paix.
Des quantités de munitions à sous-munitions de niveau WW3, qui devaient être mises au rebut, ont été transférées aux AFU, tandis que de vieux Bradley, Javelin, Stinger, etc. avaient été conçus pour faire exploser des T-72 et des Hind-D, et c’est exactement ce qu’ils font. Nous verrons bientôt aussi ce que peuvent faire les choses qui « ont fière allure dans PowerPoint ».
Et une grande partie de l’efficacité militaire ukrainienne est due au partage de renseignement de l’OTAN. Les systèmes de contrôle de combat et les drones maritimes seraient restés secondaires si l’OTAN n’avait pas cartographié la guerre électronique russe, ses navires et ses mouvements de troupes.
Je ne peux pas me prononcer sur la technologie israélienne, mais le Pentagone a un problème d’image dans la Silicon Valley, et il est difficile de croire que même des sous-traitants comme Palantir attirent les meilleurs talents.
Notre génération est plus proche de l’Irak et du Vietnam que de la Seconde Guerre mondiale, et parmi les talents les plus brillants, beaucoup sont aussi des immigrés de première génération. La publicité en ligne a elle aussi vu son image se dégrader récemment, mais travailler pour de grandes entreprises grand public reste plus attrayant que pour la défense.
Pour convaincre des collègues de travailler pour le gouvernement américain, même indirectement, il faudrait leur offrir davantage d’argent ; or c’est généralement moins, et la liberté de ce qu’on peut faire en dehors des heures de travail est souvent plus limitée.
En plus, contracter avec l’armée autour de l’IA se lit, dans une certaine mesure, comme une forme d’assurance bouc émissaire. On blâme des gens intelligents avec des ordinateurs qu’on peut tromper, et non ceux qui les ont embauchés et ont choisi d’agir en donnant la priorité à ce signal plutôt qu’à d’autres.
L’idée qu’un modèle ChatGPT aurait pu être le facteur décisif pour empêcher le 10/7 paraîtra absurde à quiconque travaille dans ce secteur. Peut-être que la seule exception serait un consultant qui essaie de vendre des LLM à Tsahal.
Le plus gros obstacle, c’est l’approvisionnement. Selon les standards fédéraux, l’achat de logiciels est relativement simple : une startup après une Series E peut entrer sur le marché en consacrant 7 à 10 millions de dollars et 1 à 1,5 an à une feuille de route dédiée à la conformité FedRAMP et FIPS.
Dès qu’on sort du logiciel, l’approvisionnement devient un enfer administratif. Si l’on y ajoute l’enfer administratif des agences de subventions R&D comme le DoD et le DoE, on obtient un système d’approvisionnement quasi soviétique.
Ironiquement, la plupart de ces contrôles de conformité et de régulation ont été ajoutés avec la bonne intention de réduire la corruption et les pots-de-vin, mais ils ont en pratique bloqué tout le système et empêché les startups et les innovateurs de travailler directement avec la communauté de la défense.
Des projets comme DIUx et In-Q-Tel essaient de changer cela, mais c’est trop peu et trop tard ; la base industrielle de défense dépend entièrement d’entreprises comme Microsoft, Cisco, CrowdStrike et Zscaler qui rachètent des startups prometteuses et diffusent l’innovation en interne.
Le gouvernement fédéral n’est pas conçu pour recruter rapidement les talents de l’industrie. Il reste aussi très prisonnier d’anciennes règles exigeant des diplômes avancés pour les postes de haut niveau.
Les signaux étaient partout, et le Mossad n’est pas une bande de bureaucrates incompétents.
Le responsable est un ancien des forces spéciales, et tuer des gens sans ciller fait partie du métier ; il est donc difficile d’attendre de l’humanisme de ce côté-là.
Je verrais peut-être les choses autrement si je n’avais pas lu des récits presque identiques se déroulant à d’autres époques et en d’autres lieux. L’IA ne résout pas les problèmes politiques ; elle ne fait que complexifier des problèmes déjà complexes.
L’expression « pris par surprise » est étrange. Les médias israéliens ont publié à plusieurs reprises des articles expliquant que les analystes de première ligne avaient averti, mais avaient été ignorés.
La raison pouvait être le sexisme, l’âgisme, la discrimination envers les conscrits, ou le fait que les organisations de colons avaient placé leurs gens au gouvernement et voulaient fortement réinstaller la bande de Gaza.
Dans tous les cas, les signaux existaient, et ils observaient les préparatifs et les entraînements depuis environ un an. Même si les organisations de résistance avaient gardé cela secret, une agence de renseignement ou un officier ordinaire de l’armée aurait dû pouvoir conclure, à partir des « premiers principes » et de leurs actions, qu’il y aurait tôt ou tard une réaction violente.
Netanyahu avait tellement divisé la société israélienne que, dans les mois précédant le 10/7, des millions de personnes manifestaient chaque week-end, et des réservistes refusaient de servir en signe de protestation.
S’il s’était davantage concentré sur le gouvernement du pays, ou s’il s’était retiré, plutôt que sur l’usage de tous les moyens possibles pour éviter la prison, la distraction nationale aurait peut-être été moindre. Je ne dis pas que c’est sa faute, mais le chaos qu’il a créé n’a certainement pas aidé.
Les personnes qui dirigeaient le gouvernement et l’armée israéliens étaient elles-mêmes des outils. Que ce soit par malveillance ou par incompétence et ignorance, elles ont clairement échoué.
Personnellement, la partie la plus intéressante de tout l’article est ce passage :
« Il s’est ensuite concentré sur le travail de défense, déplorant que les personnes disposant des compétences technologiques nécessaires pour fabriquer les armes du futur “refusent pour la plupart de travailler avec le secteur de la défense”. »
Je me demande dans quelle mesure c’est encore vrai. Il est certain que beaucoup d’argent afflue, et certains ont clairement suivi l’argent. Palantir existe aussi.
Mais si les gens peuvent voir en direct sur Twitter un quartier se faire bombarder, cela peut les amener à repenser leur participation à ce genre de choses.
La question importante est de savoir quelle est l’ampleur de la résistance au sein de la main-d’œuvre, et dans quelle mesure elle affecte la capacité à recruter des talents.
Je suis choqué par l’ampleur du gaspillage d’argent public. Il y a tellement de projets ratés que même l’incompétence tristement célèbre des Big Tech paraît insignifiante à côté du complexe militaro-industriel américain
C’est là qu’a afflué tout le surplus de la civilisation occidentale au cours des trois quarts de siècle passés. Désormais, ce surplus a disparu et, avec l’épuisement des ressources et des sources d’énergie essentielles, il va bientôt devenir négatif. J’espère que la domination mondiale des États-Unis prendra fin le plus vite possible
Désolé, mais à aucun moment les États-Unis n’ont été les dirigeants légitimes de la planète. Des pays entiers, les miens, ont été détruits, et des populations entières ont été tuées ou contraintes de migrer. Tout ça pour que vous puissiez acheter une nouvelle Xbox à votre enfant et que votre voisin puisse s’offrir un nouveau yacht
La catastrophe au Moyen-Orient depuis 2003 a coûté au moins 8 000 milliards de dollars
Avec cet argent, on aurait pu faire passer l’ensemble des États-Unis à une énergie propre, nourrir toutes les personnes qui souffrent de la faim sur Terre et loger tous les sans-abri américains. Il serait resté de l’argent
À la place, cet argent a servi à tuer des millions de personnes, à en déplacer des dizaines de millions, et à laisser à des générations d’enfants des cancers et des malformations congénitales
C’est tellement malfaisant et stupide que même Noam Chomsky dirait ne pas avoir les mots pour le décrire
[1]:https://www.digitalhistory.uh.edu/disp_textbook.cfm?smtID=2&...
« À la fin de la Convention constitutionnelle, George Washington a déclaré : “Je ne m’attends pas à ce que la Constitution dure plus de 20 ans.” Aujourd’hui, les États-Unis possèdent la plus ancienne constitution écrite du monde. »
Ce que le pays a accompli depuis est assez remarquable. Pendant une bonne partie de son existence, les États-Unis n’étaient même pas la superpuissance telle que nous la connaissons aujourd’hui. L’avenir n’est pas écrit, mais nous verrons peut-être une Amérique isolée, occupée uniquement de ses problèmes internes
Je cherchais une mention de la Strategic Defense Initiative, alias Star Wars. L’un des problèmes techniques que ce programme n’a jamais réussi à surmonter était la capacité à identifier suffisamment les missiles entrants et à guider les défenses d’interception vers leur cible
Comme les systèmes Igloo White et Assault Breaker mentionnés dans l’article, il échouait à distinguer les leurres des vraies cibles
Dans l’interception de missiles balistiques, le plus gros problème technique était de faire en sorte que les moteurs-fusées hypersoniques qu’on voulait utiliser réagissent aux commandes de guidage avec une précision suffisante. C’était un problème de science des matériaux, et lorsque le même équipement était monté sur des moteurs-fusées classiques, il fonctionnait effectivement bien