Construire un superordinateur pour un dictateur n’est pas forcément bon pour la démocratie

• OpenAI a récemment annoncé un partenariat avec les Émirats arabes unis pour construire un grand centre de données IA
• Ce partenariat est présenté comme « ancré dans des valeurs démocratiques », mais les Émirats arabes unis sont un État notoirement non démocratique
• Freedom House et d’autres organisations soulignent la répression des libertés civiles et des droits politiques aux Émirats arabes unis
• OpenAI met en avant, pour cette coopération, la diffusion d’une IA démocratique, mais sa contribution réelle à la démocratie reste incertaine
• Des inquiétudes existent quant au risque que le transfert de ressources de supercalcul renforce la puissance d’un État autoritaire

---

Aperçu du partenariat entre OpenAI et les Émirats arabes unis autour d’un superordinateur IA

• En mai 2024, OpenAI a officiellement présenté le programme OpenAI for Countries ainsi que le projet Stargate, un vaste centre de données IA basé aux États-Unis
• OpenAI a indiqué que les gouvernements considèrent de plus en plus la concentration de capacités de calcul IA comme un élément clé de la compétitivité nationale, et a affiché son objectif de « fournir une IA démocratique aux pays du monde entier »
• Après cette annonce, OpenAI a dévoilé un partenariat avec les Émirats arabes unis pour construire un centre de données IA de dernière génération. L’entreprise a précisé que ce partenariat « repose sur des valeurs démocratiques »

L’état de la démocratie aux Émirats arabes unis

• Selon l’évaluation 2024 de Freedom House, les Émirats arabes unis obtiennent 18 points sur 100, un score inférieur à celui d’Haïti, du Zimbabwe ou de l’Irak
• Les Émirats arabes unis sont une monarchie héréditaire caractérisée par une concentration du pouvoir politique, l’interdiction des partis, un droit de vote limité et un conseil consultatif sans véritable pouvoir législatif
• Les candidats et militants qui critiquent le gouvernement, défendent les droits humains ou réclament des réformes politiques sont détenus, et leurs familles peuvent également faire l’objet de surveillance et de sanctions
• Les médias pratiquent l’autocensure ou subissent une censure directe du gouvernement, et les manuels scolaires comme les programmes éducatifs sont eux aussi censurés
• Les travailleurs migrants, qui représentent 90 % de la population, n’ont pas de droits politiques, et les problèmes d’exploitation du travail y sont graves. Des ONG internationales de défense des droits humains dénoncent aussi la persistance de formes d’esclavage moderne

Critique de la logique de l’« IA démocratique » d’OpenAI

• OpenAI et Chris Lehane, responsable des politiques publiques mondiales, affirment qu’étendre la technologie IA américaine revient à diffuser des valeurs démocratiques
• Leur argumentation principale est la suivante
  1. L’IA américaine incarne des valeurs démocratiques, donc sa diffusion à l’étranger favoriserait la progression de la démocratie
  2. Dans la compétition entre les États-Unis et la Chine sur l’IA, une victoire américaine serait directement liée à la défense de la démocratie
• En pratique, le simple fait d’élargir l’accès à ChatGPT aux Émirats arabes unis ne garantit ni une véritable liberté d’expression, ni un progrès démocratique immédiat
• Il n’est même pas certain de savoir si les services seront adaptés aux critères de censure locaux. La réponse de la COO d’OpenAI, indiquant qu’ils allaient « en discuter avec le gouvernement », tend d’ailleurs à le confirmer

Effets d’un soutien en technologies de supercalcul à un gouvernement autoritaire

• Une infrastructure de supercalcul IA de grande ampleur s’impose comme un levier majeur de la puissance étatique
• Ce partenariat pourrait permettre aux Émirats arabes unis d’obtenir un accès important, voire une forme de contrôle ou de propriété, sur des puces IA de pointe
• Comme l’a indiqué Lehane, cet accord constitue un moteur essentiel pour faire entrer les Émirats arabes unis dans le cercle des grandes puissances de l’IA
• La diplomatie américaine, guidée par des considérations pragmatiques, peut y trouver un intérêt, mais les implications négatives en matière de renforcement d’un régime autoritaire sont également importantes

Conclusion et points de vigilance

• Cela ne signifie pas qu’une coopération dans les semi-conducteurs et l’IA soit en soi nécessairement négative
• La plupart des détails du contrat entre OpenAI et les Émirats arabes unis restent non publics ou encore non arrêtés
• Il reste toutefois clair que cet accord ne pourra être conclu qu’à des conditions acceptables pour la famille royale des Émirats arabes unis → son pouvoir de promotion de la démocratie sera donc limité
• L’objectif affiché par OpenAI de mettre la technologie IA au service de l’intérêt de toute l’humanité, et la question bien réelle de la gouvernance et de la répartition du contrôle, sont deux sujets entièrement distincts
• Ce cas peut être interprété comme un signal montrant qu’OpenAI pourrait ne pas prendre suffisamment au sérieux la tension entre son discours de principe et les risques très concrets (concentration du pouvoir, recul démocratique)

[GN⁺]

Commentaires Hacker News

• Ce que je déteste vraiment, c’est cette tendance à toujours trouver des excuses ou des exceptions particulières pour des entreprises très médiatisées comme OpenAI. En réalité, c’est le genre de choses que des géants industriels beaucoup moins visibles comme Cisco ou Oracle font depuis des décennies. L’analyse de ce que fait OpenAI ne devrait pas être le début et la fin de toute discussion
  • Cisco et Oracle ne se sont jamais lancés comme organisations à but non lucratif en proclamant dès le départ qu’ils servaient un avenir meilleur pour l’humanité. Ce n’est pas très différent de Google, qui avait autrefois pour devise « ne pas faire le mal » avant d’y renoncer et de se faire critiquer pour cela. Et je ne trouve pas non plus convaincant l’argument selon lequel, sous prétexte qu’on a laissé passer les fautes d’une entreprise, il ne faudrait plus exiger des standards plus élevés des suivantes
  • La politique est l’art du possible. Même si c’est agaçant, on peut être reconnaissant qu’il y ait au moins une tentative d’agir selon des principes. Bien sûr, les motivations réelles peuvent n’être qu’un habillage, mais dans ce cas précis, même s’il est clair que l’auteur voulait pointer OpenAI du doigt, je trouve que l’argumentation elle-même reste tout à fait convaincante
  • L’industrie technologique vend de grands systèmes informatiques et des technologies avancées aux Émirats arabes unis depuis des décennies. Le contexte d’origine de la scission d’AMD vers GloFo était d’ailleurs en partie lié à l’idée d’implanter une usine de semi-conducteurs de pointe à Abou Dhabi, mais des problèmes très concrets de chaîne d’approvisionnement et de ressources en eau dans le désert ont rendu cela difficile à réaliser
  • C’est encore bien plus ancien que ce que font Cisco et Oracle depuis des décennies. IBM a réellement fourni les machines utilisées dans l’opérationnalisation de l’Holocauste
  • Je pense qu’OpenAI s’est lui-même exposé à ce type de critiques en mettant en avant la « promotion de la démocratie ». Comme il est évident qu’il s’agit en réalité de faire de l’argent, ce genre d’argument lui revient aujourd’hui en boomerang
• J’avais manqué le fait que la catégorie de régimes dictatoriaux évoquée par l’article vise les monarchies du Golfe plutôt que les autoritaires présents aux États-Unis. Premièrement, du point de vue de Nvidia, vendre massivement des GPU à des investisseurs saoudiens solvables est une excellente affaire. Deuxièmement, les monarchies du Golfe dépendent de leurs relations avec les États-Unis et veulent maintenir le système actuel, ne serait-ce que pour éviter une révolution islamique. Troisièmement, l’alimentation électrique des datacenters peut être assurée par le solaire. Est-ce que ces pays surveillent leurs utilisateurs ? Bien sûr. Et il n’est déjà pas difficile de contourner les cadres juridiques locaux via des accords de partage de renseignements avec le GCHQ et la NSA. Rien de particulièrement nouveau ; au final, cela me rappelle surtout qu’il ne faut confier ni mes pensées ni ma vie privée à aucun SaaS
  • En réalité, c’est encore plus sournois que ça. On capte déjà mon historique d’achats, mon adresse, les métadonnées de mes appels et, grâce à DOGE, même des données fédérales. Il n’y a même pas besoin de mon fil de réseaux sociaux pour représenter une menace pour moi. Et cela ne se limite pas au SaaS. Comme tout le web est aspiré à une vitesse folle, j’ai le sentiment que le périmètre de ma vie est déjà bien plus largement exposé
  • Au final, la communauté HN reste un petit groupe, et la grande majorité des gens dans le monde semble non seulement mal informée, mais choisira probablement malgré tout d’abandonner sa vie privée au nom de la commodité. On peut aussi considérer qu’idéalement, il vaudrait mieux empêcher que cette tentation existe dès le départ
• Je pense que développer de la technologie pour des dictateurs, sous quelque forme que ce soit, n’est pas positif pour la démocratie. Le cœur d’une démocratie en bonne santé, c’est de maximiser la richesse des classes qui travaillent. C’est lorsque les gens disposent d’assez de temps, de moyens et d’éducation pour prendre soin d’eux-mêmes, de leur famille et de leur communauté qu’une participation démocratique significative devient possible. Il vaudrait mieux ne rien développer au service de dictateurs, qu’ils soient aux États-Unis, dans le Golfe, en Russie ou ailleurs, même si ce n’est évidemment pas simple en pratique
  • La participation démocratique et la réalité des États dictatoriaux me semblent être deux sujets un peu distincts. Au contraire, plus le progrès technologique s’accélère, plus les tendances dystopiques s’aggravent dans les sociétés occidentales, en particulier aux États-Unis. À l’inverse, les dictatures du Moyen-Orient ont depuis longtemps de solides systèmes de protection sociale et, avec leur faible population, elles sont bien placées pour capter plus efficacement les bénéfices du boom de l’IA
• Je pense que la valeur intrinsèque des LLM réside dans leur capacité à démultiplier la puissance des messages diffusés dans toute la société. À l’avenir, tout le monde sera entouré de pseudo-messages émis par des entités non humaines. Cela démontre que la seule manière de contrôler Internet consiste finalement à le « noyer » sous un volume massif de messages
  • Si par hoi polloi on entend le grand public, alors en pratique il utilisera ces outils surtout à des fins commerciales, tout en restant accro aux réseaux sociaux par soif d’interactions humaines. Si l’on parle plutôt des élites, elles utilisent déjà depuis longtemps des êtres humains comme boucliers pour appliquer cette méthode, et continueront tant qu’elles en auront les moyens
  • L’expression « démultiplication de la puissance » résume bien, à mes yeux, l’essence de mon inquiétude
  • J’ai du mal à croire à cette attitude qui consiste à affirmer comme une évidence l’utilité intrinsèque des LLM, au point d’en faire une certitude issue d’un excès de confiance dans son propre savoir et son imagination. Cela me fait penser à la perspective de ceux qui, en 1780, prétendaient pouvoir trancher sur la nature essentielle de la machine à vapeur
  • Je vois souvent passer l’idée que les LLM serviront à amplifier les messages, mais je ne la considère pas du tout comme allant de soi. Je suis plutôt introverti, je ne suis qu’un tout petit nombre de médias et j’évite volontairement les interactions en ligne. Avant l’arrivée des réseaux sociaux, cette façon de faire était plutôt normale. Si les LLM prolifèrent, n’assistera-t-on pas au contraire à un retour à des formes plus primitives d’usage du réseau ? Et même si l’on dit que le contrôle d’Internet passe par l’ensevelissement sous les messages, en réalité les États n’hésitent pas à recourir au droit, donc la situation est plus complexe
  • J’ai du mal à être d’accord avec cette affirmation. La presse et les médias sont déjà remplis à l’excès de déchets informationnels, et la capacité d’attention moyenne des gens est déjà saturée. Ajouter encore du contenu disparate généré par l’IA ne changera probablement pas grand-chose. Le contrôle d’Internet repose finalement sur l’intervention directe des gouvernements et sur la régulation
• À mon avis, plus une technologie est avancée, plus elle porte en elle la possibilité qu’un gouvernement, quel qu’il soit, dérive vers une forme plus autoritaire ou totalitaire. La tentation de tout contrôler agit fortement sur les détenteurs du pouvoir, et cela tend à déboucher sur une gouvernance terrible du pays et de sa population
• Indépendamment des standards moraux de Sam Altman, je me demande s’il existe réellement une différence essentielle entre, d’un côté, des démocraties qui oppriment, exercent la violence et occupent d’autres peuples (États-Unis, Israël, Inde) et, de l’autre, des dictatures du camp opposé (Arabie saoudite, Chine, Corée du Nord)
  • Lorsqu’une population gouvernée n’a pas de voix directe, l’expression même de « pays démocratique » devient étrange
  • Si l’on ignore les différences pour tout comparer sur le même plan, il devient impossible de tracer des distinctions fondamentales. Et présenter les victimes des dictatures comme si elles n’étaient qu’une petite minorité fait oublier qu’il s’agit en réalité de milliards de personnes opprimées
• Personnellement, je trouve bien plus réaliste de faire affaire avec les Émirats arabes unis et d’en tirer profit que de laisser l’avantage à la Chine. Il est déjà démontré qu’on ne peut pas contenir indéfiniment le Moyen-Orient. Au final, vu sous l’angle de la realpolitik, c’est le meilleur choix, presque comme une décision prise dans une partie de Hearts of Iron grandeur nature. Si l’Arabie saoudite reste de toute façon une dictature, alors autant y trouver son intérêt maintenant
• La démocratie elle-même est une structure incapable de servir la démocratie. J’ai l’impression que c’est déjà une idée en échec
• Je me souviens que, dans 1984, l’idée centrale était que chaque foyer était équipé d’un téléviseur qui surveillait en permanence ses occupants. Jusqu’ici, cela relevait surtout d’une fantaisie dystopique, car il était impossible que quelqu’un « comprenne » en temps réel tout le monde pour les surveiller. Mais avec l’arrivée récente des LLM/GenAI, une simple machine équipée d’un GPU dans chaque foyer suffit désormais pour mettre en place des alertes précoces sur des pensées jugées dangereuses. Il pourrait même être plus réaliste de concevoir volontairement des systèmes ne laissant subsister qu’une quantité limitée de ressources de calcul. Une AGI pourrait écouter les deux camps et garder une certaine neutralité, mais des agents LLM à sens unique n’en sont pas capables. À l’heure actuelle, au moins six entreprises, dont OpenAI et Apple, développent des appareils domestiques d’écoute permanente fondés sur les dernières technologies de GenAI. Une IA qui observe l’ensemble de votre vie pour en saisir le contexte peut aussi connaître vos goûts, vos opinions politiques, etc. Cela pourrait très facilement être détourné par un gouvernement autoritaire. On a déjà vu presque en temps réel que TikTok pouvait déduire l’orientation sexuelle ou les centres d’intérêt d’un utilisateur même sans disposer de ses données explicites. Des appareils fondés sur des LLM peuvent inférer les intentions de vote ou la probabilité de participation à des manifestations simplement en analysant les habitudes de visionnage, les conversations et les expressions émotionnelles. Helen Toner s’inquiète de la démocratie sur un autre continent, mais moi, ce qui me fait peur, c’est que le cœur même du camp démocratique semble déjà à deux doigts de mettre en œuvre une société orwellienne. Étape 1 : pousser tout le monde à installer ce type d’appareil chez soi (déjà en cours). Étape 2 : faire pression sur les entreprises concernées pour qu’elles utilisent ces appareils conformément à la volonté du pouvoir (reste à accomplir)
  • Classer les comportements en mode binaire « dangereux/sûr » ne relève pas à l’origine de l’IA générative ; c’était déjà faisable depuis longtemps avec le machine learning classique et des modèles de classification. Ce n’est pas un besoin spécifique aux LLM, et dans les faits, des modèles de ML traditionnels sont plus efficaces
• L’article Wikipédia de Chris Lehane n’est pas encore à jour à la hauteur de son véritable parcours Chris Lehane - Wikipedia Une carrière exceptionnelle comme fixer