- OpenAI présente OpenAI for Countries et Stargate UAE comme un moyen de diffuser une « IA démocratique », mais les éléments montrant que la construction d’un grand datacenter d’IA aux Émirats arabes unis favoriserait la démocratie sont faibles
- Les Émirats arabes unis ont obtenu 18/100 dans l’évaluation 2024 de Freedom House, et sont associés à des problèmes tels que le monopole du pouvoir par une monarchie héréditaire, l’interdiction des partis politiques, l’interdiction de critiquer le gouvernement, l’emprisonnement d’activistes, la censure des médias et l’exploitation des travailleurs migrants
- L’argumentaire d’OpenAI se divise entre « l’IA américaine diffuse des valeurs démocratiques » et « si les États-Unis remportent la course à l’IA contre la Chine, c’est favorable à la démocratie », mais rien n’indique que Stargate UAE vise à fournir un accès non censuré ou des outils pro-démocratiques
- Les grandes infrastructures de calcul pour l’IA deviennent des actifs essentiels du pouvoir étatique et, compte tenu des sommes considérables investies par la famille régnante des Émirats, l’influence du gouvernement émirati risque fortement de croître via l’accès à des puces IA avancées, ou leur propriété
- Les transactions portant sur les semi-conducteurs et les infrastructures d’IA ne sont pas toujours mauvaises, mais les promouvoir comme un projet démocratique alors que le nombre de puces, les droits de propriété et d’utilisation, ainsi que les conditions empêchant le transfert de technologies vers la Chine ne sont pas publics, relève d’un habillage dangereux
Le prétexte de l’« IA démocratique » d’OpenAI et Stargate UAE
- Début mai, OpenAI a annoncé OpenAI for Countries et indiqué vouloir aider les pays à construire leurs infrastructures d’IA, en lien avec Stargate, en cours de développement notamment au Texas, aux États-Unis
- Le cœur de l’annonce repose sur l’idée que les grandes infrastructures d’IA deviendront un actif de base pour la croissance économique future et le développement national, et qu’il faut offrir une alternative à l’IA autoritaire aux pays qui veulent des « rails d’IA démocratiques »
- OpenAI a ensuite annoncé un partenariat pour construire un grand datacenter d’IA aux Émirats arabes unis, présenté comme un projet enraciné dans des « valeurs démocratiques »
- La critique porte sur le fait que le premier grand accord conclu par OpenAI au nom de la démocratie ne concerne pas un véritable pays démocratique, mais les Émirats arabes unis
Le système politique et la situation des droits humains aux Émirats arabes unis
- Dans les scores par pays 2024 de Freedom House, les Émirats arabes unis ont obtenu 18/100, un niveau inférieur à Haïti, au Zimbabwe et à l’Irak
- Score de liberté : {p:18}
- Le système politique des Émirats arabes unis repose sur une monarchie héréditaire qui monopolise le pouvoir
- Les partis politiques sont interdits
- Les candidats peuvent se présenter comme indépendants, mais il leur est difficile de contester réellement le système
- Seule la moitié des sièges du conseil consultatif est élective, l’autre moitié étant nommée par le gouvernement
- Ce conseil consultatif n’a pas de véritable pouvoir législatif
- La critique du gouvernement est interdite, et les candidats et activistes qui réclament des droits humains ou des réformes politiques sont emprisonnés ou font l’objet de procès de masse
- Même les familles des dissidents emprisonnés sont systématiquement surveillées et sanctionnées
- Les médias pratiquent l’autocensure ou subissent une censure active de la part du gouvernement, et peuvent dans certains cas être fermés
- Environ 90 % de la population des Émirats arabes unis est composée de travailleurs migrants sans droits politiques, et des problèmes d’exploitation au travail, tels que la confiscation des passeports, les salaires impayés et le travail forcé sous une chaleur extrême, sont régulièrement soulevés
- Une organisation de défense des droits humains estime que les Émirats arabes unis ont la 7e prévalence la plus élevée au monde de formes modernes d’esclavage
Les deux volets de l’argument démocratique d’OpenAI
- Chris Lehane, responsable des affaires mondiales d’OpenAI, a soutenu dans une tribune publiée par The Hill que les valeurs démocratiques doivent façonner l’avenir de l’IA, et que si les États-Unis n’aident pas les pays qui veulent construire de l’IA, des dictateurs combleront ce vide
- L’explication d’OpenAI se divise globalement en deux arguments
- L’IA américaine porte des valeurs démocratiques ; la rendre accessible à davantage de personnes favoriserait donc la diffusion de la démocratie
- Les États-Unis sont une démocratie, contrairement à la Chine ; il est donc favorable à la démocratie que les États-Unis remportent la « course » à l’IA
- Le premier argument peut se défendre dans une certaine mesure dans des situations extrêmes, mais il s’applique mal à l’accord avec les Émirats arabes unis
- Si un pays interdisait l’accès à des chatbots IA non censurés, puis l’autorisait, cela pourrait servir les valeurs démocratiques du point de vue de la liberté d’information
- Fournir des outils IA pro-démocratiques contre la volonté d’un gouvernement non démocratique pourrait aussi avoir un sens, dans une mesure limitée
- Mais rien ne montre que Stargate UAE cherche à réaliser ce type de scénario
- OpenAI a présenté les Émirats arabes unis comme le premier pays au monde à activer ChatGPT à l’échelle nationale, mais on ne sait pas clairement si ChatGPT y était auparavant restreint, ni pourquoi les États-Unis, l’Australie ou le Canada, par exemple, ne relèveraient pas d’une « activation nationale »
- Certains articles ont aussi affirmé que ChatGPT Plus serait offert gratuitement aux résidents des Émirats arabes unis, mais il s’agissait de fake news
Le fonctionnement de ChatGPT et les lignes de censure aux Émirats arabes unis
- Rien n’indique que ChatGPT sera exploité aux Émirats arabes unis de manière plus démocratique que d’autres outils d’IA
- Les résidents des Émirats arabes unis semblent déjà pouvoir accéder à d’autres produits d’IA américains comme Gemini, Claude ou Llama
- Brad Lightcap, COO d’OpenAI, a été interrogé sur le fait de savoir si ChatGPT respecterait aux Émirats arabes unis des « red lines » sur des sujets sensibles comme la critique de la famille régnante ; il a répondu : « Nous ne le savons pas encore. Nous devons travailler avec le pays et dans le cadre du partenariat »
- Cette réponse n’exclut pas la possibilité que ChatGPT soit ajusté pour ne pas entrer en conflit avec les lignes de censure politique existantes aux Émirats arabes unis
Infrastructures de calcul IA et pouvoir étatique
- Le second argument, celui de la compétition IA entre les États-Unis et la Chine, peut être relativement plus convaincant
- Les ressources de calcul jouent un rôle important dans la réussite en IA
- Construire de grands datacenters aux États-Unis est aujourd’hui considéré comme difficile
- Si d’autres pays fournissent les financements, l’énergie et les autorisations, les entreprises américaines peuvent accéder à davantage de ressources de calcul et créer de meilleurs systèmes d’IA
- Mais une lecture limitée aux États-Unis et à la Chine passe à côté des implications plus larges de l’accord avec les Émirats arabes unis
- Les grandes infrastructures de calcul, en particulier les supercalculateurs IA de classe mondiale composés de centaines de milliers d’accélérateurs IA de pointe, deviennent un moteur important du pouvoir étatique
- De ce point de vue, Stargate UAE est un accord qui accroît fortement la puissance du gouvernement émirati et son influence dans l’IA
- Les informations publiques laissent très floue la question de savoir qui possède les ressources de calcul et qui a le droit de les utiliser, mais étant donné les sommes considérables dépensées par les Émirats arabes unis, il est difficile d’imaginer qu’ils n’obtiennent pas un accès substantiel à ces puces, voire leur propriété
Les conditions et incertitudes des accords IA et semi-conducteurs dans le Golfe
- Conclure des accords sur les semi-conducteurs avec les pays du Golfe n’est pas intrinsèquement une mauvaise chose
- Les détails de plusieurs accords similaires à celui d’OpenAI avec les Émirats arabes unis n’ont pas été rendus publics, et certains ne sont pas encore finalisés
- Les États-Unis coopèrent depuis longtemps avec les gouvernements autoritaires du Golfe pour des raisons de sécurité nationale et, dans une perspective froide de realpolitik, il peut exister des formes d’accord dont les bénéfices dépassent les coûts
- Pour juger a posteriori si les États-Unis ont conclu un bon accord, les conditions suivantes seront importantes
-
Nombre de puces
- Propriété et droits d’utilisation des ressources de calcul
- Garde-fous contre le transfert de technologies vers la Chine
- Toutefois, même dans la meilleure version possible de l’accord Stargate UAE, les conditions devront rester acceptables pour la famille régnante des Émirats arabes unis ; il est donc difficile de voir ce partenariat devenir un puissant levier de promotion de la démocratie
-
La mission d’OpenAI et le problème de la concentration du pouvoir
- Si OpenAI était une entreprise commerciale ordinaire, ou si l’IA était une technologie moins cruciale, l’importance de la communication autour de cet accord serait moindre
- Mais OpenAI se présente comme une organisation à but non lucratif guidée par une mission et comme une entité qui cherche à créer une technologie très puissante
- Sa mission, « faire en sorte que l’IA bénéficie à toute l’humanité », est souvent simplifiée en construction d’une AGI sûre, mais développer réellement une technologie capable de transformer le monde de façon bénéfique pour tous est bien plus complexe que simplement « la rendre sûre » ou « la fabriquer aux États-Unis »
- La question de savoir qui a accès aux systèmes d’IA puissants et qui en a le contrôle est centrale pour déterminer qui en bénéficiera
- Faire progresser l’IA sans creuser les écarts de pouvoir existants, sans renforcer les régimes autoritaires et sans affaiblir le pouvoir des gens ordinaires reste un problème non résolu à l’échelle de la civilisation
- Présenter Stargate UAE comme un projet démocratique ressemble surtout à un signal qu’OpenAI ne prend pas suffisamment au sérieux ces défis
1 commentaires
Commentaires Hacker News
Je suis globalement d’accord avec cette orientation, mais je trouve frustrant qu’il y ait autant de plaidoyer spécial quand on compare ce que font des entreprises célèbres comme OpenAI avec ce que de grands acteurs industriels moins médiatisés comme Cisco et Oracle font depuis une génération
Une analyse qui commence et se termine avec OpenAI est moins convaincante
Ce n’est pas différent de Google qui a été critiqué après avoir abandonné son “do no evil”. Et ce n’est pas parce qu’une entreprise a pu mal agir par le passé sans conséquence qu’il ne faudrait pas attendre de meilleures normes d’autres entreprises à l’avenir
La scission de GloFo par AMD visait à l’origine à installer une fab de pointe à Abu Dhabi, mais elle s’est heurtée à la réalité de faire quelque chose dans le désert, avec une mauvaise chaîne d’approvisionnement et sans eau douce
C’est agaçant, mais on peut au moins être reconnaissant que des gens essaient de s’organiser autour de principes. Même si ces principes ne semblent pas être leur véritable motivation. Dans ce cas, l’auteur écrit clairement en grande partie parce qu’il déteste particulièrement OpenAI, mais l’argument lui-même est bon
Signaler que Joe s’est garé illégalement n’est pas du “plaidoyer spécial”. Ce n’est pas ce que signifie cette expression
Celui-là même qui avait licencié Sam Altman
L’article ne parle pas de dictateurs américains, mais de dictateurs des monarchies du Golfe, ce qui a été manqué
C’est très simple. Premièrement, du point de vue de Nvidia, vendre en masse des cartes graphiques à des investisseurs saoudiens de confiance ressemble à une excellente idée. Deuxièmement, les monarchies du Golfe dépendent des États-Unis et veulent éviter une révolution islamique. Troisièmement, elles veulent utiliser des panneaux solaires pour alimenter les datacenters.
Vont-elles surveiller les utilisateurs ? Évidemment. Et le GCHQ et la NSA peuvent conclure des accords de partage de renseignement pour contourner leurs lois nationales. Il n’y a rien de nouveau. Il ne faut simplement confier ses pensées à aucun service SaaS
Ils ont déjà mon historique d’achats, mon historique d’adresses, les métadonnées de mes appels, et maintenant, avec DOGE, une bonne partie des données fédérales. Ils n’ont pas besoin de mon fil Twitter pour devenir hostiles à mes intérêts.
Et comme ils aspirent aussi le Web à une échelle délirante, je pense que la frontière dépasse largement le SaaS
Les autochtones sont minoritaires, les forces de sécurité sont toutes composées d’étrangers directement rattachés aux dirigeants, et dans certains cas elles dépassent en nombre toute la population autochtone. Les autochtones vivent aussi trop confortablement pour avoir beaucoup d’incitation à tout risquer
Je m’attends plutôt à ce que cela devienne l’une des pires sources de pollution de la course à l’IA. La tentation de brûler du pétrole et du gaz disponibles en quantité quasi illimitée est trop forte
D’un certain point de vue, il vaut mieux éviter que cette tentation existe dès le départ
Il me semble évident que l’utilité principale des LLM est d’être un multiplicateur de puissance pour amplifier les messages envoyés à la société
Chaque membre du grand public se retrouvera enfermé sous une épaisse couverture de communications et d’interactions quasi clonées, dont la plupart ne seront pas humaines. La seule manière de contrôler Internet s’est finalement révélée être de le submerger, comme si on le noyait
Je suis plutôt introverti, et je me demande si vous l’êtes aussi, ou au contraire l’inverse. En général, je lis certains médias et je ne recherche pas “d’interactions” en ligne, et j’évite complètement les réseaux sociaux. Avant les réseaux sociaux, c’était courant. Je me demande si vous pensez qu’il n’y a aucune chance que l’abus des LLM ramène les gens vers des usages plus primitifs du réseau.
Et vous dites que pour contrôler Internet, il suffit de le submerger, mais on voit aussi, en pratique, des acteurs dépenser sans compter pour manipuler la loi. Il y a plus en jeu que le simple fait de rabaisser le “grand public”
En 1780, quelle utilité principale les gens attribuaient-ils à la machine à vapeur ?
On pourrait utiliser ce genre de chose pour des échanges commerciaux, mais ce qui retient les gens sur les réseaux sociaux, c’est un besoin d’interaction sociale qui n’est pas satisfait de cette manière. Et si cela désigne les élites, non plus. Elles le font déjà en utilisant des personnes comme amortisseurs, et elles continueront probablement à le faire si elles sont assez riches
Les médias débordent déjà de déchets collants bien au-delà de ce qu’un individu peut encaisser. L’attention moyenne est déjà saturée, donc je doute qu’ajouter encore plus de déchets générés par l’IA change grand-chose.
La manière de contrôler Internet, c’est littéralement de le contrôler. Comme les gouvernements le font déjà
Construire quelque chose pour des dictateurs a, franchement, de fortes chances de ne pas être bon pour la démocratie
Si l’on veut une démocratie en bonne santé, il vaut mieux maximiser la richesse de la classe ouvrière. Les personnes qui ont assez de marge pour prendre un peu soin d’elles-mêmes, de leur famille et de leur communauté peuvent avoir le temps et l’éducation nécessaires pour participer de manière significative à la démocratie.
Que l’on construise pour un dictateur américain, un dictateur d’un pays du Golfe ou un dictateur russe, il vaudrait peut-être mieux ne pas le faire. Bien sûr, c’est plus facile à dire qu’à faire
Je me demande ce que signifie participer à la démocratie dans un pays dictatorial.
Ironiquement, plus la technologie progresse vers la singularité, ou quelque chose d’approchant, et automatise la plupart des emplois peu ou moyennement qualifiés, plus on voit de tendances dystopiques en Occident, en particulier aux États-Unis. À l’inverse, ces pays dictatoriaux disposent depuis longtemps de systèmes de protection sociale solides pour leurs citoyens, et désormais aussi pour leurs résidents ; leur faible population les place en bonne position pour tirer parti du boom de l’IA
Je pense que les implications vont plutôt dans le sens inverse
Une technologie suffisamment influente peut rendre n’importe quel gouvernement dictatorial et totalitaire. Pour ceux qui détiennent le pouvoir, vouloir tout contrôler est la tentation suprême, et c’est de là que naissent des États terribles et une gouvernance terrible des populations
Il suffit de se rappeler que, dans 1984 d’Orwell, l’idée centrale était qu’une télévision présente dans chaque foyer regardait en permanence, et que quelqu’un derrière cet appareil comprenait réellement ce qu’il voyait.
C’est cette dernière partie qui passait pour dystopique. Il ne pouvait pas y avoir assez de gens pour regarder et comprendre tout le monde toute la journée, sans parler de la question de savoir qui surveille les surveillants. 1984 relevait presque du fantasme terrifiant, faute de moyen pratique pour le réaliser.
Pour la première fois dans l’histoire, les nouveaux LLM/IA génératives rendent cette partie de 1984 réaliste. Pour déclencher une alerte précoce sur des « pensées dangereuses », il suffit d’un GPU par foyer, et c’est déjà possible ou le sera bientôt. Le fait que la puissance de calcul allouée à chaque foyer soit faible, ne permettant de faire tourner qu’une intelligence basique et médiocre, est même parfait. Une AGI pourrait, au moins en théorie, écouter les deux camps, examiner la situation d’ensemble et prendre parti pour le camp opposé ; un agent LLM simpliste n’en est pas capable.
D’après certaines informations, au moins six entreprises, dont OpenAI et Apple, travaillent sur des appareils domestiques qui surveillent en permanence, avec une IA générative de pointe en backend. Pour vous aider utilement en une seule phrase, il leur faut suffisamment de contexte, donc voir toute votre vie récente. En même temps, cela suffit à savoir pour qui vous allez voter, à quelle manifestation — pas encore annoncée — vous comptez aller, et quelle est la meilleure manière de vous effrayer pour vous en dissuader. C’est un peu comme la différence entre un outil pour planter des clous et une arme de meurtre : dans les deux cas, c’est le même marteau.
Lors de la campagne TikTok-Chine, beaucoup de personnes LGBT ont publié des vidéos racontant à quelle vitesse TikTok avait découvert leur orientation sexuelle. Sans liker aucune vidéo, sans suivre personne, sans fournir d’informations de profil traçables — parfois même avant qu’elles ne se l’avouent à elles-mêmes. TikTok le comprend simplement en observant ce que l’utilisateur regarde et pendant combien de temps. Il suffit de rester bien plus longtemps sur des vidéos de sportives que sur des vidéos de sportifs, ou l’inverse. Cela semblait destiné à faire peur sur tout ce que la Chine peut apprendre des Américains rien qu’à travers l’utilisation d’une app.
Si cela fait peur, voici pire encore. Un appareil avec un backend LLM peut déjà faire bien davantage rien qu’en observant quelles émissions vous regardez, à quels moments vous riez et ce que vous dites à la personne à côté de vous. Il n’a peut-être même pas besoin d’être multimodal. Des sous-titres et de la transcription vocale pourraient suffire. Il pourrait détecter votre envie de vous opposer à l’autoritarisme à venir avant même que vous ne vous l’avouiez.
Pendant que Helen Toner s’inquiète de la démocratie à l’autre bout du monde, le rempart de la démocratie s’est peut-être rapproché à deux dernières étapes de la première implémentation fonctionnelle d’une société orwellienne. Étape 1 : convaincre tout le monde d’installer ce type d’appareil chez soi dans son propre intérêt — c’est en cours. Étape 2 : intimider ou prendre le contrôle de l’entreprise qui possède ces appareils pour les utiliser à des fins qui ne servent pas nos intérêts — cela reste à faire.
« Il n’y avait naturellement aucun moyen de savoir si, à un moment donné, on était surveillé. On ne pouvait que conjecturer à quelle fréquence, ou selon quel système, la Police de la pensée se branchait sur les lignes individuelles. Peut-être surveillait-elle tout le monde en permanence. Mais, en tout cas, elle pouvait se brancher sur votre ligne quand elle le voulait. Il fallait vivre — et l’on vivait, par habitude devenue instinct — dans l’hypothèse que tout son émis par vous était entendu et que, sauf dans l’obscurité, tout mouvement était observé. »
Cela dit, il est vrai que, pour la première fois dans l’histoire, de nombreux États s’approchent d’une véritable surveillance totale des communications.
La sortie n’est pas une explication textuelle, mais un oui/non binaire. On peut le faire avec un LLM, mais il est très probable qu’un modèle de machine learning spécifique entraîné sur le même jeu de données soit meilleur sur presque toutes les métriques quantitatives ; et cette technologie existait bien avant l’arrivée des transformers.
Une sorte de Police de la pensée à l’échelle du quartier.
Toute activité commerciale avec des dictateurs et des régimes dictatoriaux devrait être interdite.
Je pense qu’il est acceptable de faire des affaires avec les 100 premiers pays de cette liste : https://en.wikipedia.org/wiki/The_Economist_Democracy_Index
Faire des affaires avec les autres ne fait que renforcer des régimes inhumains, et malheureusement ces régimes ne tuent pas seulement leurs propres citoyens : ils attaquent aussi leurs voisins. Regardez l’Ukraine, et peut-être bientôt Taïwan. L’argent a une odeur.
Une grande partie de la richesse des pays développés s’est construite en exploitant la corruption des pays en développement. Cela crée donc une incitation à les laisser rester corrompus, tant qu’ils coopèrent avec les puissances occidentales et vendent à bas prix leurs ressources et le travail de leurs populations aux entreprises occidentales.
Il vaut mieux faire des affaires avec les Émirats arabes unis et en retirer des bénéfices que laisser ces bénéfices finir par aller à la Chine.
Les tentatives pour maintenir indéfiniment le Moyen-Orient sous pression n’ont manifestement pas fonctionné ; ce qui se fait maintenant relève donc de la realpolitik, et la réponse me paraît évidente. L’Arabie saoudite sera de toute façon autoritaire, et c’est comme bien jouer à une version réelle de Hearts of Iron.
Les inconvénients sont clairs. Cela revient en pratique à armer des gens dont la vision du monde est fondamentalement incompatible avec la nôtre et qui, au mieux, sont aujourd’hui des alliés de convenance. Et rien ne garantit non plus que ce que nous leur donnons ne sera pas revendu à la Chine. Étant donné que ces régimes sont notoirement corrompus, je dirais même que c’est quasiment certain.
Quoi qu’il en soit, il n’est pas évident que quiconque parmi les « responsables » s’en soucie.
En fait, c’est peut-être bien là l’essentiel.
Le plus grand risque de l’IA n’est pas une rébellion, mais le fait qu’elle permette aux dictateurs et aux totalitaires d’exercer un contrôle total sur toute la population
Des algorithmes suffisamment avancés peuvent retrouver tout ce qu’une personne a publié en ligne, par recoupement, analyse du style, etc., et déterminer avec une grande précision ses points de vue et opinions. Ils peuvent aussi extrapoler la manière dont ces opinions ont évolué.
Un gouvernement peut cibler un dissident avant même qu’il ne se rende compte qu’il en est un, et bien avant qu’il ait le temps de s’organiser
L’analyse stylistique est un domaine bien étudié. On peut se rassurer en sachant qu’elle n’est pratique que lorsque le nombre d’auteurs suspects d’un message est faible et que l’on dispose, pour chacun, de suffisamment de texte comme échantillon. Autrement dit, dans une situation où tout le monde est un suspect potentiel, relier un message anonyme à son auteur est, dans la plupart des cas, totalement impossible. Même dans les quelques cas où c’est praticable, cela ne produit au mieux qu’un signal faible justifiant une enquête supplémentaire.
L’article de Greenstadt et al., « Adversarial Stylometry: Circumventing Authorship Recognition to Preserve Privacy and Anonymity », pourrait être intéressant à lire
Pour Trump non plus, clairement. Des gens sont expulsés sans preuves, parfois même sans inculpation officielle. C’est le cœur de l’autoritarisme : faire ce que veut le dirigeant. Ce qui rend Trump possible, ce n’est pas l’IA, mais un système de contre-pouvoirs impuissant. De même, W a menti sur les armes de destruction massive pour se lancer dans une guerre sans fin. Peu importait que la raison ne soit pas vraie. Il s’en est tiré et s’est enrichi, lui et ses amis du complexe militaro-industriel, aux dépens du peuple américain
https://www.newsweek.com/donald-trump-database-palantir-dyst...
mais à une échelle bien plus grande
On observe aujourd’hui une tendance à la concentration croissante du pouvoir entre les mains d’individus fortunés, et cela devient plus visible dans la sphère publique. Il est aussi notable que ces personnes se trouvent à l’avant-garde de la propriété et du contrôle du développement de l’intelligence artificielle. Par coïncidence, cette tendance est souvent appelée « techno-fascisme », ce qui nous ramène finalement à une configuration dictatoriale