Les États-Unis et le Royaume-Uni refusent de signer la déclaration de sécurité de l’IA au sommet de Paris
(arstechnica.com)- Lors du AI Action Summit à Paris, environ 60 pays se sont accordés sur une déclaration commune sur la sécurité de l’IA, mais les États-Unis et le Royaume-Uni ont refusé de la signer, révélant des fractures autour de la régulation de l’IA et de la domination industrielle
- La déclaration énonçait le principe selon lequel l’IA doit être ouverte, inclusive, transparente, éthique, sûre, sécurisée et digne de confiance, sans caractère juridiquement contraignant
- Le vice-président américain JD Vance a insisté sur le fait que la régulation de l’IA ne devait pas « freiner » le développement technologique, et a affirmé vouloir construire les systèmes d’IA les plus puissants aux États-Unis avec des puces fabriquées aux États-Unis
- Une source proche du gouvernement britannique a jugé le texte de la déclaration « trop restrictif », et un responsable d’un pays signataire a indiqué que les États-Unis n’avaient pas accepté les références au multilatéralisme et à la coopération internationale
- L’Europe cherche à réduire sa dépendance aux États-Unis et à la Chine en renforçant sa base industrielle dans l’IA, et un plan d’investissement d’environ 200 milliards d’euros dans des data centers et des clusters de calcul a été dévoilé lors du sommet
Fracture des signatures au sommet de l’IA à Paris
- Les États-Unis et le Royaume-Uni n’ont pas signé la déclaration commune du AI Action Summit organisé à Paris
- Environ 60 pays ont approuvé cette déclaration commune, qui visait à rendre les technologies d’IA « sûres, sécurisées et dignes de confiance »
- La déclaration incluait aussi le principe selon lequel l’IA doit être ouverte, inclusive, transparente et éthique
- Elle comportait une formulation évoquant l’examen d’un cadre international pour tous
- L’engagement était non contraignant, mais les États-Unis et le Royaume-Uni avaient déjà signé des déclarations similaires lors de précédents sommets sur l’IA
Pour Washington, la priorité est le leadership dans l’IA plus que la régulation
- Le vice-président américain JD Vance a mis en garde l’Europe contre l’adoption d’une régulation de l’IA « excessivement précautionneuse »
- Vance a déclaré que l’administration Trump veillerait à ce que les systèmes d’IA les plus puissants soient construits aux États-Unis
- Selon cette position, ces systèmes doivent utiliser des puces conçues et fabriquées par les États-Unis
- Le message est interprété comme la volonté de maintenir la position dominante des États-Unis dans les technologies d’IA
- Il a soutenu qu’un régime de régulation international devait favoriser la création de technologies d’IA, et non l’étouffer
- Keegan McBride, de l’Oxford Internet Institute, a qualifié le discours de Vance de « virage à 180 degrés » par rapport à l’administration Biden
Désaccords entre les États-Unis et le Royaume-Uni sur le texte de la déclaration
- La ligne dure des États-Unis s’inscrit dans l’approche « America First » de l’administration Trump
- Une source proche du gouvernement britannique a estimé que le texte de la déclaration était « trop restrictif »
- Un responsable de l’un des pays signataires a indiqué que les États-Unis n’avaient pas accepté les formulations liées au multilatéralisme et à la coopération internationale
- La déclaration commune faisait de l’intensification de la coopération internationale une priorité afin de favoriser la coordination de la gouvernance internationale
- Le même responsable a ajouté que les États-Unis avaient aussi exprimé des inquiétudes au sujet de Current AI, lancé par la France lors du sommet
- Ils craignaient que Current AI puisse servir à orienter des financements vers des pays francophones
Concurrence avec la Chine et tensions provoquées par DeepSeek
- La position ferme des États-Unis intervient dans un contexte de concurrence croissante avec la Chine autour de l’IA
- La compétition s’étend à la fabrication de puces, aux modèles fondamentaux, aux chatbots d’IA et jusqu’à l’énergie nécessaire pour alimenter les superordinateurs
- Le laboratoire chinois peu connu DeepSeek a lancé des modèles d’IA à bas coût, provoquant un choc chez les entreprises de la Silicon Valley
- Des entreprises comme OpenAI pensaient disposer d’un avantage solide
- Vance a mis en garde contre toute coopération avec des « régimes autoritaires » dans les accords liés à l’IA, visant indirectement la Chine
- Il a cité la vidéosurveillance CCTV et la 5G comme précédents, affirmant que des régimes autoritaires avaient exporté des technologies bon marché fortement subventionnées
- Selon lui, une telle coopération lie les pays à des acteurs autoritaires cherchant à infiltrer et à contrôler leur infrastructure informationnelle
Réponse de l’Europe : renforcer sa propre base industrielle dans l’IA
- L’Europe veut se doter d’un socle dans l’industrie de l’IA pour réduire sa dépendance aux États-Unis et à la Chine
- Lors du sommet de deux jours organisé par le président français Emmanuel Macron, les dirigeants européens et les entreprises ont dévoilé des projets d’investissement d’environ 200 milliards d’euros
- Ces investissements visent des data centers et des clusters de calcul destinés à soutenir les efforts européens dans l’IA
- Frederike Kaltheuner, de l’AI Now Institute, a déclaré qu’après le lancement par DeepSeek de modèles ouverts puissants, les Européens avaient perçu une brève opportunité de rivaliser dans l’IA
- McBride estime que la dynamique du sommet de Macron visait à pousser une alternative au développement de l’IA dominé par les États-Unis, mais que les déclarations de Vance ont refroidi cette ambition
1 commentaires
Avis de Hacker News
Une partie de la vie portée par l’accélération technologique au cours des prochaines décennies donnera sans doute l’impression de subir une lobotomie en pleine conscience tout en regardant le processus se dérouler.
On peut imaginer et débattre sans fin de milliers de trajectoires hypothétiques dans lesquelles même des technologies inférieures à une AGI complète dérapent de façon catastrophique, mais les progrès dans cette direction, eux, ne ralentissent ni ne s’arrêtent.
Il suffit d’un seul groupe disposant d’assez d’intelligence collective et de percées pour que la prochaine IA soit livrée jusqu’à notre porte, que nous l’ayons voulu ou non.
C’est un peu comme ces livres lus enfant qui portaient un message de vie important, mais dont on ne comprend le sens que vingt ans plus tard. Le message était bien là, mais à l’époque il manquait l’intelligence émotionnelle et perceptive pour l’intégrer.
À l’invention de l’imprimerie, il y avait des gens avec le même genre d’état d’esprit, et au final ils avaient tort. Si l’on avait suivi leurs « leçons », la société humaine s’en serait trouvée bien plus mal.
La validité des critiques actuelles de l’IA/AGI ne pourra finalement être connue qu’a posteriori.
Dans la tech en particulier, il y a beaucoup trop de gens qui ne se soucient guère de ce qui arrive aux autres tant qu’ils peuvent gagner de l’argent. Ils sont prêts à sacrifier les autres et ne veulent pas partager le bien-être, même au sein de leur propre communauté.
C’est la conséquence inévitable de l’infiltration de sociétés à faible confiance dans des sociétés à forte confiance ; et plus des technologies aux implications dangereuses pour la société se diffusent, plus il y aura suffisamment de gens prêts à œuvrer à l’effondrement social. Il n’y a donc aucun espoir réaliste d’arrêter ce train.
Aujourd’hui, l’entraînement de l’IA nécessite beaucoup de matériel, mais avec seulement un laptop et Internet, il reste possible de mener des recherches et des innovations de pointe sur les architectures et les algorithmes.
Même si une loi déclarant « le progrès de l’IA est illégal » était adoptée, on peut se demander comment elle pourrait être appliquée.
Les peurs imaginaires ne sont pas des peurs réelles. Je ne suis pas d’accord avec l’approche de l’administration actuelle, il faut rester vigilant, et le fait que les personnes susceptibles de tirer d’énormes profits de cette technologie soient autour de la table ne me paraît pas sain.
Mais à part cela, je n’ai pas encore vu de raison concrète d’en faire davantage que d’attendre tout en restant sur ses gardes.
On ne veut pas se retrouver coincé dans un pays qui interdit l’IA, surtout l’IA venue d’autres pays, et perdre sa compétitivité dans le monde émergent.
L’avenir sera difficile ; pourquoi se lier soi-même une main dans le dos ? La prudence et la peur sont deux choses différentes.
L’IA n’est pas comme la fission nucléaire. On ne peut pas détecter à distance si quelqu’un entraîne une IA, et il est déjà bien trop tard pour cloisonner les informations liées à l’IA comme on le faisait pour l’enrichissement de l’uranium.
Le matériel nécessaire à l’entraînement de l’IA est bon marché et courant. Ce genre de « déclaration de sécurité » est édenté et impossible à faire appliquer.
On ne peut pas arrêter l’IA, il faut s’y adapter. Les vidéos et les photos perdront bientôt leur valeur probante, et il faudra accorder plus d’importance aux relations humaines réelles qu’aux relations en ligne, parce qu’on peut savoir que l’autre est une vraie personne.
C’est regrettable, mais rien de ce que l’IA « détruit » n’existait il y a 200 ans, et les gens s’adapteront comme ils l’ont toujours fait. Comme le dit le méchant de comics Toyo Harada : « aucun d’entre vous ne peut m’arrêter. Ni individuellement, ni collectivement. »
Il est possible que cela soit imposé par la loi pour des raisons et selon des modalités similaires à l’obligation du bruit d’obturateur des appareils photo numériques au Japon.
Il y a 200 ans, la population mondiale était d’environ 1 milliard de personnes ; elle est aujourd’hui d’environ 8 milliards. Les anarcho-primitivistes ou les partisans de la décroissance balayent de la même façon les progrès des 200 dernières années, mais ces progrès sont essentiels pour soutenir des systèmes qui maintiennent beaucoup de gens en vie.
Et pourtant, les accords internationaux sur la non-utilisation des armes chimiques ont remarquablement bien tenu.
Là où la confusion apparaîtra, c’est dans l’espace public. En gros, les générations nées entre avant 1975 et aujourd’hui connaîtront une période de confusion d’environ une génération, parce qu’elles ne parviendront pas à exercer leur esprit critique lorsqu’elles verront des images qu’elles ont envie de croire.
Interdire les services fondés sur l’IA comme ChatGPT permettrait aussi de réduire les incitations économiques à investir de l’argent dans ces entraînements.
Parmi les initiatives plus récentes, il y a https://c2pa.org/
Toute cette discussion sur la sécurité de l’IA n’est rien d’autre qu’une tentative d’entreprises comme OpenAI de creuser des douves pour bloquer de nouveaux concurrents comme DeepSeek
Les LLM ne mèneront pas à l’AGI. Ils n’en sont même pas proches. Quand Altman parle de ce risque, c’est un peu comme Musk quand il parle de taxis autonomes
Bien sûr, c’est une technologie impressionnante. Les LLM pourraient un jour, semble-t-il, multiplier par 10 la productivité des personnes dont le métier consiste à interagir toute la journée avec un ordinateur
Ils ne disaient absolument pas cela pour créer les douves d’OpenAI. D’abord, OpenAI n’existait pas à l’époque, l’IA n’était pas du tout proche du niveau actuel, et presque tout le monde trouvait leurs arguments absurdes
On peut ne pas être d’accord, mais balayer tout cela comme un simple argument destiné à soutenir les entreprises d’IA existantes est faux et malhonnête
Pour tout ce que les LLM peuvent percevoir par leurs sens, ils sont, de l’avis général, bien plus intelligents qu’un humain moyen
Si l’on est la puissance dominante du monde, on ne laisse pas d’autres pays définir sa stratégie. C’est aussi simple que ça
Les tentatives de freiner l’IA viendront du camp qui est en train de perdre la compétition. Comme dans l’interview évoquée par Edward Teller, l’Union soviétique a utilisé le moratoire sur les essais nucléaires pour rattraper les États-Unis sur la bombe à hydrogène, et Teller était celui qui avait prévenu les scientifiques idéalistes que cela arriverait
Il est bien connu que la Chine a déjà quasiment rattrapé les États-Unis sur presque tous les plans, et qu’elle est sur le point de les dépasser sur le reste. Il suffit de voir DeepSeek : aussi efficace qu’OpenAI, mais à un coût bien plus faible. Il y a aussi Baidu, Alibaba AI, etc.
L’économie chinoise est sur une trajectoire qui la fera dépasser celle des États-Unis d’ici cinq ans, et pourtant la Chine a signé cet accord. En réalité, la plupart des pays l’ont signé, l’Inde aussi
Ce n’est pas une situation où les perdants créent de nouvelles règles, mais une discussion entre grands pays sur la manière de gérer la situation ; les pays qui se croient trop supérieurs semblent être ceux qui prennent du retard
Cela dit, ces tentatives sont symboliques, et les intéressés le savent. Elles servent seulement à donner l’impression aux consommateurs naïfs d’information, autrement dit aux idiots utiles, que quelque chose est fait
Ayant manqué les années 80, mais ayant traversé les années 90 et 2000 en tant que « hacker », le cours des discussions autour de l’IA me rend profondément triste et mal à l’aise
Imaginez dire aux hackers d’autrefois que, sur un site appelé « hacker news », des gens débattraient pour savoir si le gouvernement devrait criminaliser l’exécution de code sur son propre ordinateur
C’est en contradiction frontale, sur le plan éthique comme philosophique, avec tout ce qui m’a fait tomber amoureux des ordinateurs. Je me demande si les gens y croient vraiment, ou si c’est un récit sophistiqué qui arrange certaines entreprises et certains responsables politiques
Ni la réglementation européenne sur l’IA ni les discussions que j’ai vues ne limitent le hacking de l’IA en lui-même
La réglementation porte sur les usages par les entreprises et les gouvernements, ainsi que sur les cas d’utilisation concrets. Par exemple, empêcher une IA sans responsabilité claire de prendre la décision finale d’embauche, interdire la reconnaissance faciale à grande échelle dans les lieux publics, exiger de la transparence pour l’usage de l’IA dans des domaines à haut risque comme la santé, l’éducation ou la justice, et interdire les IA armées
Puisque tu parles d’éthique, je pose la question : quelle éthique faut-il appliquer à l’IA ? Aucune, seulement certaines règles, ou la même éthique qu’aux humains ? Si l’IA remplace des humains dans la prise de décision, elle doit être tenue responsable comme un humain
Les pays qui disposent d’une AGI sans limites ont de fortes chances de prendre une avance technologique considérable.
À l’inverse, les pays qui s’imposent des restrictions resteront à « l’âge de pierre » dans ce domaine.
En général, les pays où les revenus des élites dépendent du travail de la population produisent de meilleurs résultats pour la majorité que ceux où ce n’est pas le cas. Il suffit de regarder les pays en développement disposant d’abondantes réserves de pétrole.
À quoi mènera l’AGI ? Comme le travail manufacturier a été remplacé, la plupart des emplois intellectuels le seront aussi, et les élites existantes contrôleront l’AGI. Elle pourrait servir à réprimer éternellement toute révolte grâce à une surveillance parfaitement automatisée et omniprésente.
Ce n’est vraiment pas un objectif souhaitable.
[1]: https://en.wikipedia.org/wiki/Resource_curse
Elle existera peut-être un jour. Mais l’« IA » actuelle ne peut pas devenir une AGI, et il n’existe aucune voie pour y parvenir.
Il ne faut pas avaler ce récit tel quel. La réglementation de l’UE ne cherche pas à interdire l’AGI, mais à garantir un minimum de décence lorsque la technologie existe. Les Américains semblent avoir une allergie presque mortelle à ce genre de choses.
Quelques années plus tard, nous envisageons désormais sérieusement une situation réelle où une partie du monde adopte l’IA et une autre non.
Cette adoption partielle était prévisible, mais je ne pensais pas que nous aurions ce débat aussi vite.
Est-il juste de comprendre que cette « déclaration » n’est pas un engagement à des actions concrètes ? Si c’est le cas, je ne vois pas très bien pourquoi le fait de la signer ou non aurait de l’importance.
Son degré de précision ne semble pas beaucoup meilleur. Elle fait environ une page et demie, la liste des pays est aussi longue que la déclaration elle-même, et le fond se résume à : « nous avons dit que nous ne ferions pas de mauvaises choses ».
Ils ont raison. Cette déclaration est inutile et n’est qu’un coup d’épée dans l’eau.
L’Europe adore signer des déclarations et des lettres d’inquiétude. Même si elle avait été signée, cela n’aurait rien changé.
Ce genre de déclaration « ne soyons pas méchants » est généralement un geste vide de sens.
Des acteurs marginaux, qui de toute façon ne participeraient pas, affichent leur supériorité morale, mais cela n’a aucun effet sur le cours réel des choses.
Le Traité d’Ottawa est similaire. Parmi les non-signataires figurent les États-Unis, la Chine, la Russie, le Pakistan, l’Inde, l’Égypte, Israël, l’Iran, Cuba, les deux Corées, etc. Autrement dit, tous les pays où l’on pouvait s’attendre à un usage de mines terrestres n’en font pas partie.
Quand la situation se présente réellement, même un pays signataire comme l’Ukraine utilisera des mines. La défense nationale passe avant le fait de respecter un bout de papier pour se sentir moralement supérieur.