OpenAI conclut un partenariat avec le Pentagone après avoir levé l’interdiction sur les outils militaires

OpenAI lève l’interdiction sur les outils militaires et noue un partenariat avec le Pentagone

• OpenAI a annoncé collaborer avec le Pentagone, notamment sur des projets logiciels liés à la cybersécurité.
• L’entreprise interdisait auparavant de fournir des technologies d’IA à des fins militaires, mais a récemment levé cette interdiction à la faveur d’un changement de politique.
• L’interdiction de développer des armes est maintenue, mais la clause interdisant l’usage de l’IA à des fins militaires et de guerre a été supprimée.

Changement d’attitude dans la Silicon Valley vis-à-vis de la coopération avec le Pentagone

• Ces dernières années, la Silicon Valley a assoupli sa position sur la coopération avec l’armée américaine.
• Des employés de Google avaient manifesté contre des projets du Pentagone, mais l’entreprise a ensuite gagné des millions de dollars grâce à des contrats de défense.
• Les tensions entre les États-Unis et la Chine ainsi que la guerre en Ukraine ont réduit les inquiétudes des entrepreneurs à l’égard de la coopération militaire.

L’avenir de l’IA et de l’armée, avec ses risques

• Les experts de la défense se montrent optimistes quant à l’impact que l’IA pourrait avoir sur le domaine militaire.
• L’IA présente un risque de générer par erreur de fausses informations, ce qui pourrait entraîner des dangers plus importants encore si elle était intégrée à des systèmes militaires de commandement et de contrôle.

Périmètre flou des possibles contrats militaires d’OpenAI

• OpenAI a exclu le développement d’armes, mais pourrait fournir au département de la Défense des logiciels d’IA pour des usages comme l’analyse de données ou l’écriture de code.
• La guerre en Ukraine a montré que les logiciels d’analyse de données jouent un rôle important dans la conduite de la guerre.

Le changement de politique d’OpenAI pourrait relancer le débat sur la sûreté de l’IA

• Le changement de politique d’OpenAI pourrait raviver les débats sur la sûreté de l’IA, qui avaient contribué par le passé à l’éviction du CEO Sam Altman.

GN⁺ Avis :

• La levée par OpenAI de l’interdiction sur les outils militaires élargit les possibilités d’usage militaire des technologies d’IA, ce qui pourrait constituer un tournant important pour le progrès technologique et la sécurité nationale.
• L’évolution de la position de la Silicon Valley pourrait accélérer l’intégration entre technologie et défense, avec un impact potentiel sur la nature des conflits futurs.
• L’intégration de l’IA dans le domaine militaire présente un fort potentiel, mais elle impose aussi de prendre en compte les risques liés aux erreurs de l’IA, comme la génération de « fausses informations ».

[GN⁺]

Avis sur Hacker News

• Il y a quelques semaines, des employés d’OpenAI ont signé une lettre disant qu’ils démissionneraient si « Altman n’était pas réintégré ».

  Cela soulève la question de savoir si les employés d’OpenAI seraient prêts à signer une lettre affirmant qu’ils n’utiliseront pas OpenAI à des fins de guerre, ou s’ils étaient prêts à trahir les principes fondateurs dès le départ.

• L’intelligence artificielle (IA) sera militarisée, et les personnes qui travaillent dans ce domaine doivent accepter ce fait.

  La militarisation de l’IA était prévisible, et l’argument selon lequel il s’agirait d’un travail pour le bien de l’humanité n’est plus vraiment convaincant.

• OpenAI a supprimé la clause d’interdiction d’utiliser ChatGPT à des fins militaires et de guerre.

  Lien vers l’article connexe : article Hacker News - janvier 2024 (260 commentaires)

• Comme OpenAI n’est plus une organisation à but non lucratif, l’entreprise est désormais exposée aux appels d’offres du complexe militaro-industriel.

  Il est regrettable que la motivation de la structure d’entreprise, qui visait à empêcher OpenAI d’être exposée aux appels d’offres du complexe militaro-industriel et de devenir dépendante des desiderata des grandes entreprises, ait échoué.

• Le Pentagone a salué le retour de Sam Altman au conseil d’administration d’OpenAI.

  Mention de la réaction du Pentagone.

• Anna Makanju, vice-présidente des affaires mondiales d’OpenAI, a déclaré que l’entreprise maintiendrait sa politique interdisant le développement d’armes.

  Information sur le maintien par OpenAI de sa politique d’interdiction du développement d’armes.

• Pour intégrer davantage la technologie d’OpenAI dans les produits Microsoft, il faudra probablement coopérer avec le Département de la Défense, sans doute son plus grand client.

  Mention de la nécessité de coopérer avec le Département de la Défense dans le cadre de l’intégration de la technologie d’OpenAI dans les produits Microsoft.

• En lisant le titre, beaucoup imaginent des robots tueurs propulsés par GPT, mais en réalité, il est plus probable que cela serve surtout au traitement de documents ordinaires, comme les dossiers de marchés publics militaires.

  Explication du malentendu autour des usages militaires de la technologie d’OpenAI et de ses usages réels les plus probables.

• Il y a de la confusion sur ce que les produits d’OpenAI pourraient concrètement apporter au Département de la Défense américain. On ne voit pas clairement quels cas d’usage à grande échelle ses produits phares, les LLM et les générateurs d’images, pourraient avoir.

  Mise en doute de l’utilité des produits d’OpenAI pour le Département de la Défense.

• Les gens tirent des conclusions hâtives. Le Département de la Défense fait énormément de choses, dont la plupart sont très banales. Il est très peu probable que les produits d’OpenAI soient utilisés pour des applications liées à des armes physiques.

  Explication sur les jugements hâtifs concernant l’usage des produits d’OpenAI par le Département de la Défense et sur leurs usages réels probables.