OpenAI lève l’interdiction d’utiliser ChatGPT à des fins « militaires et de guerre »

OpenAI supprime la clause interdisant l’usage à des fins militaires et de guerre

• OpenAI a discrètement supprimé cette semaine de sa politique d’utilisation la formulation qui interdisait explicitement l’usage militaire de sa technologie.
• Jusqu’au 10 janvier, la page des politiques d’utilisation d’OpenAI indiquait explicitement l’interdiction des activités susceptibles d’accroître les dommages physiques, y compris le « développement d’armes » et les usages « militaires et de guerre ».
• La nouvelle politique conserve la consigne de ne pas utiliser le service pour se nuire à soi-même ou à autrui, mais l’interdiction générale des usages « militaires et de guerre » a disparu.

Contexte de ce changement de politique

• OpenAI a largement remanié sa page de politique afin de la rendre « plus claire et plus facile à lire ».
• Un porte-parole d’OpenAI a expliqué que la nouvelle politique met l’accent sur la conformité légale et que le principe de « ne pas nuire à autrui » peut s’appliquer de manière large.
• Des experts soulignent que la nouvelle politique évite les questions liées aux contrats militaires et aux opérations de guerre, tout en se concentrant particulièrement sur les armes.

Inquiétudes autour des usages militaires et de guerre

• Des experts indiquent qu’en raison des biais et du manque de précision des grands modèles de langage (Large Language Models, LLMs), leur usage dans des conflits militaires pourrait conduire à des opérations inexactes et biaisées.
• Il est peu probable que les outils d’OpenAI soient utilisés directement pour infliger la mort, mais ils pourraient servir à une grande variété de tâches soutenant les capacités militaires.
• Comme la mission première des institutions militaires est de maintenir une capacité létale, les aider peut rester problématique, même lorsque l’aide n’est pas directement violente.
• Le partenariat étroit entre OpenAI et Microsoft laisse ouverte la possibilité pour OpenAI d’étendre son activité à des usages militaires.

Impact réel de ce changement de politique

• Les conséquences concrètes de ce changement restent floues.
• OpenAI n’a pas clarifié comment l’entreprise comptait faire appliquer l’interdiction des usages militaires et de guerre.
• Des experts estiment qu’OpenAI affaiblit sa position concernant les activités commerciales avec des institutions militaires.

Utilisation des technologies d’IA par les institutions militaires

• Les armées du monde entier cherchent à prendre l’avantage grâce aux technologies de machine learning, et le Pentagone continue d’explorer l’usage de ChatGPT et d’autres LLMs.
• Les grands modèles de langage sont entraînés sur de vastes ensembles de livres, d’articles et de données du web afin d’imiter des réponses humaines aux prompts des utilisateurs.

Avis de GN⁺ :

• Le changement de politique d’OpenAI accroît la possibilité que les technologies d’intelligence artificielle soient utilisées à des fins militaires, ce qui pourrait relancer d’importants débats sur l’éthique et la sécurité des technologies.
• Cette évolution montre comment les entreprises technologiques tentent d’équilibrer leurs principes et les opportunités de marché lorsqu’il s’agit de contrats liés à la défense.
• La suppression d’une clause d’interdiction explicite concernant l’usage de l’IA à des fins militaires et de guerre pourrait devenir un déclencheur d’un débat social plus large sur la sécurité des technologies et leur usage éthique.

[GN⁺]

Avis Hacker News

• La croissance d’OpenAI et son changement de principes

  • Il est frappant de voir OpenAI abandonner ses principes fondateurs et suivre la stratégie de Google.
  • Il a fallu 17 ans à Google avant de retirer « Don't be Evil », mais OpenAI a grandi rapidement et a changé brusquement.
  • OpenAI semble pouvoir devenir l’entreprise ou la technologie qui remplacera Google, ce qui est ironique, comme Google avait remplacé Microsoft.

• Possibilités d’usage militaire des modèles GPT

  • Les modèles GPT ont un fort potentiel d’utilisation ordinaire dans les bases de données militaires et les travaux de recherche.
  • L’interdiction des usages militaires pourrait par exemple empêcher leur utilisation par l’armée pour améliorer la préparation aux catastrophes.
  • La plupart des grandes entreprises finissent par faire ce genre de concessions, parce que le Pentagone dispose d’un financement colossal.

• Développement de produits militaires par les entreprises industrielles

  • De nombreuses entreprises industrielles développent probablement aussi des produits militaires.
  • Par exemple, elles peuvent vouloir une assistance LLM dans des outils de CAO servant à concevoir des moteurs de navires pouvant être utilisés à des fins militaires.
  • Les infrastructures et les logiciels sont souvent partagés ou développés pour pouvoir être appliqués à l’ensemble de l’entreprise.

• Compréhension de la nouvelle politique

  • On peut se demander si quelqu’un a réellement lu la nouvelle politique.
  • Elle comporte une politique plus large concernant les armes et les actions nuisibles.

• IA et puissance militaire

  • Une IA avancée est essentielle à une puissance militaire avancée.
  • Ces questions ne sont pas des problèmes techniques, mais des problèmes humains.
  • Les humains sont des primates hiérarchisés qui se disputent les territoires et les ressources.

• Différence de politique sur le développement d’armes et les activités militaires

  • Il existe une différence claire entre les deux politiques : la première interdit le développement d’armes et les activités militaires, tandis que la seconde met l’accent sur le respect de la loi et la flexibilité.
  • L’impact potentiel sur la sécurité de l’IA est important.

• Limites des LLM

  • Le fait que ChatGPT ne parvienne pas à cesser d’halluciner de façon cohérente sur des tâches élémentaires et ne comprenne pas réellement les choses est une très mauvaise idée.
  • Le domaine de l’IA/ML lui-même n’est pas une perte de temps, mais les LLM relèvent surtout de l’esbroufe et ont très peu de valeur réelle.

• Caractère inévitable de la décision d’OpenAI

  • Il était inévitable qu’OpenAI ne renonce pas à une telle manne financière.
  • Il semble étrange de s’inquiéter du fait qu’un produit soit utilisé d’une autre manière.

• Silicon Valley et complexe militaro-industriel

  • La Silicon Valley est un produit du complexe militaro-industriel.

• Différence de perception du développement d’armes entre civils et militaires

  • Pour les civils, développer des armes est dangereux dans la plupart des cas, tandis que pour les militaires, ce qui est dangereux, c’est de ne pas développer de meilleures armes plus vite que l’ennemi.