- OpenAI a levé cette semaine 6,6 milliards de dollars de nouveaux financements, portant la valorisation totale de l’entreprise à 157 milliards de dollars
- C’est une performance remarquable pour une organisation qui brûle plus de 7 milliards de dollars de cash par an
- Le principal produit d’OpenAI n’est pas la technologie, mais le récit
Le manifeste en ligne « The Intelligence Age » publié par le CEO Sam Altman
- Il y affirme que la révolution de l’IA apportera une prospérité sans limites et améliorera radicalement la vie humaine
- Il s’attend à ce que l’IA résolve le problème climatique, aide à établir des colonies spatiales et découvre toute la physique
- Il prédit que nous pourrions disposer d’une superintelligence omnipotente d’ici quelques milliers de jours
- Il affirme qu’il suffit pour cela de fournir assez d’énergie, de données et de puces
La fabrication des mythes dans la Silicon Valley
- Un jour, peut-être, les idées d’Altman sur l’IA seront validées, mais pour l’instant son approche relève du manuel classique de fabrication des mythes de la Silicon Valley
- L’humanité serait toujours sur le point d’atteindre une percée technologique capable de transformer la société en mieux
- Les problèmes techniques difficiles seraient fondamentalement résolus, et le reste le sera par la concurrence du marché et l’esprit d’entreprise
- « Dépensez des milliards maintenant, et vous gagnerez des milliers de milliards plus tard »
- C’était le récit de la bulle Internet des années 1990, des nanotechnologies des années 2000, puis des cryptomonnaies et de la robotique des années 2010
- Ces technologies n’ont pas fonctionné comme promis, mais entrepreneurs, ingénieurs et investisseurs ont construit des empires tout en laissant régulateurs et grand public sur la touche
Les limites actuelles des produits d’OpenAI
- ChatGPT et DALL-E étaient à la pointe en 2022, mais donnent aujourd’hui l’impression d’une technologie banale et boguée
- GPT-4 ne ressemble plus au signe avant-coureur d’une superintelligence omnipotente, mais simplement à un chatbot de plus
- Les LLM peuvent rédiger des e-mails ou des histoires, mais sans être particulièrement originaux
- Les outils continuent à halluciner, c’est-à-dire à affirmer avec assurance des informations fausses, et échouent encore de façon embarrassante et imprévisible
La prolifération des contenus web « AI slop »
- Des déchets générés par des LLM sont produits à coût quasi nul et génèrent des revenus publicitaires pour leurs créateurs
- Une course vers le bas, que tout le monde avait vue venir et qui ne réjouit personne, est en cours
- Pendant ce temps, la recherche d’un product-market fit à l’échelle capable de justifier les valorisations gonflées des entreprises tech reste insuffisante
- Même Altman reconnaît que le dernier produit d’OpenAI, o1, impressionne au premier abord mais beaucoup moins quand on y consacre plus de temps
Scepticisme face aux affirmations d’Altman
- De nombreux informaticiens estiment qu’il existe encore plusieurs percées scientifiques majeures entre nous et l’AGI
- Altman affiche la certitude que son entreprise maîtrise parfaitement la situation et que la science-fiction deviendra bientôt réalité
- Il pourrait falloir environ 7 000 milliards de dollars pour concrétiser sa vision finale, mais au regard de tous les progrès qu’il promet, ce ne serait rien
- Altman n’est pas physicien, mais serial entrepreneur et l’un des chasseurs de talents les plus respectés de la Silicon Valley
- Son succès décisif tient surtout à sa capacité à relier des startups en phase initiale à l’argent des investisseurs, plus qu’à une innovation technique spécifique
La rhétorique des techno-optimistes
- Il est frappant de voir à quel point les propos d’Altman ressemblent à ceux de ses pairs milliardaires techno-optimistes
- Ils soutiennent que si l’on croit au progrès technologique et qu’on libère inventeurs et investisseurs de réglementations jugées contraignantes, le marché fera sa magie et tout ira mieux pour tout le monde
- Altman affirme qu’une régulation responsable de l’IA est nécessaire, mais la réponse de son entreprise à la régulation semble être : « Non, il ne faut pas faire ça »
- Il demande aujourd’hui de la clarté réglementaire, mais en réalité il ne veut pas de régulation tout de suite
Il faut prêter attention aux problèmes actuels de l’IA
- Il est plus agréable d’imaginer comment l’IA pourrait nous faciliter la vie que de se concentrer sur la manière dont elle sert à harceler et exploiter des enfants
- Il est bien plus agréable d’imaginer une IA bienveillante du futur qui résoudra les problèmes causés par le changement climatique que de réfléchir à l’énorme consommation d’énergie et d’eau de l’IA qui existe réellement aujourd’hui
- Ces technologies ont déjà un historique concret. Le monde peut, et doit, les juger ainsi que ceux qui les créent non seulement sur leur potentiel, mais aussi sur leurs résultats et leurs effets
L’avis de GN⁺
- Les progrès de l’IA sont impressionnants, mais il existe un écart considérable entre les affirmations exagérées sur son potentiel et la réalité
- L’innovation technologique à elle seule ne peut pas résoudre les problèmes de société ; une régulation responsable et des considérations éthiques sont nécessaires
- Les techno-optimistes présentent une vision très rose de l’avenir, mais il ne faut pas ignorer les problèmes du présent
- La société doit évaluer avec attention les résultats et les impacts des technologies, et garder un regard critique sur les entreprises technologiques
- Lors de l’introduction des technologies d’IA dans la société, il est important d’en peser soigneusement les avantages et les inconvénients, et de garantir transparence et responsabilité
- Les produits concurrents d’OpenAI, comme Claude d’Anthropic ou Chinchilla de DeepMind, montrent eux aussi les limites de la technologie des LLM
3 commentaires
Ceux qui ne regardent que le doigt vs ceux qui savent ce vers quoi il pointe et agissent en conséquence
À force de fanfaronner sur l’arrivée imminente de l’AGI, en disant qu’elle est presque déjà créée, tout ça, au final le seul véritable produit lié à l’IA qu’ils ont, c’est un chatbot...
Et à la base, je ne sais même pas si on peut vraiment appeler GPT une « intelligence artificielle »..
Avis Hacker News
Résumé des décisions récentes d’OpenAI : battage excessif autour de GPT-5, dissolution de l’équipe sécurité, virage vers la recherche de profits, préparation à l’attribution d’actions à Altman, entre autres. Ces changements suggèrent qu’Altman prépare une stratégie de sortie à court terme.
Critiques à l’égard de Sam Altman : perception d’une stagnation technologique, fait qu’Altman est un spécialiste des deals plutôt qu’un physicien, aspects négatifs de l’IA et problème de sa consommation énergétique.
Le rôle d’un CEO est de faire imaginer l’avenir de l’IA. La question est posée : que vaudra OpenAI si GPT-5 n’a aucune réalité concrète ?
Le progrès technologique est gourmand en capitaux et nécessite des talents variés. Les dirigeants technologiques doivent rendre des comptes à de nombreuses parties.
Altman n’est pas un physicien mais un entrepreneur en série, et en dehors d’OpenAI, ses talents ne sont pas clairement établis.
Certains aimeraient disposer d’un filtre permettant d’ignorer tout ce qui concerne l’IA. L’IA est en train de rendre le monde moins digne de confiance.
Comprendre l’IA telle qu’elle est peut être ennuyeux. L’IA relève d’une catégorie différente de celle de la bulle dot-com ou des cryptomonnaies.
Le secteur de l’IA est orienté recherche. Google a payé plus de 2,4 milliards de dollars pour faire revenir Noam Shazeer, et Microsoft comme Facebook ne sont pas en reste. OpenAI perd des chercheurs et pourrait devenir une filiale de Microsoft d’ici 1 à 2 ans.