Yann LeCun : le véritable scénario de fin du monde, c’est que les 1 % propriétaires de l’IA s’emparent du pouvoir pour toujours

• Yann LeCun, scientifique en chef de l’IA chez Meta, critique les déclarations alarmistes des dirigeants de l’IA sur les risques de l’IA et affirme qu’ils pourraient faire plus de mal que de bien.
• LeCun accuse des pionniers de l’IA comme Sam Altman d’OpenAI, Demis Hassabis de Google DeepMind et Dario Amodei d’Anthropic d’utiliser la « peur » et le « lobbying massif des entreprises » à leur propre profit.
• Selon lui, si ces efforts réussissent, une poignée d’entreprises finira par contrôler l’IA, ce qu’il considère comme une « catastrophe ».
• Les propos de LeCun répondent à une publication du physicien Max Tegmark, qui suggérait que LeCun ne prenait pas assez au sérieux l’apocalyptisme lié à l’IA.
• LeCun soutient que les risques réels et imminents de l’IA ne sont pas les dangers hypothétiques souvent mis en avant, mais l’exploitation des travailleurs et le pillage des données au bénéfice d’un petit nombre d’acteurs.
• Il rejette l’idée d’un « décollage brutal » selon laquelle l’humanité disparaîtrait au moment même où des systèmes superintelligents seraient activés.
• LeCun souligne l’importance de se concentrer sur la manière dont l’IA est développée aujourd’hui et met en garde contre le risque de voir son développement monopolisé par des entreprises privées à but lucratif.
• Il défend les développeurs open source et critique en particulier le manque de transparence dans le développement de l’IA par les grandes entreprises technologiques.
• LeCun exprime son inquiétude face au fait que les régulateurs puissent être facilement influencés par des débats sensationnalistes sur l’IA, au détriment d’une supervision du processus réel de développement.

[GN⁺]

Discussion sur Hacker News

• Discussion de l’article sur le point de vue de Yann LeCun concernant les mauvais usages de la technologie IA
• Expression d’inquiétudes face aux tentatives de capture réglementaire par les puissants en s’appuyant sur les affirmations d’« X-Risk » et d’extinction soudaine de l’humanité
• Critique des efforts visant à fermer l’IA via des exigences de licence et de reporting
• Expression d’un soutien à des mesures pour contrôler la recherche en IA, en citant la nécessité de prudence dans ce domaine
• Discussion sur le développement et le déploiement de nouvelles technologies, avec l’argument que les risques d’une technologie peuvent rester cachés jusqu’à ce qu’elle soit déployée universellement
• Critique de l’étiquette « AI Godfather » appliquée à de grands chercheurs en IA, au motif qu’elle est trompeuse et inutile
• Discussion sur les possibilités de mauvais usage de l’IA, avec l’argument qu’interdire les modèles open source pourrait empêcher de savoir comment répondre à ces abus
• Avis en désaccord avec le point de vue de Yann LeCun, affirmant qu’il ne prend pas les risques de l’IA suffisamment au sérieux
• Discussion sur la possibilité d’utiliser l’IA pour la sélection d’actions et les prédictions, avec l’argument qu’une telle IA pourrait absorber assez de richesse pour posséder de fait la société
• Affirmation qu’il est déjà trop tard pour monopoliser les grands modèles de langage, en soulignant que la technologie est connue et que les coûts baissent
• Spéculations sur l’avenir du business à l’ère de l’abondance, avec l’argument qu’il sera probablement encore plus monopolistique