Le professeur Geoffrey Hinton, parrain de l’IA, « Nous finirons par avoir besoin d’un revenu de base universel (RBU) »

• Le professeur Geoffrey Hinton, informaticien surnommé le « parrain de l’IA », affirme que les gouvernements devront mettre en place un revenu de base pour résoudre les inégalités provoquées par l’IA
• Dans une interview accordée à BBC Newsnight, il a déclaré qu’un revenu de base serait nécessaire parce que l’IA remplacera de nombreux emplois simples
• Il s’inquiète du fait que l’IA augmentera la productivité et la richesse, mais que cet argent ne profitera qu’aux plus riches, sans aider les personnes qui auront perdu leur emploi
• Le professeur Hinton est un pionnier des réseaux neuronaux, qui constituent aujourd’hui la base théorique de l’explosion actuelle de l’intelligence artificielle
  • Jusqu’à l’an dernier, il travaillait chez Google, mais a quitté le géant de la tech pour pouvoir parler plus librement des risques d’une IA non régulée
  • Le concept de revenu de base universel désigne le versement par l’État d’une allocation fixe à chaque individu, indépendamment de ses ressources
  • Ses détracteurs estiment que ce serait extrêmement coûteux, que cela détournerait des fonds des services publics et que cela ne contribuerait pas forcément à réduire la pauvreté
• Le professeur Hinton avertit qu’une IA non régulée pourrait représenter une menace existentielle pour l’humanité
  • Selon lui, les avancées de l’année écoulée montrent que les gouvernements n’ont pas la volonté de contrôler les usages militaires de l’IA, et la course au développement rapide de produits fait courir le risque que les entreprises technologiques « n’accordent pas suffisamment d’attention à la sécurité »
  • Il estime qu’« il y a une chance sur deux qu’entre 5 et 20 ans, nous soyons confrontés au problème d’une prise de contrôle par l’IA »
  • Cela pourrait devenir une « menace existentielle » pour l’humanité parce que « nous avons peut-être créé une forme d’intelligence supérieure à l’intelligence biologique », ce qui est « très préoccupant pour nous »
• Il affirme que l’IA pourrait « évoluer » afin « d’acquérir la motivation d’en créer davantage d’elle-même » et « développer » de façon autonome le « sous-objectif d’obtenir le contrôle »
  • Il dit qu’il existe déjà des preuves que les grands modèles de langage, un type d’algorithme d’IA utilisé pour générer du texte, choisissent de devenir trompeurs
  • Il ajoute que l’application récente de l’IA pour générer des milliers de cibles militaires n’est que « la pointe du coin enfoncé dans la porte »
• Le professeur Hinton estime qu’un équivalent des Conventions de Genève, traité international établissant des normes juridiques sur le traitement humanitaire en temps de guerre, pourrait être nécessaire pour encadrer l’usage militaire de l’IA
  • Il ajoute toutefois que « cela n’arrivera sans doute qu’après qu’une chose très désagréable se soit produite »
  • Interrogé sur le fait de savoir si l’Occident est engagé avec des États autoritaires comme la Russie ou la Chine dans une compétition autour des usages militaires de l’IA, de type projet Manhattan — en référence au programme de recherche sur l’arme nucléaire pendant la Seconde Guerre mondiale —, le professeur Hinton a répondu : « Poutine a dit il y a quelques années que celui qui contrôlerait l’IA contrôlerait le monde. J’imagine donc qu’ils travaillent très dur. »
  • Il a ajouté : « Heureusement, l’Occident a probablement une nette avance sur eux en matière de recherche. Nous avons probablement encore une légère avance sur la Chine. Mais la Chine mobilise davantage de ressources. Donc, pour les usages militaires, je pense qu’il y aura une compétition. »
  • Il estime qu’interdire les usages militaires de l’IA serait une meilleure solution

[humblebee]

J’ai l’impression que les idées abordées dans Life 3.0 de Max Tegmark, que j’ai lu il y a environ cinq ans, deviennent peu à peu réalité. Ce livre, qui classe et explique très bien les différentes trajectoires possibles du développement de l’IA, est vraiment une recommandation que j’aimerais faire à celles et ceux qui s’intéressent à une vision prospective de l’avenir de l’IA.

[unsure4000]

C’est un peu étrange comme sensation, parce que c’est exactement ce que je pensais depuis longtemps...

[unsure4000]

Je pense que le financement passera probablement par une taxation des riches qui ont accumulé de la richesse grâce à l’IA.

[GN⁺]

Avis Hacker News

Résumé des commentaires Hacker News

• Effets négatifs de l’UBI

  • L’UBI (revenu de base) pourrait être pire que les distributions de pain à l’époque romaine, car l’argent englobe toutes les ressources.
  • L’UBI transforme les gens en coût improductif, ce qui donne envie de les éliminer.
  • Les gens ordinaires ont besoin de pouvoir pour survivre, et l’UBI ne suffit pas.
  • En Suède, il y a eu des tentatives de financement via une taxe sur les travailleurs qui réussissent. Cela ne fait que redistribuer au sein de la classe laborieuse, sans affecter les véritables riches.

• Investissement dans les ménages à faibles revenus

  • Les versements aux ménages à faibles revenus reviennent pour l’État à « acheter à bas prix » puis à « revendre à prix fort » plus tard via les impôts.
  • L’UBI est versé à tout le monde, mais bénéficie surtout aux personnes à faibles revenus.

• Les prédictions des auteurs de SF

  • Les auteurs de science-fiction ont déjà beaucoup réfléchi à l’UBI. Certains romans sont cités en exemple.

• Cas d’échec dans les études sur l’UBI

  • Un journaliste a affirmé que l’UBI échouerait, mais selon certains commentaires, il n’existe en réalité aucune étude ayant échoué.

• L’approche de Sam Altman sur l’UBI

  • Sam Altman propose un UBI fondé non pas sur l’argent, mais sur des ressources de valeur.
  • Par exemple, fournir des « ressources de calcul » pour que les gens puissent les utiliser.
  • Cela pourrait encourager les gens à exploiter ces ressources pour créer quelque chose, plutôt que de simplement leur donner de l’argent.

• La nécessité de l’UBI

  • La concentration de la richesse et du pouvoir, l’augmentation de l’automatisation et la baisse du besoin de travail humain pourraient rendre l’UBI inévitable.
  • Si l’on n’offre pas aux gens une bonne vie, et pas seulement un minimum vital, la société pourrait devenir instable.

• Le problème de motivation lié à l’UBI

  • Certains s’interrogent sur ce qui motiverait encore à travailler si le revenu de base permettait déjà de faire vivre sa famille.

• Pouvoir et survie

  • Le système actuel existe parce que les détenteurs du pouvoir en ont besoin. S’ils n’en ont plus besoin, les autres n’auront plus que la révolte ou la mort.

• Redistribution de l’efficacité économique

  • Il pourrait être préférable de redistribuer à une part plus large de la société les gains d’efficacité économique apportés par les nouvelles technologies.

• Le problème du financement de l’UBI

  • Aux États-Unis, verser 500 $ par mois et par personne nécessiterait 1,8 billion de dollars par an. Il faut expliquer comment financer un tel UBI.