Comment penser l’AGI

« Fondamentalement, si c’est inconnaissable, si nous ne connaissons pas non plus les risques, et si même les experts disent qu’ils ne savent pas, comment devons-nous y réfléchir ? »

Réfléchir à l’AGI dans une perspective historique

• Depuis 1946, avec l’apparition des ordinateurs, l’intérêt pour l’intelligence artificielle (IA) a commencé
• L’IA est considérée comme un terme désignant une technologie qui n’a pas encore été entièrement réalisée
• L’intérêt pour l’AGI (Artificial General Intelligence), c’est-à-dire une intelligence logicielle d’un niveau équivalent à celui de l’humain, persiste

Divergences d’opinion sur la possibilité de réaliser l’AGI

• Avec l’émergence récente des grands modèles de langage (LLM), l’idée que l’AGI est proche a gagné du terrain
  • Certains experts prévoient que les LLM pourraient évoluer vers l’AGI
  • À l’inverse, d’autres estiment qu’une percée supplémentaire est encore nécessaire pour y parvenir
• Des inquiétudes ont également été soulevées quant au fait que l’AGI pourrait représenter une menace pour l’humanité
• Toutefois, même parmi les experts, il n’existe pas de consensus sur la possibilité réelle de l’AGI ni sur le calendrier de son émergence

L’absence de modèle théorique pour l’AGI

• Il n’existe pas de modèle théorique consensuel définissant précisément ce qu’est l’intelligence générale (General Intelligence)
• Les raisons pour lesquelles les LLM fonctionnent bien, ainsi que leurs possibilités d’évolution futures, restent incertaines
• Le concept même d’AGI relève en partie de l’expérience de pensée (Thought Experiment)

Incertitude et risques autour de l’AGI

• Définir l’AGI comme une nouvelle forme de vie dotée d’émotions et de droits, puis supposer qu’elle serait incontrôlable, comporte un risque de raisonnement circulaire
• Il est impossible d’être certain des caractéristiques et du potentiel de l’AGI
  • Elle pourrait être bien plus intelligente que l’humain, ou simplement plus rapide
  • Elle pourrait aussi n’être qu’un outil utile doté d’une intelligence générale au niveau d’un chien
• Les inquiétudes concernant les risques de l’AGI sont réelles, mais l’ampleur exacte de ces risques et leur nature restent inconnues

Le caractère inévitable du développement de l’AGI et les réponses possibles

• À long terme, l’évolution des technologies d’AGI semble inévitable
  • Les modèles ouverts se diffusent, et les performances des puces continueront de progresser
  • Car, au bout du compte, on ne peut pas interdire les mathématiques
• Les frictions et les souffrances provoquées par les technologies d’automatisation semblent inévitables, mais la vie continuera
• Il semble souhaitable de reconnaître les risques de l’AGI tout en y répondant avec sang-froid, plutôt qu’avec une peur excessive

[vwjdalsgkv]

Je pense que, d’un point de vue fondé sur le risque, c’est comparable à la façon dont un enfant ou un homme primitif perçoit le feu.
Sans savoir par quel processus le feu produit de la lumière et de la chaleur, on finit tout de même par découvrir que la lumière peut être utile dans certains cas, et que la chaleur peut l’être aussi, puis on apprend à bien les utiliser.
Mais comme on ne comprend pas clairement le phénomène, ou qu’on l’utilise de la mauvaise manière, on peut aussi en subir les conséquences ; au fond, sous cet angle, nous sommes des hommes primitifs face à l’intelligence artificielle.
Ou alors, à part moi, vous connaissez tous déjà très bien l’intelligence artificielle ?

[kandk]

C’est assez évident, mais…
Beaucoup de gens ont peur de l’AGI, et je pense que cet article peut être utile.