Interview de gwern

Les avantages de l’anonymat

• L’avantage le plus sous-estimé de l’anonymat : les gens ne vous jugent pas à l’avance en vous enfermant dans un cadre ou une identité précise. Avant de vous écarter, ils sont au moins obligés de lire un peu ce que vous écrivez. Le fait de ne pas subir de représailles est aussi un grand avantage, et l’anonymat permet d’être évalué plus équitablement.

Automatisation des entreprises

• La direction que prend l’automatisation en entreprise : il est plus courant de commencer de manière descendante que de partir de la base ou du CEO. L’IA peut être trop myope pour exécuter une vision à long terme. Il est possible qu’un modèle s’impose où un CEO humain définit la vision et l’IA se charge de l’exécution.

La théorie du progrès d’Isaac Newton

• Les premières prédictions du progrès technologique : un essai de Samuel Butler datant de 1863 prédisait déjà que les machines évolueraient de façon autonome. Il y était aussi expliqué que l’accélération technologique n’avait rien de nouveau et que les civilisations du passé avaient été périodiquement détruites.

Grande théorie de l’intelligence

• La nature de l’intelligence : l’intelligence n’est qu’une exploration des machines de Turing. L’apprentissage et l’extension ne consistent qu’à explorer davantage de machines de Turing. Les différences d’intelligence entre les humains ne sont en fin de compte qu’une différence de capacité à explorer plus de machines de Turing grâce à une puissance de calcul supérieure.

La prise de conscience précoce du scaling

• La reconnaissance de l’importance du scaling : à partir du milieu des années 2000, il a observé de près les progrès de l’IA et a commencé à reconnaître l’importance du scaling. L’arrivée de GPT-3 a été un moment décisif qui l’a convaincu du succès de cette approche.

Chronologie de l’AGI

• Le calendrier estimé de l’AGI : entre 2005 et 2010, il pensait que l’AGI ne serait pas possible avant 2050, mais après l’apparition d’AlexNet et de DanNet, il a jugé que son arrivée se rapprochait progressivement.

Plan pour les trois années restantes

• Objectifs personnels et arrivée de l’AGI : en gardant à l’esprit que l’AGI pourrait arriver dans quelques années, il est important de se concentrer sur ce que seuls les humains peuvent faire, ou de planifier ce qui pourra être accompli plus tard par l’IA.

Influence par l’écriture

• L’influence sur l’IA par l’écriture : l’écriture est l’un des rares moyens d’influencer l’avenir de l’IA. Il est important d’exprimer ses valeurs et ses désirs sous une forme que l’IA puisse comprendre.

[GN⁺]

Avis Hacker News

• Les prédictions sur l’IA ne tiennent pas compte de la façon dont les humains accepteront les médias générés par l’IA. Scepticisme quant à la possibilité que l’IA remplace les créations humaines

  • Les projets générés par l’IA sont perçus comme une mode déjà passée
  • Il est probable que des moyens de vérifier l’humanité apparaissent et que les déchets générés par l’IA restent sans interaction

• Questions sur le mode de vie frugal de Gwern et l’influence positive de ses écrits

  • Les textes de Gwern sont intéressants car ils sont originaux et traitent de sujets de niche
  • Les essais de Gwern aident à changer des décisions personnelles

• Critiques concernant les problèmes audio du podcast et l’usage excessif d’un vocabulaire trop soutenu

  • La voix paraît réaliste mais reste difficile à comprendre
  • L’usage excessif du vocabulaire nuit à la transmission du sens

• Podcasts d’interviews intéressants sur le thème de l’IA

  • Interviews avec des figures majeures d’Anthropic
  • Discussion entre Stephen Wolfram et Eliezer Yudkowsky sur les risques de l’IA

• Expériences négatives ressenties lors d’interactions avec Gwern

  • Il souligne un manque de connaissances approfondies sur l’IA et l’informatique
  • Il est important de trouver et suivre une direction originale

• Discussion sur la vision d’Isaac Newton du progrès

  • La notion de progrès est relative, et il y a eu des progrès rapides aussi bien dans le passé qu’aujourd’hui

• Avantages et inconvénients de l’anonymat

  • Partage d’expériences personnelles sur les bénéfices et les défauts de l’anonymat

• Critique de Gwern à l’égard du Bitcoin

  • Il pointe plusieurs problèmes du Bitcoin, en soulignant l’inefficacité et l’asymétrie du système

• Avis selon lequel utiliser uniquement la voix plutôt qu’un avatar pourrait être préférable

  • Selon les préférences personnelles, il peut être préférable d’écouter seulement la voix sans image visuelle

• Un groupe central revient souvent dans les discussions intéressantes en ligne

  • Gwern se trouve au centre de ce groupe