Prophète moderne ou machine à raconter n’importe quoi — Comment prospérer dans le monde de ChatGPT

• Nous nous attendons à ce que des systèmes informatiques superintelligents apportent une ère d’innovation et de prospérité
• Avec l’arrivée de ChatGPT, certains y voient un prophète des temps modernes, tandis que d’autres le qualifient de machine à raconter n’importe quoi
• Les experts en technologie et les responsables de la communication affirment que les LLM vont révolutionner notre façon de travailler, d’apprendre, de jouer, de communiquer, de créer et de nous connecter
• L’IA aura un impact sur presque tous les aspects de la vie quotidienne
• En permettant aux gens de parler aux ordinateurs en langage courant, elle améliore considérablement l’accessibilité de l’informatique
• Mais si les systèmes d’IA peuvent jouer un rôle utile, il existe aussi un risque que l’environnement informationnel soit saturé par une immense quantité de n’importe quoi

"Cette technologie sera la plus transformative jamais créée par l’humanité, comparable à l’invention de l’imprimerie, de l’électricité et d’Internet"
— Sam Altman, CEO d’OpenAI

• Qu’on le veuille ou non, les LLM se sont installés dans nos vies
• En ligne, nous lisons déjà des contenus générés par des LLM, et beaucoup de personnes interagissent avec des chatbots LLM
• Certains utilisent même les LLM pour produire directement du contenu

Comment survivre à l’ère des LLM

• Une série de cours de 5 à 10 minutes expliquera ce que sont les LLM et comment ils fonctionnent
• Vous pourrez apprendre à distinguer les situations où ils font gagner du temps et des efforts de celles où ils risquent fortement de se tromper
• Au milieu d’un marketing excessif, il est important d’apprendre à distinguer les informations réellement utiles des promesses exagérées

Sommaire des leçons

• Leçon 1 : L’autocomplétion sous stéroïdes (Autocomplete in Overdrive)
• Leçon 2 : La nature du bullshit (The Nature of Bullshit)
• Leçon 3 : Test de Turing et benchmarks du bullshit (Turing Tests and Bullshit Benchmarks)
• Leçon 4 : Des ordinateurs avec lesquels on peut parler (Computers You Can Talk To)
• Leçon 5 : Difficile à comprendre, encore plus difficile à corriger (Hard to Understand, Harder to Fix)
• Leçon 6 : Non, ils ne font pas ça ! (No, They're Not Doing That!)
• Leçon 7 : Du clonage vocal à Shrimp Jesus (From Voice Cloning to Shrimp Jesus)
• Leçon 8 : Champignons vénéneux et passeports pour chiens (Poisonous Mushrooms and Doggie Passports)
• Leçon 9 : Les liens bleus comptent (Blue Links Matter)
• Leçon 10 : L’art humain de l’écriture (The Human Art of Writing)
• Leçon 11 : Transformer l’éducation ? (Transforming Education?)
• Leçon 12 : Le scientifique IA (The AI Scientist)
• Leçon 13 : Des machines à bullshit pour du travail à bullshit (Bullshit Machines for Bullshit Work)
• Leçon 14 : L’authenticité (Authenticity)
• Leçon 15 : Intelligence artificielle et stupidité humaine (Artificial Intelligence and Human Stupidity)
• Leçon 16 : Le sophisme du premier pas (The First-Step Fallacy)
• Leçon 17 : Ton propre Truman Show privé (Your Own Private Truman Show)
• Leçon 18 : La démocratie (Democracy)

[GN⁺]

Avis Hacker News

• Cet article est rempli d’affirmations très catégoriques sur l’IA, mais il manque de fondements et certaines semblent erronées

  • L’affirmation selon laquelle l’IA « n’a pas de vérité fondamentale » est fausse
  • Dire que l’IA ne peut pas raisonner logiquement est une affirmation exagérée
  • Il n’est pas vrai non plus qu’elle ne peut pas expliquer comment elle est arrivée à une conclusion
  • Ce genre d’affirmations péremptoires ressemble plutôt à une critique de modèles faibles

• Un ami travaille dans une équipe qui influence des politiques publiques, et un jeune membre de l’équipe a rédigé un rapport rempli de chiffres tirés d’un LLM

  • Le rapport était inexact et peu fiable
  • Les développeurs comprennent généralement bien le fonctionnement des LLM et peuvent examiner puis corriger les inexactitudes de leurs sorties
  • Beaucoup de gens finiront par faire confiance à ces outils, et nous serons submergés de contenus inexacts

• Les versions actuelles de l’IA peuvent être dangereuses pour les étudiants et risquent de les faire régresser

  • Quand j’aide des amis non techniques, je leur montre le rythme du changement tout en soulignant que la fiabilité reste très en retard sur les possibilités
  • Les environnements adverses restent un problème non résolu, et les prévisions demeurent incertaines
  • Les prédictions des gens qui répètent comme des perroquets ne sont pas fiables
  • Comme le RL existe, les affirmations sur l’auto-correction sont exagérées
  • Les pessimistes ont probablement tort, mais ceux qui minimisent leurs arguments comprennent encore moins bien la situation qu’eux

• La section « The AI scientist » était excellente

  • Elle présente des cas d’usage positifs de l’IA sans tomber dans les pièges de l’argument du perroquet
  • Elle montre de manière objective les usages bénéfiques de l’IA en science, ainsi que des exemples nuisibles ou relevant de la perte de temps

• Ce contenu est élémentaire, mais utile à un large public

  • J’ai apprécié qu’il rappelle qu’il ne faut pas anthropomorphiser les modèles
  • Il serait plus utile que des décideurs politiques de plus de 50 ans suivent ce cours plutôt qu’un étudiant de première année de 19 ans

• Dire qu’un LLM n’est qu’un perroquet parce qu’il se contente de deviner le token suivant n’a pas de sens

  • Les humains aussi devinent la touche suivante sur un clavier
  • Cette manière de voir revient simplement à fermer les yeux sur la révolution technologique qui arrive

• Pour les étudiants, naviguer dans l’environnement de l’IA est un défi

  • J’envisage de partager ce contenu avec mes étudiants
  • Les étudiants qui veulent utiliser un LLM pour tout risquent de ne pas vraiment s’engager avec ce contenu
  • Je suggère d’ajouter un paragraphe expliquant pourquoi écrire sans LLM reste important dans les domaines scientifiques

• J’aimerais que le titre soit un peu moins anti-technologie

  • J’aimerais promouvoir ce cours au travail, mais avec ce titre je pourrais passer pour quelqu’un de négatif et d’obstructif

• Ce contenu est une excellente ressource

  • Je suis en train de concevoir un cours pour donner aux étudiants en médecine des bases sur les progrès du ML et des LLM
  • L’objectif est de leur faire comprendre le ML médical, de montrer les possibilités de la technologie et de proposer une voie pour l’adopter en toute sécurité

• J’apprécie vraiment ce contenu

  • J’ai repéré quelques coquilles dans la leçon 11
  • Il manque un « be » dans « No one is going to motivated by a robotic... »
  • Il manque un « be » dans « People who are given a possible solution to a problem tend to less creative at... »