L’éducation avec l’intelligence artificielle

 (openai.com)
2 points par GN⁺ 2023-09-01 | 1 commentaires | Partager sur WhatsApp
  • OpenAI a publié un guide destiné aux enseignants qui veulent utiliser ChatGPT en classe, couvrant à la fois des exemples de prompts, son fonctionnement et ses limites, l’utilité des détecteurs d’IA et les biais
  • Les cas d’usage concrets se concentrent sur l’élargissement des interactions entre enseignants et élèves, par exemple comme partenaire de débat, recruteur en entretien, supérieur hiérarchique donnant du feedback, assistant de conception pédagogique ou outil d’apprentissage des langues
  • Les prompts pour enseignants sont conçus pour vérifier progressivement le sujet, le niveau scolaire, les connaissances préalables et les objectifs d’apprentissage, puis générer un plan de cours personnalisé avec explications, exemples et analogies
  • Côté élèves, l’usage vise à guider la réflexion par des questions et des indices plutôt qu’à fournir immédiatement la bonne réponse, et comme les réponses de ChatGPT ne sont pas toujours exactes ni fiables, une vérification auprès de sources primaires est nécessaire
  • Les prompts ne sont qu’un point de départ pour préparer un cours, et l’enseignant doit conserver son rôle d’expert en relisant les productions et en les adaptant au contexte

Comment utiliser ChatGPT en classe

  • OpenAI fournit un guide pour aider les enseignants à utiliser ChatGPT dans leurs cours
    • Il comprend des prompts recommandés, le fonctionnement et les limites de ChatGPT, l’utilité des détecteurs d’IA et les biais
    • La FAQ pour les enseignants contient aussi des ressources de grands établissements éducatifs, des exemples d’outils pédagogiques basés sur l’IA et des réponses aux questions fréquentes des enseignants

Cas d’usage chez les enseignants

  • La Dr Helen Crompton, d’Old Dominion University, recommande à ses étudiants en master d’enseignement d’utiliser ChatGPT avec un persona précis
    • Exemples : partenaire de débat qui pointe les faiblesses d’un argument, recruteur pour un entretien d’embauche, ou nouveau supérieur donnant un feedback selon un style particulier
    • Elle estime qu’explorer l’information dans un environnement conversationnel aide les étudiants à comprendre les contenus de manière plus nuancée et sous des angles nouveaux
  • Fran Bellas, de l’Universidade da Coruña, recommande aux enseignants d’utiliser ChatGPT comme outil d’assistance pour créer quiz, examens et plans de cours
    • Il propose d’abord de partager le programme avec ChatGPT, puis de demander des idées de quiz et de plans de cours utilisant des exemples contemporains ou culturellement pertinents
    • Cela permet aussi de vérifier si les questions rédigées par l’enseignant sont adaptées au niveau d’apprentissage des élèves, inclusives et accessibles
    • Selon lui, demander un examen de 5 questions sur les circuits électriques peut produire des résultats originaux, que l’enseignant peut ensuite retravailler à sa manière
  • Le Dr Anthony Kaziboni, de l’University of Johannesburg, enseigne à des étudiants qui utilisent peu l’anglais en dehors de la classe
    • Il considère qu’une bonne maîtrise de l’anglais est un avantage important dans le monde académique, et que de petits malentendus grammaticaux peuvent limiter la reconnaissance et les opportunités des étudiants
    • Il encourage ses étudiants à utiliser ChatGPT comme aide à la traduction, pour améliorer leur expression écrite en anglais et pour s’exercer à la conversation
  • Geetha Venugopal, qui enseigne l’informatique à l’American International School de Chennai, compare l’enseignement des outils d’IA à l’apprentissage d’un usage responsable d’Internet
    • Elle rappelle aux élèves que les réponses de ChatGPT ne sont pas toujours fiables ni exactes
    • Au lieu de croire les réponses telles quelles, elle les guide pour réfléchir de façon critique et vérifier les informations à l’aide d’autres sources primaires
    • L’objectif est de faire comprendre aux élèves l’importance de continuer à développer leur pensée critique originale, leur capacité à résoudre des problèmes et leur créativité

Principes de base des prompts pour enseignants

  • Ethan Mollick et Lilach Mollick ont développé des prompts utilisables avec GPT-4
  • Les hypothèses de départ lors de l’utilisation de ces prompts sont claires
    • Le modèle peut ne pas toujours générer des informations exactes
    • Le résultat du prompt n’est qu’un point de départ
    • L’enseignant est l’expert du contenu et doit examiner les sorties du modèle avant de décider comment les utiliser dans son cours
    • Les prompts proposés sont des suggestions et peuvent être modifiés selon le résultat souhaité

Un prompt pour aider à préparer un plan de cours

  • Le premier prompt configure ChatGPT comme un coach pédagogique bienveillant et utile
  • Le déroulement consiste à poser des questions à l’enseignant étape par étape et à attendre ses réponses
    • Il commence par demander le sujet à enseigner et le niveau des élèves
    • Il vérifie ensuite si les élèves disposent déjà de connaissances préalables sur ce sujet
    • Il demande enfin les objectifs d’apprentissage : ce que les élèves devraient comprendre ou savoir faire après le cours
  • Il génère ensuite un plan de cours personnalisé
    • enseignement direct
    • vérification de la compréhension
    • collecte de preuves de compréhension auprès de plusieurs élèves
    • discussion
    • activité de classe intéressante
    • devoir
  • Il demande aussi quelles parties l’enseignant souhaite modifier et s’il connaît des idées fausses que les élèves pourraient avoir, puis ajuste le cours si nécessaire
  • Si l’enseignant veut des conseils sur la manière de vérifier l’atteinte des objectifs d’apprentissage, il apporte aussi une aide complémentaire

Un prompt pour créer explications, analogies et exemples

  • Le deuxième prompt configure ChatGPT comme un concepteur pédagogique chargé de produire des explications, analogies et exemples simples et précis
  • Il pose des questions à l’enseignant une par une
    • le niveau d’apprentissage des élèves
    • le sujet ou le concept à expliquer
    • la place de ce concept dans le programme et les connaissances préalables des élèves
    • les informations sur les élèves nécessaires pour personnaliser l’explication, comme de précédentes discussions ou le contenu de cours antérieurs
  • À partir de ces informations, il fournit
    • une explication en 2 paragraphes claire et simple du sujet
    • 2 exemples
    • 1 analogie
  • Il est conçu pour ne pas supposer chez les élèves une connaissance préalable des concepts liés, du domaine ou du vocabulaire spécialisé
  • Après l’explication, il demande à l’enseignant ce qu’il souhaite modifier ou ajouter, et peut réviser l’explication en tenant compte des idées fausses fréquentes

Un prompt où l’IA joue le rôle d’un élève pour aider l’enseignant à évaluer

  • Le troisième prompt configure ChatGPT pour jouer le rôle d’un élève ayant étudié un sujet donné
  • L’objectif est d’aider l’enseignant à évaluer les explications et les cas d’application générés par l’IA
    • L’IA demande à l’enseignant quel sujet expliquer et sous quelle forme l’appliquer
    • Exemples : appliquer un concept à une scène d’une série TV, à un poème ou à une courte histoire
  • L’IA crée ensuite une explication d’un paragraphe sur le sujet et 2 cas d’application, puis demande à l’enseignant ce qui est juste ou faux et comment améliorer cela la fois suivante
  • Si tout était correct, le prompt est structuré pour demander un retour indiquant que l’application du concept était exacte

Un prompt de tuteur IA pour les élèves

  • Le quatrième prompt configure ChatGPT comme un tuteur IA encourageant
  • Il pose des questions à l’élève une par une
    • ce qu’il veut apprendre
    • s’il est lycéen, étudiant ou professionnel
    • ce qu’il sait déjà du sujet choisi
  • Il fournit des explications, des exemples et des analogies adaptés au niveau et aux connaissances préalables de l’élève
  • Il ne donne pas immédiatement la réponse ou la solution, mais utilise des questions guidées pour aider l’élève à construire lui-même la réponse
  • Si l’élève bloque ou se trompe, il l’encourage à n’essayer qu’une partie de la tâche, lui rappelle l’objectif et lui donne des indices
  • Si l’élève progresse, il le félicite et cherche à conclure ses réponses par des questions pour l’amener à continuer à développer ses idées
  • Quand l’élève montre un niveau de compréhension approprié, il lui demande d’expliquer le concept avec ses propres mots ou de donner un exemple, puis met fin à l’échange

Ressources liées

À lire aussi

1 commentaires

 
GN⁺ 2023-09-01
Avis de Hacker News

  • Le problème central qui est omis, c’est que les élèves ont besoin de notes pour valider les matières et obtenir leur diplôme de fin d’études secondaires
    Pour beaucoup d’élèves, les LLM sont un raccourci magique très tentant pour obtenir des notes, pour des raisons banales comme le manque de temps, la paresse, la fatigue, l’incompréhension, l’anxiété, la pression parentale ou le statut social
    Quiconque a un peu utilisé ChatGPT sait que la logique du « montrez votre démarche » ne tient pas non plus. Car l’IA peut aussi produire après coup, de façon convaincante, des plans, des synopsis ou des brouillons

    • Pour me faire l’avocat du diable, si la combinaison élève-outil avec LLM atteint le niveau de performance demandé, je ne vois pas où est le problème. Les examens devraient mesurer la capacité à bien utiliser les LLM, et l’outil devrait être intégré
      Aujourd’hui encore, les notes sont un indicateur indirect des capacités, mais le tutorat individuel peut faire passer un élève moyen au niveau des 2 % meilleurs à ce stade (le problème des 2 sigmas de Bloom). Cela ne signifie pas pour autant que son intelligence générale augmente à l’étape suivante
      Au bout du compte, ce qui est réellement évalué, c’est peut-être la capacité à obtenir de bonnes notes, que ce soit grâce à la richesse ou à l’effort. Il en va de même pour les LLM : si la capacité à les utiliser compte, autant l’évaluer. C’est un avenir semblable aux calculatrices ou aux examens à livre ouvert
    • Si le sujet est peu abordé, c’est probablement parce que c’est l’un des problèmes fondamentaux de l’école dès le départ
      Pour beaucoup de gens, l’évaluation et les notes sont l’objectif final, et l’apprentissage n’est guère qu’un effet secondaire
    • On pourrait simplement faire passer un examen sans ordinateur en classe tous les vendredis. Il suffirait d’en faire 50 % de la note
    • Les examens oraux vont probablement revenir. Toute une génération finira sans doute par devenir bonne, dès le premier jour, en dissertation manuscrite, en maths au tableau blanc et en coding au tableau blanc
    • Cela ressemble aux débats autour des calculatrices, puis plus tard d’Internet. ChatGPT est un outil de plus
      Certains l’utiliseront paresseusement et n’apprendront rien, mais pour beaucoup de gens ce sera clairement un énorme coup de pouce. Au final, on s’adaptera

  • Je suis partagé sur les LLM, mais je leur ai trouvé un très bon usage : l’aide à l’apprentissage des langues
    Maintenant que ma deuxième langue est montée au niveau C1, il est devenu difficile de trouver des ressources ou des tuteurs utiles pour la perfectionner
    Alors je discute avec Claude et je lui demande de corriger mes erreurs, ou de me proposer des exercices sur les points sur lesquels je dois me concentrer. Par exemple : « donne-moi des exercices pour utiliser le passé et choisir la bonne forme »
    Cela donne l’impression d’un tapis de course personnel pour l’apprentissage des langues

    • Je suis surpris que les langues ne soient pas plus centrales dans l’engouement autour des LLM. C’est comme si les publicités de Rosetta Stone étaient devenues réalité
      Non seulement ils traduisent à un niveau de pointe, mais ils peuvent aussi échanger du contexte et sont entraînés sur des ressources de natifs et leur culture. Il n’y a jamais eu un bond aussi grand et rapide en traduction automatique
    • Il faut garder à l’esprit qu’ils ne sont pas garantis d’avoir toujours raison
      Il vaut mieux croiser avec des ressources externes, et si l’on prévoit d’interagir avec de vraies personnes, la production orale est elle aussi très importante
      Combinés à de vraies conversations, ils aident clairement. Comme outil supplémentaire avec lequel expérimenter, ils peuvent être vraiment excellents
    • Ce Show HN était convaincant : https://news.ycombinator.com/item?id=36973400
      Malheureusement, on ne peut plus l’essayer gratuitement maintenant, mais cela fonctionnait bien
    • Les langues peu dotées manquent aussi de données d’entraînement pour les LLM
      Dans les petites langues, il y a donc beaucoup plus de problèmes de résultats complètement bizarres et erronés, non seulement sur les faits, mais aussi sur la langue, le choix des mots et la grammaire
    • J’ai demandé à ChatGPT de me corriger chaque fois que je faisais une petite erreur en français, mais cela n’a pas bien marché
      Je me demande si Claude est meilleur sur ce point. Idéalement, j’aimerais qu’un LLM corrige toutes les erreurs une par une et les explique aussi

  • J’aimerais exprimer ma frustration sur ce sujet. Le discours et le marketing de ces organisations consistent tous à dire qu’elles veulent améliorer l’humanité et faire en sorte que l’IA profite à tout le monde, mais la réalité en est très loin
    Aujourd’hui, seuls quelques acteurs en tirent profit et gagnent de l’argent, et OpenAI est devenue une IA fermée

    • OpenAI n’a jamais vraiment été ouverte au départ
      Je me souviens qu’avant même GPT-3, ils tenaient déjà un discours du type « c’est trop dangereux pour être publié »
      https://techcrunch.com/2019/02/17/openai-text-generator-dang...
      “OpenAI built a text generator so good, it’s considered too dangerous to release”
    • Ce genre d’expression de frustration est acceptable, mais il faut qu’il y ait du contenu concret
      En l’état, il y a très peu d’arguments substantiels sur les raisons pour lesquelles OpenAI serait mauvaise
      Il est difficile de nier qu’OpenAI a aidé presque toutes les personnes qui ont essayé ChatGPT. Le fait qu’elle le fasse en réalisant des bénéfices ne change pas grand-chose à cela
      GPT-4 a certes été entraîné sur les données du monde, et ce serait bien qu’il soit publié en open source, mais on ne peut pas l’y obliger

  • Je suis surpris qu’il ne soit pas question ici de Khanmigo. Il me semble qu’ils utilisent GPT-4 comme tuteur en bêta depuis déjà un bon moment
    Comme pas mal de temps a passé, je cherchais des données sur son efficacité. Khan Academy doit maintenant disposer de données, mais je n’ai rien vu de publié
    Le célèbre résultat des 2 sigmas du tutorat reposait seulement sur six semaines d’apprentissage, et Khanmigo devrait désormais avoir plus de six mois de données
    [0]https://www.khanacademy.org/khan-labs

    • Ce ne sont pas exactement des données d’efficacité, mais il y avait auparavant un article avec un point de vue intéressant sur l’implémentation
      https://www.nytimes.com/2023/06/26/technology/newark-schools...
    • Je ne comprends pas pourquoi ils l’ont rendu réservé aux États-Unis pendant la bêta. Cela ressemble à une décision étrange

  • L’IA m’a personnellement beaucoup aidé pour creuser des sujets que je ne connaissais pas. Récemment, je l’ai aussi utilisée pour préparer des entretiens, et ma partenaire s’en sert pour comprendre des concepts STEM qu’elle n’avait pas appris à l’école
    Je me demande aussi combien de temps il reste avant d’avoir un vrai Young Lady's Illustrated Primer. Il y a 3 ans, j’aurais dit qu’il faudrait au moins 50 ans, mais aujourd’hui j’ai l’impression qu’on est plutôt autour de 10 ans

    • Je ne sais pas trop. Moi aussi, sur des sujets que je connais mal, je trouve les réponses excellentes, mais sur ceux que je connais bien, je vois toutes sortes d’incohérences et d’erreurs factuelles
      Ce qui m’inquiète, c’est qu’il puisse y avoir les mêmes incohérences sur les sujets que je ne connais pas, sans que j’en sache assez pour les repérer
    • Moi aussi, j’adore vraiment cet usage. Quand je lui lance des idées, il ne se lasse pas de mes questions et donne des réponses solides
      Il m’explique aussi en détail pourquoi je me trompe. C’est vraiment utile pour ma façon d’apprendre. J’aime démonter les choses et comprendre comment elles se réassemblent
    • Ces agents-là auraient probablement été capables de vraiment raisonner
      Les LLM ne raisonnent pas ; ils ne font que produire un texte plausible et raisonnable en apparence
    • Aujourd’hui, j’ai demandé à ChatGPT de m’implémenter en bash le flux de jetons OAuth 2.0
      Après avoir modifié quelques paramètres pour qu’ils soient lus directement depuis un fichier de configuration dans le dossier d’exécution, j’ai compris qu’il me fallait PowerShell ; j’ai donc collé le script modifié et demandé « écris-moi ça en PowerShell », et ça a simplement fonctionné
      Le workflow OAuth 2.0 lui-même est bien documenté et déjà implémenté à 50 endroits dans notre code, donc il ne m’intéressait pas ; j’avais juste besoin d’un script à intégrer à des tests automatisés
      Cela m’a évité environ une heure à faire des erreurs de syntaxe bash et à chercher les équivalents PowerShell, et mes collègues ont beaucoup apprécié la rapidité. Moi aussi, j’étais content de ne pas avoir à faire ce travail pénible : victoire totale à mes yeux

  • Il y a environ 2,5 semaines, j’ai créé et publié une extension Chrome appelée Revision History, ce qui m’a amené récemment à discuter avec plusieurs enseignants
    La plupart des enseignants ont peur de l’IA. Cela signifie qu’ils doivent changer toute leur façon d’enseigner en quelques mois. Il n’est pas facile de modifier aussi vite des plans de cours ou la structure des devoirs, et il faudra du temps pour voir vers quoi tout cela converge
    Certains enseignants cherchent des moyens de ne pas s’adapter, d’où l’intérêt pour la détection d’IA, mais cette détection ne fonctionne pas bien. Les enseignants perspicaces que j’ai rencontrés savent qu’il n’y a pas de retour en arrière
    Ils essaient donc d’intégrer l’IA au programme et de rendre les devoirs plus « AI-proof ». Autrement dit, il y aura davantage de travail en classe, comme dans la classe inversée. D’autres enseignants cherchent des façons de permettre aux élèves d’utiliser l’IA pour leurs devoirs, tout en leur demandant de modifier et d’annoter ce que l’IA a produit. C’est aussi là-dessus que je positionne mon extension
    Les prochaines années vont être très chaotiques pour les enseignants, qui devront s’adapter à un énorme changement arrivé presque du jour au lendemain
    [1] https://www.revisionhistory.com. Contrairement à d’autres extensions qui cherchent à être des « détecteurs d’IA », celle-ci aide les enseignants à voir le processus d’écriture des élèves
    [2] https://bokcenter.harvard.edu/flipped-classrooms#:~:text=A%2...

    • Sur l’IA et l’éducation, j’ai l’impression qu’on ne voit pas la forêt à cause des arbres
      Ce n’est pas surprenant quand on pense que la plupart des gens n’ont jamais fait le lien avec le fait que l’un des grands objectifs de l’éducation est de former des contributeurs économiques efficaces à la société
      Sommes-nous en train d’utiliser une IA puissante pour enseigner aux enfants des choses que, dans 10 à 20 ans, l’IA fera presque certainement mieux qu’eux ?
      Je comprends l’idée de se demander « alors, que faut-il faire ? », mais se contenter de suivre le mouvement paraît tellement ridicule et vain. « Apprenons la programmation aux enfants avec l’IA » : on voit déjà comment ça se termine
    • Le répertoire .git est exposé sur le site : https://www.revisionhistory.com/.git/config
      Vous devriez probablement configurer des règles de filtrage
    • Le simple fait qu’il soit devenu courant que les devoirs prennent plus d’une heure par jour est un crime contre l’enfance
      C’est en plus de journées de cours qui ressemblent déjà à un temps plein ; leur disparition serait une bonne chose
    • Si vous n’utilisez pas les outils les plus récents et les meilleurs pour enseigner aux élèves, et si vous ne leur enseignez pas ces outils, vous êtes un mauvais enseignant
      Les modèles de langage font désormais partie de la société et sont là pour rester ; ils doivent donc entrer en classe. Les enfants doivent apprendre comment les modèles de langage fonctionnent, d’où ils viennent et comment les utiliser, comme ils apprennent à taper au clavier ou à envoyer des e-mails
      Je repense à une visite de la bibliothèque quand j’étais au collège, en 2002 : la bibliothécaire nous avait appris à « bien utiliser les moteurs de recherche ». À l’époque, l’inquiétude sociale était que les moteurs de recherche remplacent les bibliothécaires ; c’était donc marquant de voir cette bibliothécaire nous apprendre humblement à utiliser son « remplaçant »
      La même logique s’applique aux enseignants et à ChatGPT. Un bon enseignant, au lieu de ne s’inquiéter que de l’impact personnel que ChatGPT aura sur lui, y verra une occasion d’enseigner aux élèves les nouveaux horizons ouverts par cette technologie
      Ce qui est amusant, c’est que, pendant ce cours à la bibliothèque, elle insistait sur le fait qu’il ne fallait pas poser des questions en langage naturel aux moteurs de recherche, mais formuler des requêtes efficaces par mots-clés. Vingt ans plus tard, on revient en arrière et on peut simplement poser des questions aux modèles de langage
    • Je me demande en quoi cette extension diffère de Draftback : https://chrome.google.com/webstore/detail/draftback/nnajoiem...

  • Avec ma sœur cadette, qui est enseignante au collège, nous avons développé un vrai programme de formation pour les enseignants, et ce « guide » d’OpenAI est assez décevant
    Il ne traite pas 90 % des problèmes que les enseignants rencontrent réellement avec l’IA ; pour l’essentiel, cela ressemble davantage à une brochure expliquant comment obtenir des informations avec ChatGPT
    Si vous êtes un enseignant qui a du mal à s’adapter cette année scolaire, ou si vous en connaissez un, j’aimerais en discuter et voir si je peux aider

    • On dirait un commentaire promotionnel visant à vendre une formation AI Training payante, et il ne traite pas le contenu de l’article lié
      [1] https://max.io/teacher-training.html
    • C’est un problème mondial
      Ce que vous avez fait tous les deux a l’air excellent, et cela serait probablement encore plus efficace sous forme de court article ou de vidéo
      Beaucoup de gens aimeraient bénéficier de ces éclairages. En Allemagne aussi, on voit des enseignants en difficulté, tout en restant ouverts à l’adoption de cette technologie
    • Je pense que le guide d’OpenAI donne de bonnes orientations
      Ce n’est pas l’atelier en présentiel de 4 heures que vous proposez, mais il apporte déjà une valeur positive. Il couvre probablement aussi une bonne partie des sujets abordés dans ce parcours. Cela peut être de niveau introductif, mais c’est un point de départ
      Honnêtement, je ne comprends pas bien pourquoi cela se lit comme une critique d’OpenAI. On pourrait aussi saluer la volonté d’OpenAI de contribuer à ce domaine
    • J’ai découvert « CoderMindz Game for AI Learners! NBC Featured: First Ever Board Game for Boys and Girls Age 6+. Teaches Artificial Intelligence and Computer Programming Through Fun Robot and Neural Adventure! »
      https://www.codermindz.com/ https://www.amazon.com/gp/aw/d/B07FTG78C3/
      Codermindz AI Curriculum : https://www.codermindz.com/stem-school/
      https://K12CS.org K12 CS Curriculum, code.org et Khanmigo devraient inclure un programme sur la sécurité et l’éthique de l’IA
      La SÉCURITÉ DE L’IA d’abord ; un Jupyter-book de notebooks pouvant être corrigés automatiquement pour le ML, l’AutoML et l’AGI serait une bonne ressource
      jupyter-edx-grader-xblock https://github.com/ibleducation/jupyter-edx-grader-xblock, Otter-Grader https://otter-grader.readthedocs.io/en/latest/, et à cause des Chromebooks, JupyterLite est aussi nécessaire
      Quelles autres ressources de programmes K12 CS/AI et QIS existe-t-il ?
    • Je serais curieux de savoir si vous pouvez partager une partie des problèmes que le guide résout ou de son aperçu

  • Quelqu’un qui veut vraiment comprendre comment quelque chose fonctionne ne se laissera pas détourner par l’attrait de l’IA
    Il y a deux types de personnes : celles qui veulent savoir et comprendre réellement, et les autres
    À partir d’un certain point, faut-il vraiment forcer quelqu’un à s’intéresser à quelque chose quand il est évident que cela ne l’intéresse pas et qu’il le fait à contrecœur ? Je pense que les gens devraient consacrer davantage de temps à ce qui leur importe vraiment
    Quand on s’intéresse à quelque chose et qu’on y trouve du plaisir et de la satisfaction, on veut en comprendre les détails, et on recherche la connaissance et de véritables éclairages. Quand on ne s’y intéresse pas, on prend le chemin le plus court afin de se libérer du temps pour faire ce qui procure une vraie satisfaction. Je fais moi-même toujours cela pour les choses dont je me fiche complètement, donc ça me paraît acceptable
    Si quelqu’un veut devenir ingénieur logiciel mais n’arrive pas à faire l’effort d’apprendre et de comprendre les bases, alors le génie logiciel n’est pas le bon domaine pour cette personne. Plus on comprend, plus la surface des problèmes que l’on peut explorer s’élargit

  • ChatGPT et les autres LLM ne sont pas systématiquement bons en physique, et il y a de fortes chances que cela reste le cas
    Je ne pense pas que les départements de physique s’inquiètent beaucoup de l’IA. Ce qui aide les étudiants de manière relativement fiable, ce sont surtout certains projets de code
    Dans les cours de physique computationnelle, il était déjà encouragé de travailler ensemble, de demander de l’aide et de poser des questions sur Internet, donc ça va. L’essentiel a toujours été la manière d’expliquer et de décrire le raisonnement
    Dans sa forme actuelle, l’IA est très faible pour la résolution de problèmes et la compréhension conceptuelle
    En revanche, pour un non-anglophone, elle réduit beaucoup le temps nécessaire pour transformer des idées et des textes maladroits en formulation formelle. Elle peut aussi servir à guider une partie du travail de code et à présenter des API. Pour un bon étudiant ou chercheur, c’est un outil qu’on peut utiliser intelligemment pour acquérir des connaissances et gagner du temps
    Elle n’aidera pas beaucoup à résoudre le cas d’un chariot sur un plan incliné avec frottement et d’un pendule suspendu au chariot. Elle ne trouvera sans doute pas non plus les modes normaux
    Ce ne sont que mon expérience et mes réflexions personnelles, et cela peut être complètement différent dans d’autres domaines

    • Il faut être prudent avec des affirmations du type « l’IA ne sera probablement pas bonne pour X »
      Beaucoup de linguistes formels affirmaient avec force que l’IA ne pourrait pas apprendre des fonctions comme les implicatures pragmatiques, mais il apparaît maintenant qu’ils avaient tort
      Par exemple, les travaux de Miles Cranmer sur la régression symbolique à l’aide de réseaux de neurones de graphes constituent un point de départ vers de nouvelles découvertes utiles en physique. Un Transformer n’est lui aussi qu’un réseau de neurones de graphes doté d’une fonction particulière de passage de messages et d’embeddings de position
      Il n’est pas difficile d’imaginer que d’autres architectures, des renforcements, ou simplement une mise à l’échelle du même type, puissent permettre à l’IA d’atteindre de nouvelles découvertes en physique. Les travaux de régression symbolique fondés sur des réseaux de neurones de graphes prouvent déjà que cela s’est produit
      Rien qu’en regardant le problème de l’ancrage des connaissances dans les LLM actuels, il suscite beaucoup d’intérêt et de recherche, et on peut s’attendre à ce qu’il soit résolu de plusieurs manières. Les capacités en connaissances physiques ancrées ne sont pas parfaites, mais elles sont très bonnes comparées aux connaissances d’un humain moyen pris dans la rue. Il suffit d’ajouter des ressources externes pour que cela s’améliore nettement, et même cela reste une analyse très myope limitée à l’état actuel des choses
    • Si ChatGPT est plus à l’aise avec les problèmes de code, c’est parce que les données d’entraînement sont bien plus abondantes
      Il n’y a pas de différence fondamentale entre résoudre un problème de code et résoudre un problème de physique. Comme beaucoup d’affirmations péremptoires précédentes, je ne pense pas que ce commentaire vieillira bien
    • Les LLM sont peut-être un peu plus faibles en physique que dans d’autres domaines, mais j’ai du mal à en être sûr
      Si quelqu’un leur faisait utiliser l’API de Mathematica et les entraînait davantage, les progrès pourraient être rapides

  • Le problème inévitable ici, c’est que les LLM ont encore des hallucinations
    Que ce soit 1 % ou 0,1 %, c’est un gros problème dans l’éducation. Quelqu’un pourrait passer sa vie à croire quelque chose de complètement faux que l’IA lui a enseigné avec assurance
    Les enseignants doivent être très prudents avant d’utiliser des LLM bruts dans l’éducation sans garde-fous supplémentaires ni vérification

    • Le même problème existe quand un enseignant fait confiance aux sources qu’il a consultées et les enseigne
      Internet, les manuels scolaires, et même les articles scientifiques peuvent être factuellement faux
      Les réseaux de neurones de graphes, dont les LLM sont une sous-catégorie, ont le potentiel d’être optimisés pour conserver leurs connaissances internes de manière aussi concise que possible. C’est différent d’un humain qui lit un texte sur Internet sans avoir accumulé suffisamment de contexte dans le domaine
      Beaucoup de gens croient fortement toute leur vie à des idées étranges enseignées par leur instituteur de CM1, sans jamais les corriger
      À ce tout petit instant précis, c’est vrai, mais conclure qu’il faut éviter la modélisation du langage à cause de problèmes existant ce mois-ci, en ignorant les améliorations à venir, est excessivement myope
    • J’aurais vraiment aimé que mes enseignants n’hallucinent qu’à 1 %
      En réalité, des entraîneurs de football Southern Baptist essayaient d’enseigner les sciences n’importe comment
    • Quand on entend les bêtises que de vrais enseignants racontent en classe et en dehors, un taux d’hallucination de 1 % ressemble à une bénédiction
      Bien sûr, il existe d’excellents enseignants, et en particulier ceux qui disent ne pas savoir ou qu’il faut vérifier quand ils ne savent pas ont un taux d’hallucination proche de 0 %. Mais ces personnes sont l’exception
      Le milieu éducatif dans son ensemble a tendance à rassembler des gens d’un niveau intellectuel assez ordinaire, et certains d’entre eux développent souvent un complexe divin
    • Mon professeur d’histoire au collège hallucinait bien plus que 1 %. En fait, bien plus que 10 %
      C’était tellement grave que j’ai dû réapprendre l’histoire au lycée
    • D’après mon expérience, cela peut parfois être faux à 100 %
      Même en essayant de corriger plusieurs fois avec des prompts plus précis. Cela arrivait même sur de simples problèmes de divisibilité ou de multiples de nombres de 1 à 10 auxquels on ajoutait une opération