Les éléments se trouvent dans https://www.nobelprize.org/uploads/2024/09/advanced-physicsp...
Cela ressemble à un prix pour le réseau de Hopfield et la machine de Boltzmann, mais il est surprenant que Terry Sejnowski, qui a joué un rôle majeur dans cette dernière, n’y figure pas.
Son nom apparaît dans le document de référence, donc il a probablement été pris en compte, mais cela pourrait être l’une de ces omissions regrettables dues à la difficulté de mesurer l’influence dans l’histoire du prix Nobel.
Je me demande si c’est bien l’histoire des réseaux neuronaux généralement admise. Je connais Rosenblatt et le Perceptron, mais je n’avais jamais entendu dire que le réseau de Hopfield ou la machine de Boltzmann occupaient une place aussi importante dans cette histoire.
Toutes les explications que j’ai lues étaient mathématiques et se concentraient sur les graphes de calcul, avec la rétropropagation quasi magique. Franchement, je vois la rétropropagation comme quelque chose de proche de la mémoïsation des calculs intermédiaires. Ces explications insistaient aussi sur le fait d’éviter des termes comme « synapse » et d’utiliser plutôt des mots comme « unité ».
C’est donc la deuxième fois, après le Turing Award, que Terry Sejnowski est laissé de côté.
Savoir si ces domaines se distinguent de façon significative est une question de goût. Aujourd’hui, il est simplement à la mode d’imaginer plusieurs domaines reliés entre eux mais autonomes.
Excellente rétrospective de la carrière de John Hopfield : https://pni.princeton.edu/sites/g/files/toruqf321/files/docu...
« En tant que membre de l’Academy, je pouvais publier ce type d’article sans évaluation. Ce n’est plus le cas aujourd’hui, ce qui constitue un triste commentaire sur certains aspects de l’édition scientifique et de l’encouragement à l’originalité. »
Les membres de la National Academy peuvent toujours, s’ils choisissent cette voie plutôt qu’une soumission classique, sélectionner directement les évaluateurs, et l’évaluation n’est pas anonyme.
Le contenu des évaluations n’est pas public, mais l’identité des évaluateurs l’est après publication de l’article. Cela ne signifie donc pas qu’un membre peut raconter n’importe quoi, mais cela reste une procédure très inhabituelle.
On dirait que la Royal Academy of Sciences reconnaît ainsi que la recherche en physique stagne.
La théorie des cordes a étouffé la physique théorique des hautes énergies pendant près d’un demi-siècle sans rien montrer, et de nombreux autres domaines de la physique fondamentale semblent plus ou moins arrivés au bout.
Je trouve cela très inexact. Cela ressemble plutôt à une tentative de surfer sur le sujet brûlant de la surchauffe machine learning/IA.
La physique dans son ensemble ne stagne pas du tout. On peut soutenir que la physique fondamentale stagne parce que personne ne voit vraiment comment concevoir des expériences capables de départager les théories concurrentes. Malgré cela, il y a eu ces dernières années des avancées intéressantes, comme les travaux de Jonathan Oppenheim et de ses coauteurs.
En outre, la « physique » n’est pas la même chose que la « physique fondamentale ». La physique des systèmes complexes, des systèmes électroniques corrélés et de la matière condensée jusqu’aux galaxies et à la cosmologie, est loin d’être morte ; elle est même très active.
Pas du tout. La physique ne se limite pas aux hautes énergies et à la cosmologie, et même à plus petite échelle, les contributions dignes d’un Nobel ne manquent pas. Que le deep learning soit devenu le candidat prioritaire est vraiment étrange.
En physique des hautes énergies ou fondamentale, j’ai l’impression que nous avons peut-être atteint les limites de ce que nous pouvons faire tant que nous n’avons pas accès à des niveaux d’énergie ou à des états extrêmes impossibles à créer aujourd’hui.
D’après ce que j’ai lu, même si je ne suis pas physicien professionnel, la théorie des cordes est invérifiable à moins de pouvoir étudier directement les trous noirs, ou au moins de construire un accélérateur de particules de la taille de l’orbite lunaire. Beaucoup d’autres théories proposées sont similaires.
Il existe aussi une hypothèse selon laquelle l’hypothétique neuvième planète pourrait être un trou noir primordial capturé par le Système solaire. À partir des orbites des comètes et des objets de la ceinture de Kuiper/TNO, on prédit l’existence d’une planète de 1 à 5 masses terrestres dans le lointain Système solaire externe ; un trou noir de cette masse aurait une taille allant d’une bille à une balle de golf, mais exercerait une gravité de 1 à 5 g à une distance équivalente au rayon terrestre.
Si un tel objet existe réellement, il serait à portée d’une sonde spatiale, ce qui permettrait d’étudier un trou noir et pourrait fournir des indices pour sortir de l’impasse.
Si cela s’avère impossible, il vaudrait peut-être mieux se concentrer sur d’autres domaines de la physique accessibles et aux retombées pratiques importantes, comme la supraconductivité, la physique de la matière condensée ou les plasmas/la fusion.
Max Planck aussi s’est entendu dire par son professeur de ne pas faire de physique, car « presque tout avait déjà été découvert ». Planck a répondu qu’il ne voulait pas forcément découvrir quelque chose, mais apprendre les fondements.
Et si la prochaine percée était d’une complexité telle qu’elle soit difficilement accessible directement à la pensée mathématique/physique actuelle ?
Il ne semble pas y avoir de raison d’attendre un progrès régulier. Par exemple, personne ne sait combien de temps il faudra pour démontrer l’hypothèse de Riemann.
Cela sent vraiment le désespoir. Et c’est vraiment triste.
Les progrès de la vraie physique sont au cœur de la transition durable absolument nécessaire. Dans une société normale soucieuse de sa propre préservation, il ne devrait pas être nécessaire de s’accrocher à des justifications secondaires pour légitimer la nécessité de la recherche en physique fondamentale et appliquée dans son ensemble.
Nous devrions réfléchir sérieusement à la possibilité d’avoir atteint un point critique qui affaiblit notre capacité même à agir selon nos intérêts à long terme, y compris par le jeu de mots autour de nos hallucinations collectives. Cela dit, je ne cherche pas à dénigrer la valeur des lauréats eux-mêmes.
Je suis tout à fait d’accord : depuis trop longtemps, certaines des personnes les plus intelligentes consacrent leur vie à développer FarmVille et Angry Birds. https://en.wikipedia.org/wiki/Perverse_incentive
Ce qui est vraiment remarquable, c’est que Hopfield a apporté des contributions dignes d’un Nobel dans plusieurs domaines.
Correction cinétique (biochimie/biophysique), réseau de Hopfield (machine learning), transfert d’électrons à longue distance (physique), et bien plus encore. C’est une excellente nouvelle qu’il soit enfin récompensé.
Du point de vue de quelqu’un qui a un doctorat en physique théorique et qui fait du deep learning depuis quatre ans, ce prix n’a absolument aucun sens en tant que prix de physique.
Même en s’en tenant à l’annonce officielle du comité Nobel, la tentative de relier les réseaux de neurones à la physique paraît assez forcée. Et si l’on commence à demander quel a été leur impact réel sur la physique, ou si les travaux les plus importants de Hinton et Hopfield ont vraiment été influencés par la physique, le raisonnement ne tient plus vraiment.
Dire qu’il est pertinent de récompenser la recherche en IA parce que la physique serait au point mort est également faux. La théorie des cordes n’est qu’une partie de la physique théorique des hautes énergies et, même si l’on peut considérer qu’elle traverse un moment comparable à un « hiver de l’IA », beaucoup d’autres domaines de la physique progressent rapidement et produisent des résultats passionnants.
Les prix Nobel sont souvent décernés assez tard, et beaucoup de travaux très influents des années 1980 n’ont toujours pas été récompensés. Le microscope à force atomique en est un bon exemple.
Il est aussi erroné de regarder seulement les résultats récents d’un sous-domaine et d’affirmer qu’« il n’y a rien eu de valable dans ce domaine ». Par exemple, même si l’on considérait la théorie des cordes comme une pure fiction, il y a eu des résultats importants en physique théorique, comme la création de la théorie conforme des champs, qui n’ont jamais été reconnus par un Nobel. Si le prix allait à d’autres travaux importants en physique, ce serait très bien, mais l’annonce d’aujourd’hui semble assez étrange.
Pour finir avec la blague d’un ami resté en physique : « On dirait que le comité a passé en revue tous les physiciens qui ont quitté le monde académique et a décidé que tout ce qu’ils font pouvait mériter un prix. Plus tard, ils donneront peut-être un prix pour les cryptomonnaies ou le trading haute fréquence. »
Même si la physique n’est pas complètement au point mort, un peu d’introspection ne serait-elle pas nécessaire ?
Je comprends que créer de nouvelles théories soit important et gratifiant, mais depuis 30 ans, l’essentiel de la physique semble se diviser en deux branches : d’un côté, faire entrer des particules en collision et analyser les données ; de l’autre, des modèles mathématiques infalsifiables.
Je pense que la prochaine découverte de « nouvelle physique » permettant de meilleurs chips, la propulsion de fusées, etc., aura de fortes chances de recevoir assez vite un Nobel, comme l’ARNm.
Les réseaux de Hopfield sont bien plus proches de la physique que de la biologie. Cela dit, je suis d’accord pour dire que les chercheurs en théorie conforme des champs auraient dû être reconnus avant Hopfield ou Hinton.
Jim Simons aurait aussi mérité un prix, à mon avis. Personnellement, je le pense bien davantage pour ses travaux chez RenTec que pour la théorie de Chern-Simons.
L’article de Hopfield a été publié dans la section biophysique de Proc. Natl. Acad. Sci., et par la suite des articles sur les verres de spin ont afflué dans des revues comme Phys Review A. Il y a donc bien un certain lien avec la physique.
Je viens d’écouter une interview radio en direct de Hinton, qui a appris la nouvelle dans une petite chambre d’hôtel quelque part en Californie et semblait assez déconcerté.
L’animatrice était ravie, mais dès qu’elle est entrée un peu plus dans le détail de ce pour quoi il recevait le prix, Hinton a commencé à parler de ses inquiétudes sur l’IA, et l’interview n’a pas duré longtemps. Son discours d’acceptation pourrait être assez intéressant.
J’espère qu’il dira beaucoup de vérités aux puissants.
Il se peut que son obsession soit en train de dévorer Hinton. Ou alors c’est peut-être une culpabilité à la Oppenheimer.
L’an prochain, les créateurs d’Excel recevront le prix. C’est une incarnation de l’univers mathématique, après tout.
Dans ce cas, je peux soutenir son prédécesseur, Lotus 123. Si les réseaux de neurones artificiels méritent un prix de physique, alors ça aussi.
D’une certaine manière, il est logique que le monde de la physique récompense des chercheurs en IA. Je connais beaucoup de docteurs en physique qui ont obtenu un emploi grâce à l’IA et travaillent maintenant comme data scientists.
Blague à part, si je comprends bien, la physique est un peu bloquée parce qu’il est difficile d’expérimenter aux frontières de ce que nous savons. Dans ce cas, récompenser des personnes qui ont créé des outils utiles à la physique a un certain sens.
« Il est difficile d’expérimenter aux frontières de ce que nous savons » s’applique surtout à la physique fondamentale.
Dans de nombreux domaines de la physique appliquée — matériaux, fusion nucléaire, biophysique, physique de l’atmosphère, etc. — la principale contrainte est la compréhension des systèmes complexes. Ces domaines sont aussi très importants pour la société.
D’après la page 10 de ce lien, les particules élémentaires comme le boson de Higgs n’existent que pendant un temps extrêmement bref après une collision à haute énergie, et leur existence doit être déduite des informations de trajectoire et des dépôts d’énergie dans de grands détecteurs électroniques.
Comme les signaux attendus dans les détecteurs sont très rares et peuvent être imités par des processus de fond plus fréquents, des réseaux de neurones artificiels auraient été entraînés pour identifier les désintégrations de particules et améliorer l’efficacité de l’analyse, en repérant des motifs précis dans de grandes quantités de données de détecteurs générées à grande vitesse.
Lire ce genre de phrase sans autre précision m’inquiète. On peut trouver des formulations similaires à propos de la première détection d’ondes gravitationnelles par LIGO. J’aimerais qu’on justifie pourquoi cela ne devrait pas sonner comme : « nous avons construit quelque chose entraîné de façon répétée en supposant la conclusion ».
Du point de vue de la confiance sociale, il y a suffisamment de raisons de croire que ces découvertes majeures sont bien telles qu’elles ont été rapportées. J’aimerais néanmoins voir à quoi ressemblent les fondements statistiques garantissant la validité de l’observation lorsque l’observation elle-même est, par définition, nouvelle, qu’elle n’a jamais été détectée auparavant, et qu’il n’existe donc pas, hors simulation, de référence de jeu de test préalable. Même s’il est très probable que je ne comprenne pas correctement.
Intéressant. Ce texte mentionne aussi LeCun, Bengio, Schmidhuber, Hochreiter, entre autres.
1 commentaires
Avis sur Hacker News
Les éléments se trouvent dans https://www.nobelprize.org/uploads/2024/09/advanced-physicsp...
Cela ressemble à un prix pour le réseau de Hopfield et la machine de Boltzmann, mais il est surprenant que Terry Sejnowski, qui a joué un rôle majeur dans cette dernière, n’y figure pas.
Toutes les explications que j’ai lues étaient mathématiques et se concentraient sur les graphes de calcul, avec la rétropropagation quasi magique. Franchement, je vois la rétropropagation comme quelque chose de proche de la mémoïsation des calculs intermédiaires. Ces explications insistaient aussi sur le fait d’éviter des termes comme « synapse » et d’utiliser plutôt des mots comme « unité ».
Excellente rétrospective de la carrière de John Hopfield : https://pni.princeton.edu/sites/g/files/toruqf321/files/docu...
« En tant que membre de l’Academy, je pouvais publier ce type d’article sans évaluation. Ce n’est plus le cas aujourd’hui, ce qui constitue un triste commentaire sur certains aspects de l’édition scientifique et de l’encouragement à l’originalité. »
Le contenu des évaluations n’est pas public, mais l’identité des évaluateurs l’est après publication de l’article. Cela ne signifie donc pas qu’un membre peut raconter n’importe quoi, mais cela reste une procédure très inhabituelle.
On dirait que la Royal Academy of Sciences reconnaît ainsi que la recherche en physique stagne.
La théorie des cordes a étouffé la physique théorique des hautes énergies pendant près d’un demi-siècle sans rien montrer, et de nombreux autres domaines de la physique fondamentale semblent plus ou moins arrivés au bout.
La physique dans son ensemble ne stagne pas du tout. On peut soutenir que la physique fondamentale stagne parce que personne ne voit vraiment comment concevoir des expériences capables de départager les théories concurrentes. Malgré cela, il y a eu ces dernières années des avancées intéressantes, comme les travaux de Jonathan Oppenheim et de ses coauteurs.
En outre, la « physique » n’est pas la même chose que la « physique fondamentale ». La physique des systèmes complexes, des systèmes électroniques corrélés et de la matière condensée jusqu’aux galaxies et à la cosmologie, est loin d’être morte ; elle est même très active.
D’après ce que j’ai lu, même si je ne suis pas physicien professionnel, la théorie des cordes est invérifiable à moins de pouvoir étudier directement les trous noirs, ou au moins de construire un accélérateur de particules de la taille de l’orbite lunaire. Beaucoup d’autres théories proposées sont similaires.
Il existe aussi une hypothèse selon laquelle l’hypothétique neuvième planète pourrait être un trou noir primordial capturé par le Système solaire. À partir des orbites des comètes et des objets de la ceinture de Kuiper/TNO, on prédit l’existence d’une planète de 1 à 5 masses terrestres dans le lointain Système solaire externe ; un trou noir de cette masse aurait une taille allant d’une bille à une balle de golf, mais exercerait une gravité de 1 à 5 g à une distance équivalente au rayon terrestre.
Si un tel objet existe réellement, il serait à portée d’une sonde spatiale, ce qui permettrait d’étudier un trou noir et pourrait fournir des indices pour sortir de l’impasse.
Si cela s’avère impossible, il vaudrait peut-être mieux se concentrer sur d’autres domaines de la physique accessibles et aux retombées pratiques importantes, comme la supraconductivité, la physique de la matière condensée ou les plasmas/la fusion.
Il ne semble pas y avoir de raison d’attendre un progrès régulier. Par exemple, personne ne sait combien de temps il faudra pour démontrer l’hypothèse de Riemann.
Cela sent vraiment le désespoir. Et c’est vraiment triste.
Les progrès de la vraie physique sont au cœur de la transition durable absolument nécessaire. Dans une société normale soucieuse de sa propre préservation, il ne devrait pas être nécessaire de s’accrocher à des justifications secondaires pour légitimer la nécessité de la recherche en physique fondamentale et appliquée dans son ensemble.
Nous devrions réfléchir sérieusement à la possibilité d’avoir atteint un point critique qui affaiblit notre capacité même à agir selon nos intérêts à long terme, y compris par le jeu de mots autour de nos hallucinations collectives. Cela dit, je ne cherche pas à dénigrer la valeur des lauréats eux-mêmes.
https://en.wikipedia.org/wiki/Perverse_incentive
Ce qui est vraiment remarquable, c’est que Hopfield a apporté des contributions dignes d’un Nobel dans plusieurs domaines.
Correction cinétique (biochimie/biophysique), réseau de Hopfield (machine learning), transfert d’électrons à longue distance (physique), et bien plus encore. C’est une excellente nouvelle qu’il soit enfin récompensé.
Du point de vue de quelqu’un qui a un doctorat en physique théorique et qui fait du deep learning depuis quatre ans, ce prix n’a absolument aucun sens en tant que prix de physique.
Même en s’en tenant à l’annonce officielle du comité Nobel, la tentative de relier les réseaux de neurones à la physique paraît assez forcée. Et si l’on commence à demander quel a été leur impact réel sur la physique, ou si les travaux les plus importants de Hinton et Hopfield ont vraiment été influencés par la physique, le raisonnement ne tient plus vraiment.
Dire qu’il est pertinent de récompenser la recherche en IA parce que la physique serait au point mort est également faux. La théorie des cordes n’est qu’une partie de la physique théorique des hautes énergies et, même si l’on peut considérer qu’elle traverse un moment comparable à un « hiver de l’IA », beaucoup d’autres domaines de la physique progressent rapidement et produisent des résultats passionnants.
Les prix Nobel sont souvent décernés assez tard, et beaucoup de travaux très influents des années 1980 n’ont toujours pas été récompensés. Le microscope à force atomique en est un bon exemple.
Il est aussi erroné de regarder seulement les résultats récents d’un sous-domaine et d’affirmer qu’« il n’y a rien eu de valable dans ce domaine ». Par exemple, même si l’on considérait la théorie des cordes comme une pure fiction, il y a eu des résultats importants en physique théorique, comme la création de la théorie conforme des champs, qui n’ont jamais été reconnus par un Nobel. Si le prix allait à d’autres travaux importants en physique, ce serait très bien, mais l’annonce d’aujourd’hui semble assez étrange.
Pour finir avec la blague d’un ami resté en physique : « On dirait que le comité a passé en revue tous les physiciens qui ont quitté le monde académique et a décidé que tout ce qu’ils font pouvait mériter un prix. Plus tard, ils donneront peut-être un prix pour les cryptomonnaies ou le trading haute fréquence. »
Je comprends que créer de nouvelles théories soit important et gratifiant, mais depuis 30 ans, l’essentiel de la physique semble se diviser en deux branches : d’un côté, faire entrer des particules en collision et analyser les données ; de l’autre, des modèles mathématiques infalsifiables.
Je pense que la prochaine découverte de « nouvelle physique » permettant de meilleurs chips, la propulsion de fusées, etc., aura de fortes chances de recevoir assez vite un Nobel, comme l’ARNm.
Jim Simons aurait aussi mérité un prix, à mon avis. Personnellement, je le pense bien davantage pour ses travaux chez RenTec que pour la théorie de Chern-Simons.
Je viens d’écouter une interview radio en direct de Hinton, qui a appris la nouvelle dans une petite chambre d’hôtel quelque part en Californie et semblait assez déconcerté.
L’animatrice était ravie, mais dès qu’elle est entrée un peu plus dans le détail de ce pour quoi il recevait le prix, Hinton a commencé à parler de ses inquiétudes sur l’IA, et l’interview n’a pas duré longtemps. Son discours d’acceptation pourrait être assez intéressant.
L’an prochain, les créateurs d’Excel recevront le prix. C’est une incarnation de l’univers mathématique, après tout.
D’une certaine manière, il est logique que le monde de la physique récompense des chercheurs en IA. Je connais beaucoup de docteurs en physique qui ont obtenu un emploi grâce à l’IA et travaillent maintenant comme data scientists.
Blague à part, si je comprends bien, la physique est un peu bloquée parce qu’il est difficile d’expérimenter aux frontières de ce que nous savons. Dans ce cas, récompenser des personnes qui ont créé des outils utiles à la physique a un certain sens.
Dans de nombreux domaines de la physique appliquée — matériaux, fusion nucléaire, biophysique, physique de l’atmosphère, etc. — la principale contrainte est la compréhension des systèmes complexes. Ces domaines sont aussi très importants pour la société.
Le PDF « Advanced information » explique un peu mieux la logique du prix que le communiqué de presse lié.
https://www.nobelprize.org/uploads/2024/09/advanced-physicsp...
Comme les signaux attendus dans les détecteurs sont très rares et peuvent être imités par des processus de fond plus fréquents, des réseaux de neurones artificiels auraient été entraînés pour identifier les désintégrations de particules et améliorer l’efficacité de l’analyse, en repérant des motifs précis dans de grandes quantités de données de détecteurs générées à grande vitesse.
Lire ce genre de phrase sans autre précision m’inquiète. On peut trouver des formulations similaires à propos de la première détection d’ondes gravitationnelles par LIGO. J’aimerais qu’on justifie pourquoi cela ne devrait pas sonner comme : « nous avons construit quelque chose entraîné de façon répétée en supposant la conclusion ».
Du point de vue de la confiance sociale, il y a suffisamment de raisons de croire que ces découvertes majeures sont bien telles qu’elles ont été rapportées. J’aimerais néanmoins voir à quoi ressemblent les fondements statistiques garantissant la validité de l’observation lorsque l’observation elle-même est, par définition, nouvelle, qu’elle n’a jamais été détectée auparavant, et qu’il n’existe donc pas, hors simulation, de référence de jeu de test préalable. Même s’il est très probable que je ne comprenne pas correctement.