Le deep learning se heurte à ses limites
(nautil.us)-
Les limites décrites dans l’article sont les suivantes : GPT-3 ne comprend pas les phrases et se contente surtout de les enchaîner de manière naturelle. Le modèle de conduite autonome de Tesla ne parvient pas à distinguer une personne tenant un panneau STOP. Il classe un bus enseveli sous la neige comme une déneigeuse. La raison en est que le deep learning ne réfléchit pas : il mémorise puis classe.
-
C’est pourquoi, dans les domaines non critiques et déjà bien définis, où l’on peut prédire le résultat suivant, le deep learning se montre extrêmement efficace. En revanche, il pose de nombreux problèmes dans les domaines où ce n’est pas le cas. L’auteur prend NetHack comme exemple. Deux approches ont été testées pour créer une IA capable de jouer au jeu et de le terminer : une IA classique et une IA fondée sur le deep learning. L’IA classique a montré de meilleures performances.
-
L’IA classique, ou IA symbolique, pouvait comprendre le sens et progresser en conséquence. Elle pouvait donc réagir rapidement même lorsque de nouveaux schémas apparaissaient. En revanche, le deep learning est utile pour classer les éléments manquants à partir de ce qui existe déjà, mais il n’a pas très bien réussi à venir à bout des donjons générés automatiquement, parce qu’il ne peut pas savoir ce qu’ils signifient.
-
La solution avancée par l’auteur est une IA hybride. ( Référence : Voir l’avenir de l’IA à travers son passé - MIT Technology Review ) Il s’agit de dépasser les limites de l’IA fondée sur le deep learning grâce à l’analyse symbolique et aux règles définissables de l’IA classique. Cela permettrait de contrôler les causes du fonctionnement interne et de traiter plus précisément les relations partielles comme les relations globales.
-
Ce type d’IA n’existe pas seulement dans l’argumentation de l’auteur : AlphaGo et AlphaFold2 sont eux aussi des IA hybrides, et d’autres entreprises s’orientent également dans cette direction.
2 commentaires
Je me demandais comment résumer ça pour le publier, donc j’envisageais d’indiquer seulement la présentation de l’auteur comme ci-dessous… merci haha
C’est un article de Gary Marcus, CEO de Robust AI et auteur du livre Rebooting AI.
Comme ce texte aborde énormément de points, dont beaucoup sont très intéressants, ce n’était pas facile. J’ai donc simplement résumé, à grands traits, pourquoi l’auteur estime qu’une IA hybride est nécessaire.
Le texte traite aussi de la relation et des tensions (...) entre l’IA de deep learning et l’IA traditionnelle, et il contient beaucoup d’éléments intéressants. Si vous l’avez lu sans avoir encore vu l’article original, j’aimerais vraiment vous recommander d’y jeter un œil aussi. (__ )/