Nécrologie de Cyc

 (yuxi-liu-wired.github.io)
1 points par GN⁺ 2025-04-09 | 1 commentaires | Partager sur WhatsApp

L'échec du projet Cyc

  • Résumé : le projet Cyc, une tentative sur 40 ans de construire une intelligence générale artificielle, a avancé en étendant la logique symbolique, mais s'est soldé par un échec. Cet essai vise à mettre en lumière l'histoire secrète de Cyc pour la faire connaître plus largement.

Le mathématicien automatisé et EURISKO

  • Le mathématicien automatisé (AM) : premier projet légendaire de Douglas Lenat, c'était un système capable de découvrir automatiquement des concepts mathématiques. Cependant, AM est rapidement tombé dans une fatigue intellectuelle après ses premières découvertes.
  • EURISKO : système développé pour dépasser les limites d'AM, conçu pour pouvoir découvrir lui-même des règles heuristiques menant à de nouvelles découvertes. Mais EURISKO a lui aussi fini par sombrer dans la fatigue intellectuelle.

L'histoire de Cyc

  • Les débuts de Cyc : en 1985, Lenat a lancé Cyc en encodant manuellement des connaissances de sens commun. Environ 30 millions d'assertions et 200 millions de dollars y ont été consacrés.
  • Usage commercial : Cyc s'est réorienté vers des applications commerciales après 2016, mais celles-ci sont fonctionnellement identiques aux services et fonctionnalités d'acteurs historiques comme Oracle et IBM.
  • Culture du secret : Cyc avait un caractère secret, difficile d'accès pour les chercheurs externes, et n'a pas obtenu de résultats sur les benchmarks publics.

Les raisons de l'échec de Cyc

  • Les limites de la logique symbolique : Lenat a maintenu son approche fondée sur la logique symbolique, mais celle-ci n'a pas permis d'atteindre une intelligence générale en IA.
  • L'importance des connaissances de sens commun : Lenat estimait que si les humains ne tombent pas dans la fatigue intellectuelle, c'est grâce à l'immensité de leurs connaissances de sens commun, qui leur permet de générer sans fin de nouvelles idées.

Conclusion

  • Les limites de la logique symbolique : l'échec de Cyc montre que l'approche par logique symbolique n'est pas adaptée pour atteindre une intelligence générale en IA.

À lire aussi

1 commentaires

 
GN⁺ 2025-04-09
Réactions sur Hacker News

  • « On dirait une phrase qu’une IA consciente écrirait : cela m’a fait penser à “Circulez, il n’y a rien à voir ici”. »

    • Impression que Cyc n’avance pas dans une direction utile
    • Impressionné par la démo du monde de blocs de McCarthy
    • Estime qu’il est important d’avoir formalisé les règles qui créent le “contexte” dans lequel l’IA peut fonctionner
    • Les premiers cas d’échec des LLM sont des exemples typiques d’échec de contexte
    • Les modèles existants n’ont pas de contexte pendant l’entraînement, donc leur sortie n’est pas ajustée en fonction du contexte

  • « Article très intéressant et précieux »

    • Il est regrettable de conclure d’emblée que le projet a échoué
    • Il a fallu plus de 40 ans pour que les réseaux neuronaux deviennent utiles
    • Si la base de connaissances de Cycorp devient généralement accessible, elle pourrait servir à l’entraînement des LLM

  • « Il est possible d’exécuter la version opencyc publiée en ligne »

    • Il y a sur GitHub le dataset, la base de connaissances et le moteur d’inférence
    • C’est écrit dans une ancienne version de Java

  • « J’ai beaucoup essayé de lire sur AM et EURISKO, mais le travail de Lenat n’était pas public »

    • Il est regrettable que d’autres n’aient pas pu développer à partir du travail de Lenat

  • « L’article est une excellente revue de l’IA symbolique »

    • J’ai passé beaucoup de temps avec OpenCyc par le passé, mais je n’y ai pas touché depuis 10 ans
    • L’avenir productif de l’IA symbolique sera probablement lié à l’usage des LLM pour construire des graphes de connaissances et des relations symboliques à partir de données non structurées

  • « D’après son site web, Cyc se porte bien »

    • Lenat est mort en 2023, mais il apparaît toujours comme l’unique membre de la “leadership team”

  • « Je pense que Lenat était dans la bonne direction sur un point : la quantité de données est la clé pour obtenir une intelligence utile »

    • Le projet Cyc a été critiqué, mais on a observé quelque chose de similaire avec les LLM

  • « Excellent essai ! Merci à l’OP pour ses recherches incessantes »

  • « Je n’ai pas d’opinion tranchée sur Cyc, mais cette nécrologie me semble assez malveillante »

    • La conviction de fond de Lenat est aussi partagée en ML
    • Le ML a nécessité une quantité écrasante de calcul

  • « Le grand fil Cyc de l’an dernier »