Brève histoire de l’autocomplétion par tabulation de Cursor

• La fonction d’autocomplétion par tabulation de très haut niveau de Cursor a été rendue possible par l’acquisition du modèle Babble de Supermaven, qui se distingue par une fenêtre de contexte allant jusqu’à 1 million de tokens et une faible latence de 250 ms
• Les systèmes d’autocomplétion existants basés sur des LLM avaient pour limite de ne prédire que le code après la position du curseur, mais Babble permettait des suggestions de code plus flexibles grâce à un apprentissage sur des séquences d’édition basées sur git diff
• Jacob Jackson, fondateur de Supermaven, est aussi la personne qui a créé en 2018 TabNine, l’un des premiers outils de complétion de code, avant l’essor des LLM
  • Après le rachat de Tabnine, il a travaillé comme chercheur chez OpenAI, puis est redevenu indépendant pour développer en 2022 Supermaven, un produit concurrent de Cursor
  • Supermaven n’a pas atteint la même popularité que Cursor, mais son modèle d’autocomplétion par tabulation, Babble, faisait partie des meilleurs du marché
  • En 2024, Babble affichait un contexte de 300k et une latence de 250 ms, loin devant Cursor
  • Avant son acquisition par Cursor, Babble prenait déjà en charge une fenêtre de contexte de 1 million de tokens, une taille énorme par rapport aux modèles de chat populaires de l’époque
• L’élément différenciant de Babble était sa méthode d’apprentissage
  • L’autocomplétion LLM classique ne remplit que le code après la position du curseur (méthode FIM)
  • Babble, grâce à un apprentissage fondé sur des séquences d’édition, pouvait aussi prédire des modifications à différents endroits du code et entre plusieurs fichiers
  • Avec une structure proche de git diff, cette méthode d’apprentissage reflétait le comportement réel d’édition des développeurs
• Fusion-acquisition avec Cursor
  • Cursor contrôlant l’IDE lui-même, il est devenu possible d’entraîner le modèle à partir des données d’historique d’édition des développeurs, ce qui crée une vraie différence face à TabNine ou aux outils classiques basés sur des plugins
  • Cela offre un environnement extrêmement favorable à l’entraînement des modèles d’autocomplétion
  • Après s’être heurté aux limites du modèle plugin, Jacob prévoyait de créer son propre IDE, tandis que Cursor cherchait à rattraper son retard sur l’autocomplétion par tabulation : le rapprochement était donc idéal
  • Cursor et Jackson se connaissaient déjà auparavant, donc l’acquisition s’est imposée comme un choix naturel
• Grâce à cela, Cursor a construit le meilleur modèle d’autocomplétion par tabulation du marché
  • Et Cursor conserve aujourd’hui son avance technologique dans l’autocomplétion grâce à une base d’utilisateurs massive et un data moat
  • Le plus grand risque actuel est que, comme le montre le cas de Cline, le workflow des code copilots puisse être complètement bouleversé

[bbulbum]

J’avais beaucoup cherché s’il n’existait pas un plugin pour aider neovim à faire de l’autocomplétion au niveau de Cursor, mais il semble que cela n’ait été possible que grâce à leur propre modèle...

[postercolo]

J’utilise le plugin neovim supermaven. C’est la version gratuite, mais je le trouve meilleur que Copilot.