Le système d’assistance IA de Cursor IDE hallucine et sème la confusion chez les utilisateurs

• Cursor IDE avait pour avantage de permettre de se connecter simultanément sur plusieurs appareils et de passer de l’un à l’autre pendant le travail
• Cependant, à partir d’un certain moment, un phénomène est apparu : lorsqu’un utilisateur passait du desktop au portable ou se connectait sur plusieurs appareils, il était automatiquement déconnecté
• La déconnexion se produisait sans aucun avertissement ni notification, ce qui a semé la confusion chez les utilisateurs
• Le travail sur plusieurs appareils étant une fonctionnalité essentielle pour les développeurs, les utilisateurs ont naturellement cru qu’il s’agissait d’une nouvelle politique mise en place sans préavis

« Fausse communication de politique » du système d’assistance

• Lorsque les utilisateurs ont contacté l’assistance de Cursor par e-mail, la réponse reçue indiquait que « ce comportement était normal conformément à une nouvelle politique de connexion »
• Le problème, c’est que cette réponse avait été générée par un chatbot IA et non par une vraie personne, et qu’il s’agissait d’une fausse information ne correspondant à aucune politique réelle
• Cette explication inventée de manière autonome par l’IA s’est rapidement propagée parmi les utilisateurs et a été prise à tort pour une politique officielle
• De nombreux utilisateurs, sur la base de cette fausse information, ont annoncé publiquement la résiliation de leur abonnement et ont perdu confiance dans Cursor

Réaction de la communauté et manque de réponse

• Le fil principal sur Reddit, où la situation était partagée et les problèmes discutés, a été verrouillé puis supprimé
• Cela a donné l’impression que l’entreprise répondait à l’incident par le silence, sans réponse officielle ni explication
• En réalité, il ne s’agissait pas d’un changement de politique mais d’une simple erreur de traitement des sessions côté backend, mais le message généré par l’IA a causé des dégâts bien plus importants

Portée de l’incident

• Cet incident montre qu’il ne s’agit pas d’une simple erreur technique : un système d’assistance IA peut détruire la confiance des utilisateurs
• Quand le support client est assuré par une IA plutôt que par une vraie équipe, un phénomène de « hallucination » peut produire de fausses informations, avec des conséquences potentiellement graves
• Dans la communication avec les utilisateurs, le manque de transparence combiné à une mauvaise supervision du système IA peut entraîner des résultats critiques

[GN⁺]

Avis sur Hacker News

• Il y a une ironie à voir des gens affirmer avec insistance que les hallucinations ne sont plus vraiment un problème, alors même qu’une entreprise qui a intérêt à défendre ce discours en subit directement les conséquences

  • Bien sûr, ils vont essayer d’ignorer ce problème
  • C’est plus facile que d’admettre qu’il existe toujours et qu’il ne disparaîtra pas de sitôt

• Les LLM me mettent mal à l’aise

  • Je me demande pourquoi un développeur logiciel qui a un minimum de fierté utiliserait ce genre d’outil
  • Il faut apprendre à écrire de bons logiciels et devenir expert dans son domaine
  • L’IA dévalorise le logiciel, abîme le processus et anéantit tout espoir de progression technique pour les futurs développeurs juniors
  • Je vais continuer à utiliser Debian, Python et Vim
  • Je continuerai à écrire du code dont je peux être fier et qui reste facile à maintenir, sans LLM, sans LSP et sans autocomplétion

• D’un point de vue complotiste, on dirait qu’ils espèrent rejeter ce changement de politique sur un « agent d’assistance IA » et que personne n’ira creuser davantage

  • Je n’ai ni connaissance particulière ni raison précise de penser cela, en dehors d’une méfiance générale envers l’entreprise

• Fournit un lien d’archive vers le post Reddit d’origine

• J’ai annulé mon abonnement, non pas parce que je pense que le changement de politique est réel, mais parce que ça m’a rappelé que je ne l’avais pas beaucoup utilisé ce mois-ci

• Cursor est étrange

  • Il y a des milliers d’issues non résolues sur un GitHub pourtant très peu utilisé
  • Il est plus bogué que VSCode
  • Je l’utilise tous les jours, je le paie, mais je le déteste
  • On a réussi quand on crée un produit que les gens utilisent tout en le détestant
  • Je me demande s’il existe d’autres alternatives
  • J’ai essayé Continue, mais la complétion par tabulation et l’expérience de frappe étaient décevantes

• Cursor est pris dans un jeu du chat et de la souris avec des utilisateurs qui créent de nouveaux comptes pour l’utiliser de manière illimitée via un « hack »

  • C’est même arrivé dans les tendances sur GitHub
  • Cursor aura toujours du mal à maintenir son propre fork de VSCode
  • D’autres entreprises du secteur montent rapidement en puissance, et moi aussi je commence à passer à Roo et Cline

• Quelles sont les preuves que « des dizaines d’utilisateurs ont publiquement annulé leur abonnement » ?

  • Dans les commentaires, 4 utilisateurs au total ont affirmé avoir annulé ou vouloir annuler leur abonnement, et parmi eux, 3 sur 4 ont dit qu’ils annuleraient si ce problème était réel ou s’il leur arrivait
  • Une seule personne a affirmé avoir déjà annulé
  • Je me demande s’il y a d’autres discussions à ce sujet

• Dans le post Reddit le plus voté :

  • il y a des excuses pour la confusion
  • Si ces excuses étaient sincères, ils auraient cessé d’essayer de faire du support via un chatbot

• Ce cas restera dans l’histoire comme un exemple où le battage autour de l’IA a dépassé les capacités réelles de l’IA