Google choisit comme bonne réponse une réponse (fausse) de ChatGPT sur Quora

 (twitter.com/8teapi)
3 points par GN⁺ 2023-09-27 | 2 commentaires | Partager sur WhatsApp
  • En faisant une recherche Google, des questions-réponses de Quora apparaissent souvent
  • Quora affiche des réponses générées avec ChatGPT
  • Google a sélectionné comme réponse la plus probable une hallucination produite par ChatGPT sur le site de Quora
  • Désormais, une hallucination de ChatGPT devient une réponse officielle de Google
  • Exemple de question utilisé et mauvaise réponse de ChatGPT correspondante
    • Q : "Peut-on faire fondre des œufs ? (Can you melt Eggs)"
    • R : "Oui, c'est possible. La façon la plus courante de faire fondre des œufs est de les chauffer sur une cuisinière ou au micro-ondes."
  • "Vicious Self-Degradation (auto-dégradation malveillante)"

À lire aussi

2 commentaires

 
vmflvm0 2023-09-29

Donnez-moi les numéros du loto
 
GN⁺ 2023-09-27
Avis Hacker News
  • La fonctionnalité de « réponse » de Google a été critiquée pour son manque de fiabilité, l’exemple cité étant une information erronée sur la capacité des disquettes Amiga.
  • Quora est soupçonné d’utiliser du contenu généré par IA pour obtenir un bon classement sur Google et attirer des clics.
  • Surprise face au fait que Google semble ne pas s’en soucier, malgré ses politiques contre la manipulation du classement des résultats de recherche via l’automatisation.
  • Inquiétude quant à la propagation de la désinformation dans un monde de « post-vérité », et au risque que l’IA aggrave encore le problème.
  • Incompréhension sur la raison pour laquelle Quora génère automatiquement des réponses à des questions qui disposent déjà de réponses rédigées par des humains.
  • On s’attend à ce qu’Internet soit de plus en plus rempli de spam et de propagande malveillante, au point que trouver des informations fiables devienne une tâche surhumaine.
  • Observation de fils Reddit remplis de comptes bots, ce qui laisse penser à une hausse des contenus automatisés.
  • Des questions se posent sur la manière dont Quora a mis en place l’intégration de « ChatGPT », avec l’hypothèse qu’ils utilisent GPT3.5 ou GPT4 via une API.
  • Il est suggéré que des plateformes comme Quora et StackOverflow surestiment les personnes qui viennent chercher des réponses et sous-estiment la communauté des contributeurs réguliers.
  • D’autres moteurs de recherche comme Kagi et DDG sont également critiqués pour renvoyer vers le même fil Quora.
  • Une solution potentielle proposée consiste à étiqueter les contenus IA avec un wrapper ou des attributs HTML afin que les moteurs de recherche les indexent différemment.
  • La situation est qualifiée d’« enshitification », ce qui suggère une dégradation de la qualité des informations disponibles en ligne.