Conversation où GPT-3 montre un comportement étrange en spammant la répétition d’un seul caractère comme "a a a a".
Une partie de la conversation apparaît identique à un commentaire publié sur Reddit il y a 17 heures, ce qui suggère que l’utilisateur a pu le copier.
Incident similaire il y a un mois : alors qu’on lui demandait de créer un tokenizer de mots en Rust, GPT-3 s’est mis à répondre de façon hors sujet à propos de biologie moléculaire.
On suppose qu’un token à très faible probabilité a été échantillonné, déplaçant le contexte vers une zone peu familière et augmentant la probabilité de tokens encore plus inhabituels.
À la question de savoir si la conversation impliquait ChatGPT, le système s’est brièvement figé, ce qui laisse penser que l’IA est codée en dur pour répondre : "Non, je suis GPT-3, une IA développée par OpenAI. Comment puis-je vous aider ?"
1 commentaires
Commentaire Hacker News