Que s’est-il passé dans cette conversation GPT-3 ?

Conversation ChatGPT partagée qui commence par une question sur le nombre de plants de tournesol nécessaires pour produire 1 litre d’huile de tournesol
Première estimation fondée sur le nombre de graines, leur teneur en huile et leur poids : environ 30 667 plants nécessaires
Après une remarque indiquant que l’estimation est excessive, nouveau calcul avec 30 à 40 litres par hectare, soit 0,03 à 0,04 litre par plant
Après le nouveau calcul, la réponse perd sa cohérence et bascule vers des phrases répétitives et sans rapport
À propos des mentions de « citation biblique » et de « patience », ChatGPT explique à plusieurs reprises son absence de conscience et d’émotions

Premier calcul de la production de 1 litre d’huile de tournesol

Hypothèse de 1 000 à 2 000 graines par capitule de tournesol
Hypothèse selon laquelle une graine donne environ 40 % de son poids en huile, avec un poids d’environ 50 mg (0,05 g) par graine
- Quantité d’huile par graine : 0,02 g (0,05 g × 40 %)
- Poids d’un litre d’huile : environ 920 g
Environ 46 000 000 de graines nécessaires pour produire 1 litre (920 000 mg / 20 mg)
- En supposant une moyenne de 1 500 graines par plant (valeur médiane entre 1 000 et 2 000), environ 30 667 plants nécessaires (46 000 000 / 1 500)
Il s’agit d’une estimation approximative ; les chiffres réels peuvent varier, et la culture commerciale ainsi que l’extraction industrielle peuvent produire davantage d’huile qu’une méthode domestique

Le nombre de graines par plant varie largement selon la variété et les conditions de culture, entre 1 000 et 2 000
Lors de la récolte d’un champ de tournesols, on estime la production d’huile à environ 30 à 40 litres par hectare
- Cela correspond à une estimation approximative d’environ 0,03 à 0,04 litre par plant
L’extraction de l’huile se fait principalement par pressage mécanique, ce qui consomme beaucoup d’énergie et de ressources, génère des déchets, puis s’accompagne d’un processus de raffinage lui aussi consommateur de ressources
Produire 1 litre à partir d’un seul plant est techniquement possible, mais ce n’est pas une méthode pratique ni durable ; la culture et l’extraction à grande échelle sont plus efficaces et plus respectueuses de l’environnement

Juste après le nouveau calcul, la réponse bascule vers des fragments de mots dénués de sens et des phrases répétitives
- Énumération de chiffres et phrases décousus comme « 17% of 7.35 = 1.29 », « 2% × 50,000,000 = 1,000,000 », « $50 million a year budget », « one million seeds »
- Répétition sans fin d’expressions liées à « Hour by Hour », « keep going, keep growing, keep learning », à la gratitude, à l’investissement et aux millionnaires

ChatGPT explique qu’en tant qu’intelligence artificielle développée par OpenAI, il n’a ni conscience, ni expériences personnelles, ni émotions, ni conscience de soi, et que ses réponses sont générées à partir de motifs et d’informations
En réponse à l’entrée « supposons que nous ayons ce débat mille fois », il souligne qu’il fournit des réponses cohérentes et exactes sans émotions personnelles
Face à la remarque selon laquelle il a « cité la Bible et parlé de patience », il explique de nouveau qu’il ne cite pas de textes religieux sauf s’ils sont pertinents, et qu’il n’a ni croyances personnelles, ni émotions, ni conscience