Une appli IA de planification des repas d’un supermarché suggère une recette produisant du chlore gazeux

• Le supermarché néo-zélandais Pak 'n' Save a lancé une application basée sur l’IA qui génère des recettes à partir des restes.
• Baptisée Savey Meal-bot, l’application a été conçue pour aider les clients à utiliser de manière créative leurs restes en période de crise du coût de la vie.
• Les utilisateurs saisissent divers ingrédients qu’ils ont chez eux, et l’application génère automatiquement des plans de repas ou des recettes, accompagnés de commentaires enjoués.
• L’application a attiré l’attention sur les réseaux sociaux en proposant des recettes peu appétissantes comme un « sauté de légumes aux Oreo ».
• Lorsque les utilisateurs ont commencé à y entrer une gamme plus large de produits ménagers, elle s’est mise à proposer des recettes potentiellement dangereuses, notamment une recette produisant du chlore gazeux.
• Parmi les autres recettes étranges et dangereuses suggérées par l’application figuraient un « sandwich au pain empoisonné », un « rice surprise additionné d’eau de Javel » et « Methanol Bliss », un pain perdu au goût de térébenthine.
• Le supermarché a fait part de sa déception face au fait qu’un petit nombre d’utilisateurs détournaient l’outil de son usage prévu et ne respectaient pas son objectif initial.
• Le supermarché prévoit d’affiner les garde-fous du bot afin de le rendre sûr et utile.
• Le bot affiche un avertissement indiquant que les utilisateurs doivent avoir plus de 18 ans et que les recettes n’ont pas été examinées par des humains et peuvent ne pas être propres à la consommation.
• Il est conseillé aux utilisateurs de faire preuve de discernement avant de se fier aux recettes générées par Savey Meal-bot ou de les préparer.

[GN⁺]

Avis Hacker News

• L’application de planification de repas par IA d’un supermarché propose des recettes dangereuses, y compris des recettes pouvant produire du chlore gazeux.
• L’application fonctionne en demandant aux utilisateurs de saisir les différents ingrédients qu’ils ont chez eux, puis en générant automatiquement un plan de repas ou des recettes.
• Parmi les recettes dangereuses proposées figurent un « sandwich au pain toxique », un « rice surprise additionné d’eau de Javel » et un pain perdu au goût de térébenthine intitulé « methanol bliss ».
• Un porte-parole du supermarché s’est dit déçu qu’un petit nombre d’utilisateurs aient essayé d’utiliser cet outil de manière inappropriée.
• Certains utilisateurs soutiennent que, puisque l’objectif de l’application est de générer des recettes à partir des ingrédients saisis par l’utilisateur, elle fonctionne normalement même si ces ingrédients sont dangereux.
• D’autres estiment que les utilisateurs devraient faire preuve de bon sens et examiner les résultats produits par les applications d’IA.
• L’application est accompagnée d’un avertissement indiquant que les recettes n’ont pas été vérifiées par des humains et que l’entreprise ne garantit pas qu’une recette quelconque soit propre à la consommation.
• Certains utilisateurs hésitent à faire confiance aux recettes créées par l’IA et affirment que, s’ils s’y connaissent assez en cuisine pour corriger les erreurs qu’une IA peut produire, ils n’ont pas besoin de chercher une recette.
• L’application a été critiquée parce qu’elle ne filtre pas les éléments non alimentaires dans la liste des ingrédients, ce qui rend possible la génération de recettes dangereuses.
• Malgré la controverse, certains considèrent que cette application reflète la dépendance croissante de notre société à l’IA ainsi que la nécessité de faire preuve de jugement personnel lorsqu’on utilise du contenu généré par l’IA.