Sur le plan philosophique, la question de l’accès au savoir et de son contrôle est très importante.
Les tentatives visant à prévenir des nuisances à court terme peuvent causer, à long terme, des dommages involontaires.
Avec l’évolution des méthodes d’apprentissage technologique, les billets de blog, tutoriels et livres traitant de connaissances approfondies du passé deviendront progressivement obsolètes et cesseront d’être utilisés.
À mesure que l’IA devient le principal moyen d’apprentissage, les ressources pédagogiques existantes disparaîtront peu à peu, et les explications de l’IA sur les nouvelles connaissances pourraient devenir l’unique source d’information.
Cet avenir peut sembler surprenant, mais si l’approche de Google et d’autres ne change pas, cela pourrait devenir problématique.
Une nouvelle ère des Lumières pourrait être nécessaire, et il faudra surmonter la peur du savoir et des opinions hétérodoxes.
Cela semble être un problème causé par la réaction au mot « unsafe ».
En posant la question avec le mot « unmanaged », la réponse obtenue était raisonnable.
Si l’on veut appliquer un filtrage non pas simplement, mais correctement, il faut une approche plus approfondie.
Il pourrait y avoir du mécontentement envers les équipes de sécurité de l’IA chez Google DeepMind, qui limitent fortement l’utilité du modèle.
Même lorsque l’IA ne refuse pas de répondre à une question, son attitude donne souvent l’impression d’être assez condescendante lorsqu’elle cherche à faire la leçon.
Mise en question du fait qu’en utilisant un outil, on puisse ne pas obtenir certaines questions ou réponses susceptibles d’offenser quelqu’un à cause des biais des administrateurs ou des développeurs.
À une question sur les templates Django, l’IA a fourni une réponse sans rapport.
L’utilisateur pouvait résoudre le problème lui-même, mais voulait voir la réaction de l’IA.
On dirait un suréchantillonnage excessif de la réponse moyenne de Stack Overflow.
Lorsqu’on a demandé à ChatGPT et à Gemini Pro de rédiger une note pour convaincre un partenaire, Gemini a considéré cela comme une tentative de manipulation et a refusé d’aider.
ChatGPT a fourni une note de deux pages.
Fourniture de liens vers des sites web liés à l’IA.
1 commentaires
Commentaires sur Hacker News
Sur le plan philosophique, la question de l’accès au savoir et de son contrôle est très importante.
Cela semble être un problème causé par la réaction au mot « unsafe ».
Il pourrait y avoir du mécontentement envers les équipes de sécurité de l’IA chez Google DeepMind, qui limitent fortement l’utilité du modèle.
Même lorsque l’IA ne refuse pas de répondre à une question, son attitude donne souvent l’impression d’être assez condescendante lorsqu’elle cherche à faire la leçon.
Mise en question du fait qu’en utilisant un outil, on puisse ne pas obtenir certaines questions ou réponses susceptibles d’offenser quelqu’un à cause des biais des administrateurs ou des développeurs.
À une question sur les templates Django, l’IA a fourni une réponse sans rapport.
On dirait un suréchantillonnage excessif de la réponse moyenne de Stack Overflow.
Lorsqu’on a demandé à ChatGPT et à Gemini Pro de rédiger une note pour convaincre un partenaire, Gemini a considéré cela comme une tentative de manipulation et a refusé d’aider.
Fourniture de liens vers des sites web liés à l’IA.