- Richard Stallman affirme que ChatGPT est un système dépourvu d’intelligence, qui ne fait que combiner des mots sans en comprendre le sens
- Comme ce système génère des résultats sans se soucier de leur véracité, il le qualifie de « générateur de bullshit (bullshit generator) »
- Il avertit que l’illusion du public, qui attribue de l’intelligence à ces systèmes génératifs, engendre une confiance mal placée
- ChatGPT est un logiciel privatif dont l’utilisateur ne peut obtenir ni l’exécutable ni le code source, accessible uniquement via des serveurs
- Le fait d’effectuer des calculs sur les serveurs d’autrui porte atteinte à la liberté informatique des utilisateurs, raison pour laquelle il estime qu’il faut refuser de l’utiliser
Le caractère non intelligent de ChatGPT
- Stallman définit l’« intelligence » comme la capacité à comprendre ou à savoir
- ChatGPT ne connaît pas le sens des sorties qu’il produit et n’a même pas conscience que les mots ont un sens
- ChatGPT est donc présenté comme un simple système de combinaison linguistique, et non comme une intelligence
Un « générateur de bullshit »
- Il qualifie ChatGPT de « bullshit generator », c’est-à-dire un système qui produit des résultats indépendamment de leur vérité
- Il ajoute que d’autres systèmes génératifs souffrent du même problème
La confiance mal placée du public
- Beaucoup de gens se trompent en pensant que ces systèmes sont intelligents, ce qui conduit à une confiance mal placée
- Stallman appelle à faire comprendre qu’il ne faut pas faire confiance à ces systèmes
Le problème d’un logiciel privatif
- ChatGPT est un logiciel non publié que l’utilisateur ne peut ni copier ni exécuter
- Aucun exécutable n’est fourni ; son utilisation n’est possible que via les serveurs d’OpenAI
- Une telle structure rend l’utilisateur dépendant du serveur et empêche tout usage autonome
Une atteinte à la liberté informatique
- Stallman affirme clairement que le fait d’exécuter ses calculs sur les serveurs d’autrui détruit la liberté informatique
- En citant un texte de la philosophie GNU, il pose la question fondamentale : « Who does that server really serve? »
Source : Richard Stallman, « Reasons not to use ChatGPT », stallman.org, 2024
Droits : le texte peut être copié et distribué à l’identique conformément à la notice de l’original
Aucun commentaire pour le moment.