Les personnes fatiguées de l’IA

Pourquoi on se fatigue de l’IA

Expérience en tant que spécialiste des tests logiciels fatigué de l’IA

• Expérience en automatisation des tests : 18 ans d’expérience consacrés à l’automatisation des tests
• Un problème qui ne change pas : les tests end-to-end full stack restent toujours les plus lents et les plus coûteux
• Discussion sur la testabilité : il est important de parler de testabilité pour écrire des tests rapides et de petite taille
• Principes fondamentaux de programmation : écrire de bons tests automatisés exige de connaître les principes fondamentaux de la programmation
• Limites des outils d’IA : de nombreux outils d’automatisation des tests basés sur l’IA n’apportent pas de meilleurs résultats
• Avantages et inconvénients de l’usage de l’IA : l’IA peut produire des résultats rapidement, mais juger de leur qualité et de leur valeur reste toujours du ressort des humains

Expérience en tant que membre de comité de programme de conférence fatigué de l’IA

• Activité au sein de comités de programme : participation comme membre du comité de programme de plusieurs conférences
• Problème des propositions générées par l’IA : augmentation des propositions rédigées avec des logiciels comme ChatGPT
• Ressemblance des propositions : les propositions générées automatiquement se ressemblent toutes
• Importance de la proposition : la proposition est la première et parfois la seule occasion de se présenter
• Problème de confiance : si la proposition n’est pas rédigée directement par son auteur, la crédibilité de la présentation devient elle aussi douteuse
• Rejet des propositions utilisant l’IA : les propositions rédigées par l’IA sont rejetées immédiatement

Expérience en tant qu’être humain fatigué de l’IA

• Créativité humaine : l’émotion transmise par les œuvres créées par des humains, comme la musique, les livres ou les films
• Limites des contenus générés par l’IA : les contenus générés par l’IA ne procurent pas d’émotion
• Effets négatifs de l’IA :
  • les gens craignent que l’IA ne leur prenne leur emploi
  • les entreprises investissent massivement dans l’IA sans en voir le ROI
  • l’empreinte carbone de l’IA devient de plus en plus préoccupante
• Cas d’usage positifs : il existe des usages positifs de l’IA, comme la détection précoce de maladies

Résumé de GN⁺

• L’IA est utilisée dans des domaines variés, comme les tests logiciels, la rédaction de propositions pour des conférences et la création artistique
• Cependant, l’IA n’apporte pas toujours de meilleurs résultats et ne peut pas remplacer la créativité humaine ni l’émotion
• Il est important de reconnaître les effets négatifs et les limites de l’IA, et de concentrer son utilisation sur des cas d’usage positifs
• Parmi les projets aux fonctions similaires, on trouve des outils de création artistique qui mettent en avant la créativité humaine

[GN⁺]

Avis Hacker News

• Le plus déprimant est le sentiment qu’on ne peut plus faire confiance à ce qui a été écrit ces deux dernières années

  • Il devient évident que l’IA est utilisée, et il faut l’utiliser pour ne pas se laisser distancer par la concurrence
  • Cela a fait prendre conscience de l’importance des textes écrits par des humains, et a fait perdre l’intérêt pour les nouveaux écrits

• Une lassitude vis-à-vis des LLMs se fait sentir

  • Les LLMs excellent dans certaines tâches, mais ne sont pas assez fiables pour qu’on leur confie des choses importantes
  • Il faut des indicateurs de fiabilité pour les LLMs, sinon un nouvel « hiver de l’IA » pourrait arriver

• Une peur du chômage technologique

  • Si une IA surhumaine apparaît, tout travail pourrait être automatisé
  • Une course aux armements de l’IA entre les États-Unis et la Chine semble inévitable, et pourrait provoquer une catastrophe mondiale
  • Inquiétude face à la possibilité qu’une superintelligence échappe au contrôle humain

• Une approche prudente de l’IA

  • Après avoir essayé un IDE de type VSCode assisté par l’IA, la vitesse d’écriture du code s’est nettement améliorée
  • L’IA prend en charge beaucoup de tâches répétitives, ce qui augmente l’efficacité

• Une fatigue face à l’usage excessif des LLMs dans tous les produits

  • Les personnes qui affichent leur enthousiasme pour l’IA finissent par sembler ennuyeuses

• L’écriture, le code et l’art produits par l’IA sont tous médiocres

  • Cela ouvre beaucoup d’opportunités à faible coût, mais la qualité est basse
  • Le faible coût est en train de tout changer

• Les ordinateurs ne sont désormais plus exacts

  • Les résultats peuvent varier selon le modèle d’IA

• L’IA génère des résultats ennuyeux et ordinaires

  • Les avancées scientifiques sont impressionnantes, mais il est lassant de voir des gens traiter les résultats de l’IA comme de la magie
  • Il existe aussi une vision positive selon laquelle l’IA rendra possibles de nouveaux cas d’usage

• Depuis ChatGPT, mécontentement face au fait que les paroles sincères des gens ou l’art dessiné à la main soient jetés en étant classés comme contenus générés par l’IA

  • Dans le monde académique, il existe des cas où des dissertations d’étudiants échouent parce qu’elles sont à tort classées comme générées par l’IA
  • Il arrive aussi que des artistes soient pris à tort pour des producteurs de contenus générés par l’IA et que leurs œuvres soient supprimées

• La tendance humaine à trop généraliser et à tout personnaliser les problèmes

  • Les progrès des modèles d’IA sont guidés par la motivation à produire davantage
  • Réduire des problèmes systémiques à l’échec des utilisateurs d’outils revient à ignorer les motivations fondamentales