Ne demandez pas aux écrivains : « Que pensez-vous de l’IA ? »

• Benjamin Hollon explique que, chaque fois qu’il se présente comme écrivain, la question sur l’IA qui suit presque systématiquement a, depuis des années, érodé sa motivation à écrire et transformé la création elle-même en objet de doute personnel
• Il estime que le développement et l’usage de l’IA soulèvent des préoccupations techniques, professionnelles et éthiques, et que cette technologie ne peut remplacer ni la qualité d’écriture d’un auteur sérieux, ni la relation que les lecteurs attendent d’un être humain
• La conversation dérive souvent vers une demande de validation des cas d’usage de l’IA par l’interlocuteur, ce qui renforce une croyance qui justifie une technologie dévalorisant le travail humain et la créativité
• Ces questions répétées donnent l’impression que l’on pense à l’IA avant même de penser au véritable travail de l’écrivain ; au cours des trois dernières années, il dit avoir peu écrit, en dehors de quelques œuvres comme ”Those Who Breathe Easy”
• Même si des entreprises croient pouvoir remplacer les artistes par l’IA, les écrivains et les artistes continueront de créer en dehors du système commercial, et les lecteurs voudront des œuvres faites par des humains, selon lui

---

La fatigue provoquée par les questions répétées sur l’IA

• Benjamin Hollon explique que, lorsqu’il dit à une nouvelle personne qu’il est écrivain, on lui demande presque toujours : « Alors, que pensez-vous de l’IA ? »
• Sa réponse de base est que le développement et l’usage de l’IA soulèvent de graves préoccupations techniques, professionnelles et éthiques
• Le problème est que les gens ne s’arrêtent généralement pas à cette réponse et réclament une conversation plus longue
• Cette répétition a fortement nui à sa motivation à écrire pendant des années, et il ressent le besoin d’aborder d’abord ce sujet pour pouvoir revenir aux thèmes qu’il aime

Sa position sur l’écriture par IA et la création humaine

• Il juge que la technologie appelée « Artificial Intelligence » est loin d’atteindre la qualité d’écriture à laquelle parviennent les écrivains sérieux
• Selon lui, si les lecteurs lisent des livres, c’est parce qu’ils veulent rencontrer une création produite par une personne réelle, et il est impossible d’établir ce type de relation avec une machine
• L’IA a déjà causé des dommages systémiques à son art d’écrire et risque fort de continuer à le faire, sans apporter de bénéfice réel à ses yeux
• Répéter la même conversation accumule de la fatigue, car il voit rarement des signes indiquant que son interlocuteur s’en soucie assez pour changer d’avis

Des conversations qui cherchent à faire valider des usages

• Beaucoup de conversations se transforment en explications, par l’interlocuteur, de la façon dont il utilise l’IA
• Il a l’impression que cette personne recherche une validation du type : « même un écrivain critique envers l’IA trouve mon cas d’usage acceptable »
• Quel que soit le cas d’usage, il entretient la croyance que l’IA finira par s’améliorer, et il considère que cette croyance est elle-même la cause de la plupart des problèmes actuels
• Selon lui, ces usages justifient une technologie qui dévalorise le travail humain et la créativité, et profitent au 1 % qui souhaite licencier des travailleurs et gagner davantage d’argent
• Il ajoute toutefois qu’il s’est montré trop poli jusqu’ici pour dire cela directement à des personnes qu’il venait de rencontrer

La blessure causée par la question elle-même

• Quand quelqu’un entend parler du travail d’un écrivain et pense d’abord à l’IA, il le reçoit comme le signe que cette personne ne lui accorde pas de valeur
• Demander cela comme si l’IA avait un lien avec le métier d’écrivain lui semble indiquer que l’on ne s’intéresse pas au travail réel
• Il estime que les gens peuvent s’intéresser à un livre écrit par une personne, mais qu’ils ne s’intéresseront pas réellement à quelqu’un qui dirait avoir fait écrire un livre par ChatGPT avant d’y apposer son nom
• Ce que les gens veulent lire, c’est ce qu’une autre personne a écrit ; l’IA n’étant pas une personne, elle ne répond pas à ce désir
• Il considère que le fait que « ChatGPT puisse écrire un roman », ou même que ce roman soit lisible, ne correspond pas à la raison pour laquelle les gens lisent des livres

Trois années de blocage dans l’écriture

• Les questions sur l’IA lui donnent l’impression que son écriture est mise au même niveau que des déchets, ce qui l’amène à douter que ses textes aient réellement du sens
• Il en est venu à craindre de prendre la plume, et à douter de la sincérité avec laquelle il pouvait se qualifier d’écrivain
• Il est resté enfermé dans cet état pendant trois ans, et écrire est devenu un combat contre le doute de soi
• Certains lecteurs ont peut-être lu ”Those Who Breathe Easy”, publié en août dernier, ou une série de récits mythologiques lus par ses bêta-lecteurs, mais il dit ne pas avoir beaucoup écrit en réalité
• Chaque fois qu’il essaie d’en sortir, une nouvelle personne lui demande à nouveau ce qu’il pense de l’IA

L’avenir de l’art humain

• Il estime que l’IA ne peut pas remplacer l’art humain, et ne le pourra pas davantage à l’avenir
• En revanche, il est possible qu’un jour des dirigeants pensent qu’elle le peut, et licencient des écrivains, des artistes et des musiciens
• Licencier des artistes ne les fera pas disparaître : ils continueront d’exister comme de vraies personnes dans le monde réel, et resteront des artistes
• Même si les entreprises ne les emploient pas, les écrivains n’arrêteront pas d’écrire ; ils continueront à écrire et à publier en dehors du système commercial existant, selon lui
• Si l’on demande aux lecteurs de choisir entre un roman d’amour écrit par ChatGPT et publié par une grande maison d’édition, et un livre créé par une vraie personne qui y a mis tout son cœur, il dit qu’il lirait le livre fait par une personne
• Entre un film hollywoodien convenu à gros budget et un film indépendant réalisé après le travail par quelques jeunes par pur plaisir du savoir-faire créatif, il estime que le second peut être plus attirant
• Au moment où les éditeurs commerciaux licencient les artistes humains, ils oublient ce qui les a rendus grands et libèrent leur actif le plus précieux, selon lui

Les écrivains blessés et Writing Month

• À long terme, il ne considère pas l’IA comme une menace sérieuse pour l’art d’écrire ; si les entreprises commettent l’erreur de vouloir remplacer les écrivains, ceux-ci pourraient même se retrouver en position de force
• Cela ne signifie pas qu’il souhaite que cela arrive : certains écrivains ont déjà été blessés, et d’autres pourraient l’être encore
• Si l’on reçoit sans cesse le signal que « nos rêves n’ont aucune valeur », certains écrivains peuvent réellement arrêter d’écrire
• Il dit aux écrivains qu’il préférerait lire n’importe lequel de leurs textes plutôt que ce que l’IA régurgite, et les exhorte à continuer à écrire
• Lorsque National Novel Writing Month a publié une déclaration qualifiant la critique de l’Artificial Intelligence de « classist and ableist », sa plus grande crainte était que des personnes blessées cessent d’écrire
• Il a lancé Writing Month afin de créer un nouvel espace où les écrivains puissent continuer à écrire

Les questions à poser plutôt aux écrivains

• Il souhaite parler avec les écrivains et du savoir-faire créatif, et aussi savoir si d’autres ont été blessés par la même question
• Même sans intention de nuire, une question sur l’IA peut sembler venir du même endroit que la dévalorisation constante contre laquelle un écrivain a dû lutter
• Plutôt que de demander à un écrivain « Que pensez-vous de l’IA ? », il suggère de lui demander : « Puis-je lire votre travail ? »
• Cette question montre que l’on accorde réellement de l’importance à ce que l’écrivain aime faire

[GN⁺]

Avis sur Lobste.rs

• Même si vous trouvez ça très mauvais, je pense qu’il vaut largement mieux lire un texte écrit par une personne que n’importe quoi recraché par une « IA »
  C’est à la fois triste, drôle, puis de nouveau triste que NaNoWriMo se soit effondré à cause de sa propre défense de l’IA. Il y a très longtemps, j’ai essayé NaNoWriMo une fois ; je n’ai pas produit d’histoire achevée et je ne l’ai montrée qu’à deux personnes, mais je reste étrangement fier que ces quelques mots, même s’ils n’étaient pas très originaux, aient clairement été les miens. C’était une difficulté que je n’aurais pas connue si j’avais utilisé un modèle de langage, et j’ai l’impression d’en être sorti meilleur
  J’aime aussi la réponse de Nick Cave quand on l’a interrogé sur l’IA :
  https://www.theredhandfiles.com/chat-gpt-what-do-you-think/
  https://theredhandfiles.com/chatgpt-making-things-faster-and-easier/

  • Je viens d’apprendre que NaNoWriMo était une organisation ; je pensais que c’était juste « un truc ». À la première lecture, j’ai eu l’impression qu’on m’annonçait l’effondrement de « No Shave November »
    Je ne vois pas vraiment pourquoi il serait impossible de repartir avec un autre groupe. On pourrait même faire quelque chose comme le Blog Carnival ici

• On peut tout à fait me poser des questions sur l’IA, mais seulement si l’on est prêt à entendre la réponse

• Ça n’a rien à voir avec l’informatique ni avec le vibe coding

  • Ces temps-ci, le tag « vibecoding » est devenu un fourre-tout apposé à tout ce qui touche de près ou de loin aux modèles génératifs. Tellement d’articles aléatoires sont tagués VC qu’il ne semble presque plus servir à rien, à part filtrer tout ce qui mentionne un tant soit peu les LLM

• Le passage où NaNoWriMo, dans une déclaration lamentable sur l’intelligence artificielle, révèle à quel point il se soucie peu des auteurs en qualifiant les critiques de l’IA de « classistes et validistes » est assez incroyable
  Il faudrait un nom pour ce sophisme informel qui consiste à prendre une critique légitime d’un acteur nuisible et à la retourner contre les personnes qui critiquent cet acteur nuisible. Le whataboutism me vient à l’esprit, mais ça ne colle pas à 100 %

  • Dans les contextes de gauche, on appelle parfois ça une gauchitude instrumentalisée, donc quelque chose comme « <nom de l’argument> instrumentalisé » pourrait marcher
    Ici, « indignation instrumentalisée » est ce qui s’en rapproche le plus, mais ça sonne aussi un peu comme « indignation fabriquée »
  • Le nom, c’est DARVO : nier (Deny), contre-accuser (counter-Accusations), inverser victime et agresseur (Reverse Victim and Offender)
  • Je ne cherche pas à contredire, mais le sens m’échappe un peu
    Est-ce que tu dis que l’auteur commet ce sophisme ? Dans ce cas, la critique légitime serait d’avoir qualifié la critique de l’IA de « classiste et validiste », et l’auteur l’aurait retournée en affirmant que NaNoWriMo ne se soucie pas des écrivains

• Je pense que l’art généré par IA suivra la voie des photos de stock et de la musique de stock. Disponible partout, générique, très large dans son périmètre, mais comme il n’ajoute pas de sens, la plupart des gens finiront par ne même plus y prêter attention
  Une bonne partie du public aurait préféré qu’il n’y ait pas de contenu de stock, et désormais moins de gens remarqueront que ce contenu de stock est une distraction qui masque l’absence de vrai contenu
  Quand on a un accès illimité à tous les contenus du monde, ce qui touche à « l’intérêt » relève du jugement sur ce qu’il faut retirer, et de la capacité à choisir moins plutôt que plus
  Cela dit, « intérêt » et « récompense financière » sont deux choses différentes, et chacune a sa place dans la société

• D’un côté, je comprends que ce soit frustrant de sentir son travail ainsi dévalorisé. De l’autre, j’accueille volontiers toute occasion de s’opposer à l’usage des LLM et d’en faire connaître les méfaits
  C’est clairement agaçant quand les gens cherchent une validation pour leur cas d’usage. En tout cas, moi, je ne donnerai cette validation à personne. Chacun a ses propres critères moraux, mais si l’on me demande les miens, ma réponse est non

• Je ne comprends pas pourquoi le tag « vibcoding » a été ajouté ici. Ce n’est pas un article sur le code

  • Franchement, ce texte n’a pas sa place ici. Qu’il soit intéressant ou non, c’est hors sujet. Ce n’est que mon avis

• Je pense que c’est parfois un bon exemple de « le tort est dans l’œil de celui qui regarde »
  La phrase « si votre première pensée en entendant parler du métier que j’exerce est une technologie qui ne peut absolument rien y apporter et qui a été conçue pour dévaloriser mes efforts et mon travail, alors cela signifie que vous ne me respectez pas » est, franchement, une interprétation qui n’existe que dans la tête de l’auteur
  Je ne nie pas que Benjamin ressente réellement les choses ainsi, mais c’est une interprétation assez hostile de l’intention de l’autre. Tout le monde essaie de comprendre ce que signifie cette technologie et quelle place elle occupe dans la vie. Les gens posent la question parce qu’ils respectent votre avis. Bien sûr, comme ils n’ont pas vécu votre situation, ils peuvent la poser naïvement, mais je me demande si c’est vraiment une insulte aussi profonde
  En tant qu’écrivain, j’aime parler avec les gens. J’aime avoir des débats de bonne foi avec des humains. Il est vrai que nous parlons trop d’IA, mais si l’objectif est d’en comprendre le sens, je suis tout à fait partant pour en discuter

• Je ne suis pas sûr que l’affirmation selon laquelle « quand les gens veulent lire des livres, ce qu’ils veulent en réalité, c’est lire une création produite par une autre vraie personne, et on ne peut pas établir de relation avec une machine » soit vraiment juste
  Avant, j’étais snob à propos de la musique et je disais « je n’aime que la musique jouée avec de vrais instruments ». Avec le temps, j’ai changé. Si ça sonne bien, je me soucie assez peu de ce qui l’a produit

  • Mais cette musique reste produite par des humains. Même s’ils utilisent un ordinateur plutôt que des instruments physiques, il y a de la créativité, de l’émotion et une intention
  • Cette semaine, j’ai abandonné un roman en cours de route : certaines parties semblaient avoir été écrites par un LLM. J’ai eu l’impression que l’auteur avait écrit lui-même le premier quart, qui n’était pas mauvais comme lecture de plage, puis avait demandé à Claude de finir le reste. C’est la première fois que ça m’arrive
  • Pour moi, la musique est une manière pour l’humain de s’exprimer, une forme de communication. S’il n’y a qu’un seul humain dans ce processus, à savoir l’auditeur, et aucun producteur de l’autre côté, ça me paraît vide de sens

• Je pense que l’écriture par IA est assez mauvaise, et je ne respecte pas vraiment les gens qui partagent des essais écrits par IA, mais cette personne semble se comporter de façon assez misantrope
  Des réactions comme « le simple fait de poser la question est, pour moi, un problème » ou « si votre première pensée en entendant parler du métier que j’exerce… » sont excessives
  Comic Book Guy n’a pas le droit de policer la curiosité des gens. Si quelqu’un vous force à utiliser l’IA, vous avez raison de vous mettre en colère. Mais s’il demande simplement votre avis ? S’il vous interroge sur ce qui ressemble à un énorme bouleversement ? Beaucoup de gens s’inquiètent pour les emplois, l’avenir de la créativité humaine et l’éducation. Ils vous demandent ce que vous ressentez quant au fait que votre métier soit ou non touché, et c’est une question raisonnable
  Si vous ne pouvez pas apprendre à dire sans irritation « je ne pense pas que ce soit important pour les romanciers », alors apprenez au moins à dire sans irritation « je n’ai pas envie de parler d’IA »
  Le passage « après m’avoir rencontré en personne, si je leur dis que j’ai publié un livre, je m’attends à ce qu’ils aient envie de le lire » donne l’impression de quelqu’un qui vient d’arriver dans le coin

  • Est-ce vraiment de la curiosité ?
    Si l’on croit l’auteur original, la question n’est généralement pas une vraie démarche d’exploration, mais une tentative d’obtenir une justification pour dévaloriser l’écriture. Dans ce genre de situation, il est assez compréhensible qu’un écrivain se mette en colère
  • J’ai ressenti quelque chose de similaire. Si je le rencontrais, je lui parlerais probablement aussi d’IA pour lui demander son avis. Pas parce que je voudrais faire valider mon usage de l’IA — en fait, je n’y touche même pas — mais parce que je serais sincèrement curieux de savoir ce qu’il en pense et que j’aurais envie de discuter avec un inconnu. L’IA est un changement qui affecte fortement son domaine comme le mien, donc c’est aussi un sujet facile et évident à aborder
    Bien sûr, je comprends qu’il en ait assez. Le sujet a été ressassé tant de fois que je le ressens souvent moi aussi. Malgré tout, si l’on peut en discuter avec maturité avec quelqu’un, cela peut rester intellectuellement stimulant, et c’est pour cela que je lis encore la plupart des discussions liées à ce sujet sur Lobste.rs