- Substack a lancé le scan Pangram, qui estime la part d’un billet rédigée par un humain ou assistée par l’IA, ainsi que la fonctionnalité « How I make this », qui permet de rendre public le processus de création
- L’objectif est de se concentrer sur le manque de transparence, plutôt que sur l’usage de l’IA en soi, afin d’aider les auteurs à obtenir la reconnaissance de leur contribution et les lecteurs à mieux juger les contenus qu’ils lisent
- Les auteurs saluent le renforcement de la transparence, mais s’inquiètent des faux positifs, des processus créatifs difficiles à saisir avec une simple étiquette, et du risque de se mettre à surveiller les méthodes de travail des uns et des autres
- À la suite des retours, il est devenu possible de désactiver le scan lecteur billet par billet sans avoir à interagir avec Pangram ni à lancer d’abord un scan
- L’IA étant utilisée à de nombreuses étapes — recherche, traduction, édition, rédaction de brouillons —, il est difficile de juger la pensée et le travail d’un auteur à partir des seuls résultats de détection ; la publication de méthodes de travail concrètes sert à instaurer la confiance avec les lecteurs
Fonctionnalité de transparence IA basée sur Pangram
- Les lecteurs peuvent scanner les textes publiés sur Substack pour connaître la proportion estimée de passages écrits directement par un humain et de passages assistés par l’IA
- Des fonctionnalités sont également proposées aux éditeurs
- Ils peuvent exécuter Pangram sur un brouillon avant publication
- Ils peuvent désactiver le scan par les lecteurs pour chaque billet
- Ils peuvent ajouter une mention « How I make this » décrivant leur processus de création afin de définir les attentes des lecteurs
- La fonctionnalité est disponible sur web, iOS et Android
- Substack et Pangram n’utilisent pas les contenus des éditeurs pour entraîner des modèles d’IA générative
L’accent mis sur la transparence plutôt que sur l’usage de l’IA
- Les normes autour de l’usage et de la divulgation de l’IA ne sont pas encore établies, mais Substack considère que, même si l’usage de l’IA n’est pas nécessairement un problème en soi, le manque de transparence en est un
- L’objectif est d’aider les auteurs à recevoir la reconnaissance due à leur travail, et les lecteurs à choisir de manière plus informée où consacrer leur temps
- Quelle que soit la performance de l’IA, le principe de départ est que le point de vue humain reste un élément nécessaire à la culture
Débats autour de la création humaine et de l’IA
- Archie Hall se dit optimiste sur le potentiel économique de l’IA, mais estime qu’il faut éviter les phrases écrites par l’IA, même lorsqu’elles sont d’un niveau lisible
- Lincoln Michel considère que l’art exige intention et choix, et que les sorties d’IA qui ne résultent pas d’un choix ne peuvent donc pas être de l’art
- Le Hinternet Editorial Board propose de classer la dépendance à l’IA sur une échelle de Mohs de 0 à 10
- Sam Kriss rejette avec vigueur le fait de confier l’écriture à l’IA
- Des auteurs ont testé directement ce que l’IA peut ou ne peut pas générer
- Freddie deBoer a expérimenté pour voir si les grands modèles de langage pouvaient écrire les composants d’un roman, à l’exception des phrases elles-mêmes
- Rohit Krishnan a mesuré les caractéristiques statistiques du style littéraire et examiné si les modèles pouvaient les apprendre
- Hollis Robbins a comparé des poèmes générés par deux LLM différents pour voir s’ils pouvaient se rapprocher de la grande poésie, tout en estimant que, pour un poète, l’expression exceptionnelle elle-même est le poème
- Elle Griffin a écrit une fiction décrivant une journée dans une future utopie de l’IA
- Andrea Bartz a rédigé une argumentation détaillée contre l’IA générative actuelle
- Teddy (T.M.) Brown estime qu’une grande partie de l’écriture commerciale n’a jamais vraiment relevé de l’expression créative ; ce qui disparaît n’est donc pas tant l’âme que le gagne-pain des auteurs
Réactions positives juste après le lancement
- Certains auteurs considèrent l’outil de transparence comme une première étape pertinente pour protéger les auteurs et améliorer l’expérience des lecteurs
- Katie Harbath soutient la transparence, tout en craignant que les outils de détection de l’IA n’effacent les nuances de son usage éthique
- Elle explique que l’IA l’a aidée à maintenir une newsletter régulière tout en menant ses activités de conseil, en préparant la publication d’un livre et en gérant son quotidien
- Gergely Orosz affirme que, lorsqu’il apprend qu’un texte a été écrit par l’IA, il considère que son créateur n’a pas pris le temps de l’écrire lui-même et ne le lit pas
- Joe Hill estime que l’IA écrit mieux que la personne moyenne, mais moins bien qu’un écrivain professionnel, et que cet écart produit en masse des contenus de faible qualité qui font fuir les lecteurs
- Helen Lewis a révélé sa manière d’utiliser l’IA après que ses 2 000 mots ont été classés comme écrits par un humain
- Elle écrit ses textes elle-même et n’utilise pas l’IA pour vérifier les faits ni l’orthographe
- Lorsqu’elle utilise l’IA pour la recherche, elle vérifie elle-même les sources originales, comme elle le ferait avec un moteur de recherche
Inquiétudes sur les faux positifs et la culture communautaire
- Les avis opposés soulignent trois limites qui apparaissent lorsqu’on réduit l’usage ou non de l’IA à une seule étiquette
- Les faux positifs, où un texte écrit par un humain est jugé écrit par l’IA
- La difficulté à saisir tout le processus créatif d’un texte avec une seule étiquette
- Le risque de voir l’attention se porter davantage sur la surveillance des méthodes de travail des autres que sur les œuvres elles-mêmes
- Emma Richmond s’inquiète du fait que des phrases académiques respectant certaines règles puissent être classées à tort comme issues de l’IA
- Kathleen Schmidt estime que, si tout le monde peut utiliser un outil de détection susceptible de se tromper, même des auteurs qui n’utilisent pas réellement l’IA peuvent être soupçonnés de le faire
- Monica Hebert critique la détection de l’IA comme une épreuve de pureté morale déguisée
- Les détecteurs peuvent estimer la probabilité d’une intervention de l’IA, mais ne savent pas qui a eu l’idée initiale, qui a vécu l’expérience, ni qui a raconté et révisé l’histoire
- Ils ne mesurent pas non plus le travail humain consistant à rejeter des brouillons, modifier une thèse, réintroduire de l’humour, réécrire des paragraphes et reprendre une conclusion
Désactivation du scan à la suite des retours
- À la suite des retours, Substack a modifié le dispositif afin que les éditeurs puissent choisir de désactiver le scan lecteur billet par billet sans devoir d’abord scanner leur texte ni interagir avec Pangram
- Les façons d’utiliser l’IA étant aussi diverses que les créateurs eux-mêmes, la mention « How I make this », affichée avec les résultats du scan, permet de rendre public le processus concret
Exemples d’utilisation de « How I make this »
- Claudia Sahm écrit toujours elle-même le premier brouillon et utilise principalement l’IA pour des modifications visant à améliorer la clarté
- Avant l’écriture, elle examine ses idées avec l’IA et l’utilise aussi pour rassembler des documents de contexte, dont des analyses de données et des graphiques qu’elle a explicitement demandés
- Elle précise que la responsabilité des erreurs et omissions lui incombe
- Thierry, dont l’anglais n’est pas la langue maternelle, utilise l’IA comme un éditeur en anglais
- Elle polit les phrases, mais ne change pas les idées ni le fond
- Plum Sykes indique simplement ne pas utiliser l’IA du tout
- Nate utilise l’IA pour l’ensemble du processus : recherche, brouillon, rédaction et édition
- Il commence par convertir 10 à 15 minutes de voix en texte afin de conserver ses pensées sous leur forme brute
- Il travaille ensuite avec le modèle pour produire un brouillon, puis le révise de manière répétée afin qu’il reflète exactement ses pensées et ses intentions
- Il considère qu’un classement en assistance IA est exact et attendu
- Morgan Vogel emploie une formule humoristique disant qu’elle écrit avec des Google Docs publics, des boissons caféinées et des prières
- Sara Szal MD explique que ses idées viennent de ses recherches, de 30 ans de pratique clinique et de ses six livres publiés
- Elle utilise un outil d’IA entraîné sur ses propres écrits pour améliorer l’efficacité de l’édition et de la publication, mais construit elle-même les frameworks, les modèles, la pensée critique et les recommandations cliniques
- Anthony Lawrance utilise Claude comme un rédacteur en chef dirigerait une équipe de journalistes
- Il lui fait rassembler des documents et des histoires, puis vérifie les sources et édite minutieusement les brouillons, tout en assumant lui-même la rédaction des titres et la responsabilité de la publication
- Jim Waterson précise que son travail comporte beaucoup de travail humain et qu’il n’utilise pas l’IA
Prochaines étapes
- Substack entend construire la confiance entre créateurs et lecteurs, et créer un environnement où chacun peut faire les choix adaptés à son activité créative et à son entreprise
- À partir de la semaine prochaine, la série « Model Behavior » abordera les façons de travailler à l’ère de l’IA chez des auteurs, créateurs et penseurs, ainsi que leurs sentiments à l’égard de l’IA
- La plateforme continue de demander aux éditeurs leur avis, via les repartages, les commentaires et la publication de « How I make this », sur les moyens de soutenir les auteurs et créateurs dans l’environnement de l’IA
Aucun commentaire pour le moment.