- En rédigeant un e-mail, la baguette magique « Polish » est apparue. Cela ressemblait à une fonction de traduction, mais il s’agissait en réalité d’une option de Gmail qui réécrit tout le message avec l’IA
- Les phrases modifiées par l’IA étaient tellement différentes de son ton habituel que, si un proche les recevait, cela aurait presque ressemblé à un e-mail envoyé par quelqu’un qui a été kidnappé
- Même après avoir écrit explicitement qu’elle ne voulait pas de corrections par l’IA, la suggestion de polish est réapparue, et l’IA a même tenté de réécrire cette phrase de refus
- Les fautes de frappe, les parenthèses interminables, les excuses pour une réponse tardive et des signatures comme « HUGS » ou « FIGHT THE PATRIARCHY » sont pour l’autrice des traces qui montrent qu’un e-mail vient bien d’elle
- Même en écrivant un billet de blog, une suggestion de génération d’image par IA s’est invitée, donnant l’impression que l’ordinateur est comme un enfant en bas âge qui crie « je vais le faire » à chaque tentative de création
Le moment où « Polish » de Gmail a réécrit tout l’e-mail
- Pendant la rédaction d’un e-mail, la mention « Polish » est apparue avec une petite icône de baguette magique
- Au départ, cela donnait l’impression étrange d’une fonction destinée à traduire l’e-mail en polonais
- En cliquant pour faire disparaître l’icône, Gmail a finalement remplacé l’intégralité du message par une version réécrite par l’IA
- Le résultat était si éloigné de son ton habituel qu’un proche aurait pu croire que le message ne venait pas d’elle
Une IA qui a voulu corriger jusqu’au refus lui-même
- Après avoir supprimé la version réécrite proposée, elle a ajouté elle-même une phrase expliquant qu’elle ne voulait pas que l’IA modifie son e-mail
- Ensuite, la fonction polish de Gmail est réapparue
- L’IA a même tenté de peaufiner le paragraphe disant, en substance, « je ne veux pas que l’IA corrige ce paragraphe »
- La situation a été perçue comme une volonté de continuer à remettre son texte en ordre, indépendamment du refus exprimé par l’utilisatrice
Un style reconnaissable plutôt que des phrases lissées
- Ses e-mails portent généralement des marques comme :
- des fautes de frappe
- de longues phrases entre parenthèses
- des excuses pour avoir répondu avec plusieurs mois de retard
- des signatures comme « HUGS », « LOVE », « FIGHT THE PATRIARCHY », « DOWN WITH POWDERED GRAVY » ou « SORRY I SUCK SO MUCH »
- Cette manière imparfaite et dispersée d’écrire est justement ce qui permet de reconnaître que c’est bien elle
- Elle plaisante en disant que, si elle continue à refuser les suggestions de l’IA, peut-être que l’IA apprendra d’elle et répandra ses mauvaises manières d’écrire des e-mails dans le monde
Une suggestion d’image par IA jusque dans la rédaction du blog
- Au moment d’ajouter une image à un billet expliquant qu’elle déteste l’IA, le blog lui a proposé une génération d’image par IA
- L’utilisatrice avait cliqué pour insérer une image précise, mais le système lui a recommandé à la place de générer une image par IA
- La scène lui a donné l’impression d’une caméra cachée, comme si l’ordinateur tout entier était un tout-petit qui crie « je vais le faire » dès qu’elle essaie de créer quelque chose
L’invite « please stop giving me AI »
- Pour voir jusqu’où l’outil pensait pouvoir mieux faire, elle a saisi dans le générateur d’images l’invite « please stop giving me AI »
- En voyant le résultat, elle a réagi avec ironie en disant que, oui, elle avait manifestement besoin d’aide
- L’expérience entière se termine finalement par une conclusion brève : « c’est nul »
1 commentaires
Avis sur Hacker News
Chaque fois que j’essaie de créer quelque chose, j’ai l’impression que tout l’ordinateur est un bambin qui hurle « laisse-moi faire ! »
Toutes les corrections automatiques et suggestions automatiques donnaient déjà cette impression, mais maintenant le volume est monté à 11. Même le très terne Adobe Reader est couvert de boutons scintillants et de pop-ups qui proposent de vous fournir des « insights » sans même lire le document.
D’abord, il ne devrait pas lire mes documents propriétaires, et avec les signatures numériques, je doute que beaucoup de gens qui utilisent ce logiciel aient le droit de partager de la propriété intellectuelle avec des tiers. Ce peut parfois être un outil utile, mais la façon dont tout le monde vous le met sous le nez sent le désespoir.
Le secteur tech est vraiment dans un sérieux pétrin.
Je ne sais pas ce que l’industrie pense avoir changé pour croire qu’aujourd’hui les gens accueilleraient favorablement un « On dirait que vous faites quelque chose ».
Ce n’était pas un simple lien d’agrégation : ils avaient réécrit le README et ajouté un « pitch », ce qui m’a donné l’impression d’une violation.
C’est peut-être davantage un problème des applications grand public que de tout le secteur tech.
Mon employeur a interdit l’usage de l’IA sur la propriété intellectuelle tant que ce problème ne sera pas correctement réglé. Parce qu’il se soucie réellement des fuites.
Peut-être qu’au milieu des années 2030, une autorité de protection des données publiera des lignes directrices disant que tout cela n’est pas conforme au RGPD.
La version IA est certes fade et mauvaise, mais surtout, elle change complètement le sens du message.
La version IA présente des excuses, laisse entendre que le destinataire s’était vu « promettre » cet e-mail comme « réponse » à quelque chose, invoque un agenda chargé et propose de répondre aux questions.
Rien de tout cela n’existait dans l’original, pas même implicitement. Ce n’est pas une version « améliorée » : c’est simplement un e-mail complètement différent. Je pensais que modifier le style tout en conservant le sens faisait partie des rares choses que les LLM savent bien faire, mais cet exemple ne passe même pas ce niveau d’exigence pourtant bas.
Je dis ça pour faire rire, pas pour donner un cours, mais les dispositifs de production de subjectivité existent bel et bien.
Il n’y a aucune chance qu’une personne qui me connaît reçoive cet e-mail sans penser que j’ai été kidnappé.
Cette personne tient à ne pas se présenter avec une fausse identité. C’est une attitude plutôt admirable, mais les réseaux sociaux ont montré que beaucoup de gens n’ont aucun scrupule à vendre une illusion.
Les gens n’auront pas honte de présenter un texte bien écrit comme le fruit de leur propre talent et de leurs efforts. Le maquillage numérique n’a pas de limites.
Il y a une différence entre peaufiner une persona pour maximiser les clics et s’identifier à une identité fade et sans caractéristiques.
Je peux écrire ce qui me vient à l’esprit et espérer que mon scribe numérique le réécrive de sorte que le lecteur se sente respecté, reconnu et valorisé. Dans ce cas, est-ce que je me présente sous une fausse identité ? Est-ce que je vends l’illusion du professionnalisme ? Peut-être qu’écrire « Best regards » au lieu de « Bye » est déjà, à la base, un masque de professionnalisme.
Il suffit de copier-coller et d’appuyer sur le bouton « génère-moi du texte ». Si on le fait remarquer et qu’on les interroge, on recevra sans doute une réponse assez agaçante et comique, y compris dans sa tentative de faire passer cette illusion pour la leur.
Même avant, beaucoup de gens ne réfléchissaient pas profondément à ce qu’ils voulaient communiquer en écrivant, ni à l’image qu’ils donnaient d’eux-mêmes. Aujourd’hui encore, ils n’y réfléchissent pas beaucoup et envoient souvent le résultat produit par un LLM sans l’examiner de manière significative.
Bien sûr, ça ne me plaît pas. Mais on distingue encore assez souvent les personnes qui essaient d’être claires de celles qui ne le font pas. C’est simplement dommage pour celles qui, comme les responsables bugs/sécurité du projet curl, se retrouvent excessivement entravées par ce nouveau paradigme.
Cela donne l’impression que les solutions d’« IA » font simplement plus vite ce que nous faisions déjà nous-mêmes.
Je n’ai commencé à utiliser l’IA que récemment, et j’ai compris que le critère selon lequel je l’utilise ou la refuse dépend de ce que je ressens vis-à-vis de la tâche. L’argument de l’authenticité me parle vraiment
En tant que manager, quand j’envoie un e-mail à un client ou que je parle avec un membre de l’équipe, j’y accorde beaucoup d’importance. Donc il peut en sortir des phrases un peu trop fleuries, mais ça reste mes phrases un peu trop fleuries
À l’inverse, il y a une réunion que je dois tenir chaque semaine, et qui n’existe que pour laisser une preuve de conformité. C’est le genre de manuel de sabotage de terrain de la CIA que David Graeber aurait pu écrire. Maintenant, c’est devenu une tâche de 30 secondes : je mets l’enregistrement dans ChatGPT, je lui demande d’en extraire trois éléments de preuve, puis je les colle dans un wiki que personne ne lira
Je sens clairement une différence, mais je n’en connais pas exactement la raison. Partager un texte écrit par l’IA me paraît acceptable, mais seulement si l’on indique clairement qu’il a été écrit par l’IA
C’est sans doute lié au fait que je peux copier du code venu d’ailleurs si je l’ai suffisamment vérifié et qu’il ne fait que ce que j’attends de lui, mais que je ne copierais pas une citation pour l’utiliser comme si c’étaient mes mots. Mes mots sont mes mots. Mon code n’offre pas la même garantie
En revanche, s’il s’agit de demander au fisc de me délivrer un document précis, je le confie à l’IA
Des outils qui font des suggestions mécaniques sur la lisibilité, comme proposer de simples synonymes ou signaler des phrases trop longues. Je l’ai déjà utilisé pour rédiger des documents importants destinés à être lus par beaucoup de monde
On pourrait prendre l’excuse : “c’est écrit par l’IA, donc c’est concis”
Les outils de “polissage” par IA sont fondamentalement une forme de décompression. Ils prennent une information exprimée de manière concise et la gonflent inutilement avec du formalisme et du remplissage pour la faire paraître plus “professionnelle”. Et, ce faisant, ils jettent des métadonnées utiles, comme le ton du message
Le destinataire utilisera certainement lui aussi une forme de résumé par IA pour retirer tout ce “vernis” ajouté, donc tout le processus devient complètement redondant
Ça me paraît vraiment absurde
Plus la première gonfle, plus la seconde devient nécessaire
Si l’IA était vraiment intelligente, elle ferait peur : ce serait comme un organisme qui se rend lui-même indispensable dans l’écosystème
Tout ça arrive parce que tout le monde est trop anxieux pour se parler directement
Ce que ces idiots prouvent en réalité, c’est qu’ils sont inutiles, donc autant les laisser faire
Vous avez une manière de parler et d’écrire personnelle et singulière ? Citoyen, il va falloir lisser tout ça avec la machine à prose
Donc non merci. Corrigez seulement mes erreurs de ponctuation scolaires, et laissez-moi mes phrases verbeuses et “pas assez positives”
Du coup, les communications non lissées sont signalées comme devant être davantage surveillées. Quelque chose pourrait se cacher dans ces choix de style
Vous avez une manière de parler et d’écrire personnelle et singulière ? Vos e-mails finiront par vouloir transmettre leurs salutations à tout le monde, singe d’entreprise
Même avant Turboclippy, la culture numérique était déjà suffisamment fausse, performative et insincère
J’aimerais qu’elle s’éteigne avec quelque chose de tranchant
J’ai l’impression que le monde entier se transforme en RH fondées sur l’axiome idéologique “tuer une personne est un meurtre, en tuer un million est une statistique”
Je pense que les LLM sont transformateurs, mais je suis surpris de voir à quel point la plupart des chefs de produit manquent d’imagination
Ça me rappelle les années 90, quand les gens ont découvert qu’ils pouvaient mettre des GIF sur des pages web et qu’il fallait donc en mettre cent sur chaque page. C’était ringard, et la plupart des IA intégrées d’aujourd’hui le sont aussi
Un jour, je n’arrivais pas à me souvenir du nom de l’album que je voulais écouter avec SIRI, et il n’arrêtait pas de lancer n’importe quoi
Vers la cinquième tentative, j’ai dit “Siri, tu vas me tuer”, et il a appelé les urgences
Le futur est nul
Moi, je marmonne des insultes à chatGPT beaucoup plus vite. Je pense que la rage induite par l’IA va devenir un phénomène. J’espère juste que ça ne finira pas par influencer en retour notre manière de traiter les humains
Vous vous attendiez à ce qu’une machine comprenne des nuances subtiles et réagisse comme un ami proche ? Ça ne me dérange pas qu’une IA soit sérieuse à 100 %
En pratique, j’utilise un LLM pour transformer les résultats de dictée de MacWhisper[0] en une forme moins polie qui correspond à ma façon d’écrire dans les chats. MacWhisper permet de définir un prompt pour post-traiter automatiquement les transcriptions
Mon prompt lui demande, en tant que correcteur et éditeur professionnel, de réécrire la dictée pour qu’elle soit utilisable dans un chat, avec une capitalisation et une ponctuation plus décontractées. Je lui demande de toujours mettre une majuscule à “I” et aux formes dérivées comme “I’m”, de commencer les phrases par une minuscule sauf si elles commencent par “I”, de transformer la ponctuation explicitement dictée en vraie ponctuation, de ne pas mettre de point à la fin du message tout en conservant les points entre les phrases, de ne pas supprimer les virgules et de ne pas remplacer les mots difficiles par des mots plus courants. Je lui demande de ne renvoyer que le résultat, sans explication des modifications ni commentaire
[0]: https://goodsnooze.gumroad.com/l/macwhisper