« Une force écrasante, négative et démoralisante » : ce que signifie travailler dans une entreprise qui impose l’usage de l’IA aux développeurs

Les effets concrets des technologies d’IA sur les développeurs

• Les technologies d’IA portaient l’idéal de réduire les tâches répétitives et de rendre possible un travail plus créatif
• Mais sous la pression du capitalisme et d’une approche idéologique propre à l’industrie technologique, les moyens de subsistance de nombreux développeurs se retrouvent menacés
• À travers les expériences personnelles de professionnels du jeu vidéo, l’article explore concrètement l’impact réel de l’IA sur le terrain

La dépendance à l’IA dans les studios de jeux AAA

• Bradley est un artiste chevronné dans un studio AAA, où le studio utilise de plus en plus des images générées par IA dans le pipeline artistique
• Le directeur artistique ne conçoit plus directement les idées, mais génère à répétition des résultats via l’IA, en sélectionne certains, puis demande à l’équipe de les rétroconcevoir
• Il avait été dit que l’IA ne servirait qu’aux supports de présentation, mais en réalité elle est utilisée dans l’ensemble du processus de production
• Bradley envisage de démissionner si l’usage de l’IA continue à ce rythme
• Il critique le fait que la conception du jeu reste au niveau de prompts IA et serve surtout à lever des investissements, sans véritable discussion sur l’intérêt ludique ou la conception elle-même

L’adoption de l’IA en startup et la résistance des développeurs

• Mitch est un développeur avec sept ans d’expérience, passé auparavant par l’industrie de la défense
• Dans une petite startup, il a été contraint d’utiliser l’IA, l’entreprise poussant à l’adoption de ChatGPT et Claude
• Le CEO insistait sur l’usage de l’IA, davantage obsédé par la vitesse de production que par la qualité du code
• Le code généré par l’IA était de mauvaise qualité, inefficace pour le travail collaboratif, et son utilisation même faisait baisser la motivation des développeurs
• Au final, la dépendance à l’IA a augmenté, mais l’entreprise a fait faillite

Le scepticisme d’un consultant artistique face à l’adoption de l’IA

• Francis est directeur artistique et consultant, travaillant avec divers studios et éditeurs
• La plupart de ses employeurs croient que « l’IA aide le travail des artistes », mais en pratique ils cherchent à lui confier jusqu’à l’étape centrale de l’idéation du projet
• Cette tendance découle d’une attitude qui ne comprend pas la valeur du processus d’exploration artistique
• Francis critique l’attitude de certains développeurs d’IA, qui considèrent l’ensemble de la production de jeux comme un problème et pensent être les seuls à pouvoir le résoudre

Les limites des générateurs d’idées par IA

• Ricky, designer senior dans le jeu vidéo, a souvent utilisé l’IA pour rédiger des aperçus de systèmes de jeu existants, mais il a jugé l’outil inefficace en raison de ses inexactitudes et des nombreuses corrections nécessaires
• Il souligne aussi que l’usage de l’IA pour générer des idées bride la créativité et ne reflète ni l’expérience ni le contexte des développeurs
• L’IA ne produit que des idées au niveau de slogans marketing et ne parvient pas à refléter les émotions humaines ni le contexte culturel

Les inquiétudes autour de l’usage de l’IA pour les voix et l’animation

• Sally est animatrice sur un projet de jeu VR indépendant, où le studio a tenté de remplacer par l’IA la synthèse vocale et la production d’animation
• Des images générées avec Midjourney ont été utilisées comme assets 2D, et il y a aussi eu des tentatives d’utiliser les données d’enregistrement des comédiens vocaux pour entraîner l’IA
• Des expérimentations de synthèse vocale ont été menées sans le consentement des comédiens, et ses inquiétudes à ce sujet ont été ignorées
• Elle a finalement été licenciée, et le studio a ensuite prévu d’utiliser l’animation par IA sur d’autres projets

La réaction éthique des artistes face à l’adoption de l’IA

• Audrey, concept artist, a reçu l’instruction d’utiliser à contrecœur l’IA pour esquisser rapidement des idées
• Elle doit retoucher des œuvres produites par IA utilisées par ses collègues, ce qui désorganise le calendrier de travail
• La majeure partie de l’équipe s’oppose à l’usage de l’IA, mais certains cadres supérieurs y recourent régulièrement
• Elle a demandé à plusieurs reprises à l’entreprise de réduire au minimum l’usage de l’IA, avec des effets limités

La déception liée à l’IA pendant le recrutement

• Alfie, artiste 2D, a vécu l’expérience d’une startup du jeu vidéo qui, après plusieurs semaines d’entretiens, n’a en réalité recruté aucun artiste et a remplacé ce travail par de l’art généré par IA
• Il a même participé aux premières réunions d’idéation du projet, avant que l’équipe ne cesse finalement de le contacter ; aujourd’hui, cette équipe produit ses assets uniquement avec l’IA, sans artistes
• Il a depuis rejoint un nouveau studio qui a interrompu ses expérimentations avec l’IA, retrouvant ainsi un environnement de production artistique centré sur l’humain

La menace de l’IA vécue par les comédiens voix

• Douglas, comédien de doublage pour des jeux indépendants, s’inquiète d’expérimentations menées par des entreprises comme Audible pour cloner la voix des acteurs avec l’IA et la commercialiser
• La génération vocale par IA ne peut pas remplacer l’expression des émotions humaines, et beaucoup de ses collègues ont le sentiment de risquer de perdre leur identité professionnelle
• Quelques petites équipes indépendantes comprennent ces inquiétudes, mais les grandes entreprises évitent souvent le sujet ou l’ignorent
• Le sentiment domine qu’un métier construit avec passion pourrait disparaître à cause de l’IA

Conclusion : des voix multiples sur l’IA et la résistance des artistes

• À mesure que les technologies d’IA se diffusent dans toute l’industrie du jeu vidéo, elles ont un impact concret sur la vie des personnes et leur environnement de travail
• Les données et les statistiques sont importantes, mais la parole des personnes directement concernées permet de mieux comprendre la réalité de la situation
• Les artistes estiment que l’IA menace la valeur de la création humaine et y opposent une forte résistance
• Dans tout le secteur, la volonté de préserver une création et un art centrés sur l’humain se poursuit

[ztaka]

Quand on envisage l’adoption de l’IA, il faut la voir non pas sous l’angle de la vitesse de développement, mais sous celui de l’élargissement de la réflexion, et pourtant il semble qu’il y ait encore des managers qui ne parlent que de vitesse. Quand on regarde les produits qui prônent l’IA, ce ne sont rien de très spécial, et ils en sont tout au plus à valider le marché de temps à autre ; est-ce qu’ils alignent le niveau de leur propre produit sur cela ?

[bbulbum]

Il ne faut pas externaliser son cerveau à l'IA, mais j'ai l'impression qu'il existe une tendance à croire que l'IA peut se charger de toute la réflexion à notre place.

[savvykang]

Le biais de confirmation et l’absence d’esprit critique chez l’être humain font vraiment peur.

[kylian]

Il y en a pas mal... En parcourant les fils, je me rends compte qu’il y a vraiment plus de gens qu’on ne le pense qui demandent absolument tout à ChatGPT. Certains vont même jusqu’à publier directement ses réponses sans la moindre vérification, et l’exemple typique, c’est tout ce qui touche au droit. Ils balancent des références de jurisprudence à tout-va, mais quand on cherche, soit le numéro n’existe pas, soit le texte de loi cité est aberrant. Et quand on clique sur leur profil, ils affichent pourtant un titre d’expert.
Les zombies de l’IA sont en train de proliférer.

[bbulbum]

Je passe mes journées à soupirer en voyant des collègues copier-coller tel quel ce qu’ils ont demandé à GPT comme argument dans une discussion.

[kuber]

Plutôt que de dire que l’IA est bonne ou mauvaise, il faudrait la considérer comme un outil et avoir dans l’entreprise une équipe chargée de l’optimiser pour ses besoins, un peu comme une bibliothèque commune interne ou une équipe de développement de plateforme.

Le problème, à mon avis, c’est qu’on la déploie à la va-vite sans rien de ce genre, puis qu’on ramène ça à une question de compétence individuelle, ou qu’on conclut simplement que l’IA n’est pas encore au point.

[kandk]

Le parfum du PC..

[GN⁺]

Avis sur Hacker News

• J’ai récemment eu une conversation amusante avec un ami. Il est en pleine période d’évaluation annuelle, et la direction pousse fortement lui et son équipe à utiliser davantage d’outils d’IA. Il travaille dans un institut de recherche biomédicale et n’a absolument pas besoin des LLMs. Mais les membres de l’équipe se sont bien amusés à utiliser le modèle de langage de l’entreprise pour rédiger des lettres de démission sous différentes identités. Personne n’a réellement démissionné, mais c’était une excellente façon de ruiner complètement le moral de l’équipe

• J’ai toujours été le genre de développeur qui veut voir plus de lignes rouges que de lignes vertes dans ses diffs. Nous aimons écrire des bibliothèques qui permettent de créer de manière déclarative des centaines de tests d’intégration. Je suis le développeur qui disparaît pendant deux jours puis revient en ayant permuté deux variables de boucle pour obtenir une accélération de 10x

  • Il n’y a pas de place pour moi dans cet environnement. Ce n’est pas que je sois incapable de produire beaucoup de code avec des outils, c’est que l’usage de l’IA fait de la vitesse de production la mesure du succès
  • La solution au mauvais code, c’est encore plus de code. L’IA ne produira jamais de suppressions. La pression du publish or perish est arrivée jusqu’à nous, et ça me rend triste
  • De la même manière que programmer en Python a donné un coup de vieux aux gens du mainframe, je me demande ce qui donnera un coup de vieux aux développeurs IA

• Ce que je préfère dans les sections de commentaires sur la GenAI, c’est quand quelqu’un dit « voici mon expérience personnelle avec l’IA » et que plusieurs personnes répondent en chœur « tu t’en sers mal ! »

• Il est intéressant de réfléchir à la manière de formuler les questions et à ce qui me convient le mieux

  • Je suis content d’utiliser l’IA pour des tâches « simples ». J’avais un fichier texte qu’on pouvait parser en champs, avec quelques bizarreries comme du texte aligné à droite. J’ai pu écrire un prompt vers un calendrier au format ICS en précisant la sémantique des champs, puis l’importer tel quel
  • Structurer des notes textuelles pour les importer dans un calendrier, c’était génial. Pas besoin d’entraîner une IA pour faire ça soi-même. Réfléchir à la meilleure façon d’exprimer quels sont les champs et où se trouvent les limites aide à comprendre les données
  • On peut regarder un fichier ICS et voir qu’il s’agit de type:valeur, sans pour autant connaître les types ni le format GMT/Z précis exigé pour les dates/heures, ou la distinction sémantique entre confirmé / en attente, etc. Cette structure plus avancée a permis d’obtenir un comportement utile du calendrier et des explications de l’IA
  • J’ai utilisé l’IA pour écrire du web DJANGO afin d’exécuter une tâche de planification simple. Je ne m’attendais pas à ce que le code fonctionne tel quel, mais c’est ce qui s’est passé. Est-ce que je pourrais vivre avec ce produit ? Oui, mais je m’inquiète de son extensibilité. En ajoutant des fonctionnalités, un seul mauvais prompt peut tout transformer en bazar. C’est fragile

• J’enseigne les compilateurs, les systèmes, etc. à l’université. J’ai vu d’innombrables cas où l’IA entraînait complètement les étudiants dans la mauvaise direction

  • Désormais, j’ajoute un fichier .noai à tous les projets
  • L’IA peut être utile à des développeurs expérimentés, mais c’est une catastrophe pour les développeurs inexpérimentés
  • Il y a cette remarque : « Ce n’est pas grave, on n’embauche que des développeurs expérimentés. »
  • Alors d’où viennent les développeurs expérimentés ?
  • Dans tout cet arc autour de l’IA, je repense sans cesse à la scène de l’Apprenti sorcier dans Fantasia

• On dirait simplement un cas de management performatif. Pour eux, c’est juste l’incarnation du moment « productivité-futur-technologie ». Comme ça, ils peuvent écrire sur leur CV qu’ils ont « mené avec succès une transition vers un développement piloté par l’IA ». L’IA n’est qu’un logiciel, qui colle ou non à une stratégie. Aucune entreprise ne réussit simplement parce qu’elle s’est mise à utiliser un logiciel ; de la même façon, aucune entreprise ne réussit simplement parce qu’elle s’est mise à utiliser l’IA

• Les entreprises doivent prendre conscience des effets à long terme de la dépendance à l’IA. Cela provoque une atrophie et, quand des bugs apparaissent, il faut plus de temps pour comprendre et corriger ce qui a été généré que ce qu’on a écrit soi-même

  • J’ai passé une semaine à corriger un bug de concurrence dans du code généré. Il y avait des tests, mais j’ai trouvé le bug quand j’ai réalisé que les tests eux-mêmes étaient mauvais
  • Mon conseil le plus ferme est d’assimiler chaque ligne du code généré. Ne le laissez pas vous dépasser

• Le point de vue d’un ami qui a récemment renoncé à se lancer dans l’art conceptuel

  • Avant l’IA, il y avait déjà l’externalisation. Des œuvres bon marché produites en masse par des studios étrangers avaient déjà supprimé la plupart des postes juniors
  • Maintenant, l’IA pousse cette tendance à son extrême logique : l’externalisation vers la machine, la forme ultime d’externalisation. Le coût se rapproche de 0 et la quantité de l’infini

• Cette histoire rend les développeurs tristes. Dans le jeu vidéo en particulier, il faut une créativité que l’IA n’apporte pas. Encore plus dès qu’on dépasse le « boilerplate de moteur de base ». Ça ne veut pas dire qu’elle ne peut pas aider, mais cette approche du « tout le monde s’y met » paraît forcée et pénible

  • Certains des meilleurs jeux auxquels j’ai joué sont des jeux du type « c’est le jeu que j’avais envie de faire », portés par une forte vision, une bonne exécution, beaucoup de polish et un artisanat minutieux
  • J’espère que ces tentatives extrêmes échoueront vite et que nous en tirerons des leçons

• Le jeu de Bradley est DOA. Ce serait ARK: Aquatica, par hasard ?