- Les grands modèles de langage (LLM) transforment en profondeur la manière de travailler, et Oxide a clairement défini comment les utiliser en interne
- Oxide est une startup d’infrastructure informatique à la demande qui conçoit du matériel et des logiciels intégrés pour les centres de données on-premise
- Oxide propose comme principe clé de l’utilisation des LLM un équilibre entre responsabilité, rigueur, empathie, travail d’équipe et urgence
- Ils sont utiles pour la synthèse/compréhension de documents, la revue de code, le débogage, etc., mais le jugement et la responsabilité humains restent essentiels pour la rédaction ou l’écriture de code
- Les résultats générés par un LLM doivent toujours s’inscrire dans un cadre où l’humain relit et assume la responsabilité
- Oxide encourage l’utilisation des LLM, à condition d’un principe de responsabilité envers le produit, les clients et les collègues
Critères de valeur de l’usage des LLM
- Oxide évalue l’usage des LLM selon les valeurs clés de l’organisation
- Responsabilité (Responsibility) : les LLM sont des outils, et la responsabilité du résultat incombe entièrement aux humains
- Rigueur (Rigor) : utilisés avec prudence, ils peuvent raffiner finement le raisonnement, mais une utilisation imprudente peut en dégrader la qualité
- Empathie (Empathy) : il faut garder à l’esprit que l’émetteur et le destinataire du langage sont des humains, et préserver une communication centrée sur l’humain
- Travail d’équipe (Teamwork) : il faut éviter que l’usage des LLM ne nuise à la confiance entre collègues et que la transparence sur cet usage ne donne l’impression d’une esquive de responsabilité
- Urgence (Urgency) : même si la vitesse peut augmenter, il ne faut pas sacrifier les autres valeurs
Les différents usages des LLM
LLMs as Readers
- Les LLM sont très bons pour la synthèse de documents et les réponses aux questions, et permettent de comprendre rapidement un volume important de documents
- Toutefois, il faut garantir la confidentialité des données et configurer les modèles pour que les documents téléchargés ne soient pas utilisés pour entraîner le modèle
- Ils sont utiles comme outil d’aide à la compréhension documentaire, mais ne doivent pas remplacer la lecture directe quand elle est nécessaire
LLMs as Editors
- Ils sont efficaces pour améliorer la structure et le style d’un document terminé, en particulier dans les phases finales
- Cependant, les LLM tendent à adopter une attitude excessivement positive, ce qui peut réduire l’analyse critique
- Lorsqu’ils sont utilisés en phase de brouillon, il existe un risque de perdre la voix propre de l’auteur
LLMs as Writers
- Les textes générés par les LLM sont souvent banals ou affichent clairement des traces de génération automatique
- Un texte auto-généré peut nuire à l’authenticité de la pensée et à la confiance du lecteur
- Le lecteur part du principe que l’auteur comprend le contenu, mais un texte généré par LLM remet en cause cette hypothèse
- Oxide part du principe que tous ses membres savent écrire et n’utilise pas les LLM comme principal auteur
- Ils peuvent néanmoins être utilisés de manière limitée comme outil d’aide, par exemple pour structurer des idées
LLMs as Code Reviewers
- Les LLM sont utiles pour la détection de certains types de problèmes de code, mais ne peuvent pas remplacer la revue humaine
- Leurs suggestions peuvent être illogiques ou manquer le contexte, donc il faut les utiliser uniquement comme outil d’appoint
LLMs as Debuggers
- Les LLM peuvent être utilisés comme rôle de « canard en caoutchouc » pour provoquer des idées de débogage
- Leur capacité réelle de résolution de problèmes est limitée, mais ils sont utiles comme stimulant pour imaginer de nouvelles approches
LLMs as Programmers
- Les LLM sont très performants pour la génération de code, et adaptés à l’écriture de code expérimentale et d’appoint
- Plus le code se rapproche du code produit, plus la validation et la responsabilité sont importantes
- Le code écrit par un LLM doit faire l’objet d’une auto-revue (self-review) par l’auteur, avec vérification obligatoire avant la revue entre pairs
- Pendant la revue de code, il est interdit de réagir par une régénération complète, car une vérification répétée devient impossible
- Même lors de la génération de code, il faut préserver responsabilité, rigueur, empathie et travail d’équipe
Opérations et directives
- Les détails techniques et les directives internes sur l’usage des LLM sont documentés dans des documents internes sur GitHub
- Oxide encourage l’utilisation des LLM, sous le principe d’un usage responsable
- La conscience de la responsabilité vis-à-vis de la qualité du produit, de la confiance des clients et de la collaboration entre collègues est la priorité absolue
Aucun commentaire pour le moment.