- Les systèmes technologiques modernes ont évolué vers des structures si complexes qu’aucun individu ne peut en comprendre l’ensemble
- Avec l’essor du développement logiciel et de l’usage de l’IA, les cas se multiplient où des développeurs construisent sans comprendre les mécanismes internes
- Simon Wardley souligne les risques de construire des systèmes sans les comprendre, Adam Jacob observe que l’IA transforme la manière de développer, et Bruce Perens estime que la complexité a déjà dépassé les limites
- À travers l’exemple du système téléphonique, Louis Bucciarelli montre que la technologie est imbriquée à plusieurs niveaux, au point que personne ne peut parvenir à une compréhension complète
- L’article insiste sur le fait que l’IA accentue cette complexité, mais qu’en réalité les humains manipulent depuis longtemps la technologie avec une compréhension seulement partielle
Complexité technique et limites de la compréhension
- Depuis le déclin de Twitter, les discussions sur la compréhension technique et la complexité se sont intensifiées sur LinkedIn
- Les publications de Simon Wardley, Adam Jacob et Bruce Perens y sont présentées comme liées par un thème commun
- Wardley met en garde contre le danger de construire des systèmes sans en connaître les principes fondamentaux
- Le terme « Magic » désigne de façon critique des frameworks qui masquent le fonctionnement interne, Ruby on Rails étant cité comme exemple emblématique
- Jacob souligne que l’IA est en train de transformer en profondeur la façon de développer des logiciels
- L’IA améliore l’efficacité, mais tend aussi à faire travailler les développeurs sans qu’ils comprennent l’infrastructure sous-jacente
- Perens affirme que la situation redoutée par Wardley est déjà devenue réalité
- En raison de la complexité des CPU et des systèmes d’exploitation modernes, beaucoup de développeurs comprennent mal leur fonctionnement réel
Le cas du « téléphone » chez Louis Bucciarelli
- Dans son livre de 1994 Designing Engineers, Bucciarelli traite des limites de la culture technique
- La plupart des gens sont incapables d’expliquer le fonctionnement d’un téléphone au niveau physique
- Des éléments à plusieurs niveaux s’y entremêlent : routage du réseau, traitement du signal, transmission par satellite, exploitation par les entreprises et structures réglementaires
- Il en arrive à la conclusion que « personne ne sait complètement comment fonctionne son téléphone »
- Cela symbolise le fait que les systèmes techniques complexes dépassent la capacité humaine de compréhension totale
Entretiens techniques et « limites du savoir »
- L’auteur se remémore une conversation avec Brendan Gregg à l’époque où il travaillait chez Netflix
- Gregg explique qu’en entretien, il évaluait les limites du savoir des candidats et leur réaction face à celles-ci
- Il menait ses entretiens en partant du principe que « personne ne comprend entièrement l’ensemble du système »
- Cette approche montre que la capacité à reconnaître ce qu’on ne sait pas compte autant que les compétences techniques elles-mêmes
La nature de la complexité et l’impact de l’IA
- Les points de vue de Wardley, Jacob, Perens et Bucciarelli révèlent, à différents niveaux, le caractère inévitable de la complexité
- Wardley : le risque de construire sans comprendre
- Jacob : l’efficacité et la mise à distance apportées par l’IA
- Perens : la réalité d’une complexité déjà bien présente
- Bucciarelli : l’impossibilité de comprendre le système dans sa totalité
- L’article reconnaît que l’IA aggravera ce problème, tout en rappelant une réalité ancienne : les humains traitent depuis longtemps la technologie avec une compréhension partielle
Résumé des discussions des lecteurs
- Dans les commentaires, beaucoup expriment l’inquiétude que l’IA affaiblisse l’apprentissage et la compréhension
- Certains affirment que « les LLM écrivent le code à notre place, ce qui rompt la chaîne de compréhension »
- Wardley explique qu’« auparavant, la compréhension se maintenait dans une chaîne hiérarchique, mais les LLM suppriment cette chaîne »
- D’autres lecteurs rétorquent qu’il est prématuré d’affirmer que « les avantages de l’IA sont supérieurs à ses risques »
- Dans l’ensemble, la perte de compréhension technique à l’ère de l’IA et la rupture de l’apprentissage ressortent comme les principaux enjeux
Aucun commentaire pour le moment.