Ce n’est pas le futur
(blog.mathieui.net)- Critique du discours de l’inévitabilité souvent entendu dans l’industrie tech — « c’est le futur, acceptez-le » — en soulignant qu’aucune technologie n’est inévitable
- Le paysage technologique actuel est devenu une structure abusive, et les utilisateurs perdent le contrôle au nom de la commodité
- Les passionnés de technologie qui adoptent les nouvelles technologies sans esprit critique aggravent au contraire le problème, et cette attitude se diffuse au grand public
- En citant divers exemples — lits connectés à Internet, navigateurs IA, appareils irréparables — le texte énumère concrètement des « technologies qui n’étaient pas inévitables »
- Il insiste sur le fait que l’orientation du progrès technologique résulte de choix, et qu’il faut définir le futur que l’on veut puis faire des choix en conséquence
Rejet de l’inévitabilité technologique
- Le slogan « c’est le futur » est un récit imposé sans preuves, qui critique l’attitude consistant à considérer l’adoption technologique comme allant de soi
- Le texte part du cas d’un projet ayant adopté une politique du type « utiliser l’IA générative, mais en la divulguant », en affirmant que c’était le bon choix « parce que c’est le futur »
- Cette logique présente l’évolution technologique comme un courant inévitable, alors qu’il s’agit en réalité d’une question de choix
- L’idée centrale du texte est la déclaration suivante : « Rien n’est inévitable (Nothing is inevitable) »
La structure abusive de la technologie contemporaine
- La technologie moderne fonctionne sous une forme abusive, et les utilisateurs perdent progressivement davantage de contrôle
- Certains power users essaient d’éviter les écosystèmes des grandes entreprises, mais même le FOSS (logiciel libre et open source) n’est pas une solution complète
- Les passionnés de technologie subissent à répétition les effets néfastes de produits coûteux, tout en les prenant à tort pour du progrès
- Les gens se trouvent dans un état de conformité conditionnée par les logiciels et le matériel, où l’on exige d’eux à la fois l’attente et l’acceptation du changement
- Les personnes âgées, en particulier, se fatiguent des interfaces complexes et des dark patterns, abandonnent l’apprentissage et finissent par suivre ce que l’appareil leur dicte
Distorsion du marché et de la consommation
- Il existe encore de bons produits sur le marché, mais leur nombre diminue chaque année
- Certains produits résolvent réellement des problèmes, mais le consentement et la demande des consommateurs sont le résultat d’années d’abus et de manipulation marketing
- Au nom de la commodité et de l’innovation, le choix des consommateurs repose sur des désirs fabriqués
Liste des technologies qui n’étaient pas inévitables
- Le texte énumère des cas concrets sous le titre « ces choses n’étaient pas inévitables »
- Lits connectés à Internet, navigateurs IA, services administratifs via chatbot, société dépendante au smartphone, appareils irréparables
- Photos retouchées par IA, NFT, métavers, changements automatiques d’UI, sites web exigeant une pièce d’identité
- Utilisation de moteurs d’avion recyclés dans les data centers, publicité, dépendance aux plateformes Meta, Apple Vision Pro, Copilot PC, TikTok, envoi de captures d’écran pour l’entraînement de l’IA, etc.
- Ces technologies ne sont que des choix d’entreprises guidées par la cupidité, pas un futur que la société doit impérativement accepter
Redéfinir le choix et le futur
- Le « futur » n’est pas imposé : c’est le résultat de choix collectifs
- Les géants de la tech peuvent certes maintenir certaines technologies grâce à d’immenses capitaux, mais les individus n’ont pas à en devenir complices
- Certaines technologies peuvent être réellement utiles, mais cela ne les rend pas pour autant inévitables
- L’essentiel est de reconnaître quel futur est souhaitable et quels choix nous en rapprochent
- Chaque choix est à la fois un acte politique et un échange d’énergie, et il faut être prêt à en assumer les conséquences
8 commentaires
Ce n’est pas un sujet technique mais philosophique, et c’est justement ce qui le rend encore meilleur.
J’aime particulièrement l’idée que « l’"avenir" n’est pas quelque chose d’imposé, mais le résultat d’un choix collectif ». <-- J’aime vraiment, vraiment beaucoup ce passage. Merci.
Quand on s’arrête un instant, calmement, pour regarder autour de soi, on voit bien que ce sont toujours les gens (les entreprises) qui fabriquent artificiellement les courants de leur époque.
C’est fatigant du point de vue des utilisateurs aussi,
mais j’ai l’impression que, même chez les développeurs, c’est devenu à la mode d’essayer de laisser ne serait-ce qu’une réalisation de plus à son actif en remaquillant des technologies qui, au fond, sont les mêmes, simplement avec des mots un peu différents, comme s’il s’agissait de nouvelles technologies.
Comme ce sont des technologies encore récentes, j’imagine qu’il est naturel d’essayer de prendre les devants.
Mais malgré tout, je trouve ça vraiment fatigant.
Avis Hacker News
Je pense qu’il est plus juste et plus utile de dire que la théorie des jeux est inévitable
La théorie des jeux n’est que des mathématiques, c’est-à-dire l’étude de la manière dont des agents indépendants réagissent aux incitations (incentive)
L’avenir est inconnu, mais plus de 8 milliards de personnes vivent en répondant à leurs propres incitations. J’en fais moi aussi partie, et mon influence sur les autres reste limitée
Mais il existe des points où l’on peut changer l’avenir en concevant soigneusement les incitations. Si l’on modifie l’information et la confiance, autrement dit la croyance des gens sur ce que deviendra l’avenir s’ils adoptent un certain comportement, on peut modifier les incitations. En revanche, pour obtenir ce résultat, il faut tenir compte avec finesse des réactions à l’échelle individuelle
C’est un outil pour analyser les résultats quand les différentes parties d’un système ont des objectifs distincts, pas pour prédire les comportements émotionnels humains. Donc la théorie des jeux, en soi, n’est pas inévitable
Le monde réel me semble plutôt mieux expliqué par la théorie des jeux coopérative. Le comportement des coalitions ayant un intérêt commun y compte plus que celui des individus
Par exemple, les prévisions météorologiques aussi relèvent des mathématiques, et pourtant elles restent toujours en partie erronées
La plupart des gens modélisent mal et ignorent les contraintes implicites. C’est pourquoi cela ressemble parfois davantage à une religion qu’à une science
Je suis d’accord avec le billet initial. Cela me rappelle les chaînes de fast-food des années 1990 qui vendaient des produits nocifs en disant « si ce n’est pas nous, ce sera une autre entreprise »
La société développe, à l’échelle d’une génération, un système immunitaire face aux technologies nuisibles. Le regard que nous portons aujourd’hui sur TikTok ressemble à celui qu’on portait autrefois sur McDonald’s
Mais il ne faut pas renoncer à l’innovation elle-même. La plupart des innovations alimentaires ont été positives, mais le fast-food a franchi une limite. C’est pareil pour le logiciel
Au final, il est probable que l’histoire juge négativement beaucoup d’entreprises dont la direction rationalise en disant « on n’y peut rien »
Je ne suis pas d’accord avec l’idée que certaines technologies ne sont pas inévitables
Par exemple, TikTok en lui-même n’était pas inévitable, mais le format des courtes vidéos et l’algorithme qui échantillonne l’ensemble des contenus représentaient une évolution naturelle
Après le fil des textes courts de Twitter, des photos d’Instagram et des stories de Snapchat, l’exploration de contenus à l’échelle mondiale était l’étape suivante
Il en va de même pour les NFT : après le bitcoin, l’arrivée d’Ethereum avec sa complétude de Turing rendait inévitable l’apparition des « tokens » et des « tokens non fongibles »
En revanche, l’arnaque et la surchauffe n’étaient pas inévitables, même si elles étaient probables. Au fond, c’est l’absence de coordination qui crée l’inévitabilité
Moi non plus, je n’utilise pas TikTok. Le choix existe encore. Simplement, ce choix implique des sacrifices
L’auteur est agacé par ceux qui disent que l’IA est inévitable, mais il est dommage qu’il ne propose pas d’alternative
Cela me fait penser à une phrase de Joseph Weizenbaum
Le passage qui m’a marqué dit que « le mythe de l’inévitabilité technique, politique et sociale est un sédatif qui paralyse la conscience. Dès qu’on y croit, la responsabilité disparaît. Mais en réalité, il y a bien des acteurs »
Il suffirait d’empêcher les exportations d’une seule entreprise pour soulager la sécheresse de dizaines de millions de personnes, et pourtant les gens se résignent en disant « encore une année de sécheresse »
S’il est politiquement difficile de changer le système, on peut contribuer à des alternatives open source.
Par exemple aux écosystèmes de jailbreak de smart TV, liseuses et téléphones, aux projets du Fediverse, ou encore à l’amélioration de la convivialité de Linux
Je comprends que les artistes voient l’IA négativement. En revanche, j’ai du mal à comprendre que des techniciens s’y opposent
C’est un peu comme si Bill Gates disait « nous ne nous intéressons pas à Internet ». L’IA est un changement de paradigme comparable à l’imprimerie, à l’industrialisation ou au téléphone mobile
Si l’art produit par l’IA est utile et beau, faut-il vraiment distinguer s’il a été créé par un humain ou non ?
Après tout, les humains créent eux aussi en étant influencés par d’autres œuvres et d’autres idées. L’IA ne fait que rendre ce processus plus efficace
Comme la tension ressentie en jouant à StarCraft avec un ami, il existe une forme de lien humain. Dans la production d’une IA, il n’y a pas ce partage émotionnel
Ceux qui défendent les LLM ne comprennent pas ce point
Pour la même raison qu’on évite des chaussures fabriquées par le travail des enfants, ou qu’on évite les services de Meta
Le problème, c’est l’approche actuelle, cupide et façon ruée vers l’or
Je pense que la participation de l’IA à la programmation est inévitable
En revanche, la résistance actuelle vient du fait que l’IA n’est pas encore optimale pour toutes les tâches
Comme la relation entre un poêle à bois et le chauffage central, c’est inconfortable aujourd’hui, mais un jour la majorité de la programmation sera prise en charge par l’IA
Le code écrit par des humains ne subsistera alors plus que comme loisir ou dans des cas exceptionnels
De la même manière, l’IA se développe sous l’effet de nombreuses motivations concrètes. Pour l’arrêter, il faudrait soit de la contrainte, soit supprimer les incitations
Ce texte est vraiment un billet de blog de grande qualité
Il porte bien sa critique du déterminisme technologique
La phrase « tout choix est une déclaration politique et un trade-off dans l’usage de l’énergie » m’a particulièrement parlé
Autrefois, ce type d’argument me rebutait, mais je commence maintenant à mieux le comprendre. Cela dit, il y a aujourd’hui tellement de prises de position politiques qu’il est difficile de comparer
Utiliser l’IA envoie le signal que l’usage de l’IA est normal
C’est pourquoi je pense au contraire qu’il faut utiliser activement les LLM pour rejeter ce cadrage
Est-ce vraiment politique d’utiliser l’IA simplement pour écrire du code boilerplate ?
Ce genre de texte a souvent tendance à pousser une idéologie particulière, donc il faut le lire avec prudence
Je suis totalement d’accord avec l’idée que « ce n’est pas inévitable que l’UI change à chaque mise à jour »
Aujourd’hui, la plupart des logiciels et du web sont fatigants à force de surenchère UX. Ce genre de site simple, basé sur le texte, est bien meilleur
Je comprends pourquoi ma mère dit qu’elle ne veut plus apprendre davantage de technologie, mais en pratique il n’y a pas vraiment d’alternative
Cela donne l’impression de vivre une confusion permanente, comme dans une vidéo de simulateur de démence
Les GUI rendent les utilisateurs impuissants, et on a l’impression que les experts UX déplacent les meubles dès qu’ils s’ennuient
Ce lien illustre bien ce sentiment
En lisant la phrase « ce n’est pas inévitable que des entreprises pourries fassent tourner des datacenters avec des moteurs d’avion recyclés », j’ai d’abord mal compris
Je pense que l’auteur ne parlait pas d’entreprises de traitement des déchets, mais critiquait plutôt des entreprises comme Boom ou xAI
Chaque technologie particulière n’est pas inévitable, mais le concept général l’est à cause des forces du marché et des dynamiques sociales
Comme plusieurs personnes essaient de résoudre le même problème en même temps, on observe des « inventions simultanées »
L’ampoule d’Edison est contingente, mais l’apparition de l’éclairage électrique était inévitable
Il en va de même pour l’IA générative : pour des raisons de coût de l’art, d’échelle, de possibilité de transformation et bien d’autres, beaucoup de gens font de la recherche dans la même direction
Au final, même sans coordination centrale, plusieurs chemins finissent par mener à la même destination. C’est en ce sens que je parle d’inévitabilité
Face à la phrase « X est l’avenir », ne faudrait-il pas avoir la sagesse de la filtrer spontanément comme « j’aimerais que X soit l’avenir » ?
Ces derniers temps, la phrase « L'IA, c'est l'avenir. » me revient sans cesse à l'esprit...
C'est un commentaire triste de se dire qu'on ne peut recommander qu'une seule fois.
Il y a parfois des gens qui, consciemment ou non, ne distinguent pas ce qui relève de la norme, du souhait ou de la prévision.
Bravo bravo bravo :)