Steve Wozniak applaudi après avoir dit aux étudiants qu’ils avaient de l’AI, c’est-à-dire de l’actual intelligence
(businessinsider.com)- Steve Wozniak a fait rire et applaudir le public en abordant l’IA sur le ton de la plaisanterie lors de la cérémonie de remise des diplômes de Grand Valley State University
- Aux diplômés entrant sur le marché du travail, il a déclaré : « Vous avez de l’AI, c’est-à-dire de l’actual intelligence »
- Expliquant qu’il faudrait beaucoup de temps pour traiter l’IA en profondeur, il a dit que l’humanité avait « essayé de créer un cerveau », et a évoqué la tentative de répliquer une routine 1 000 milliards de fois
- Dans les semaines qui ont suivi, l’ancien CEO de Google Eric Schmidt et la dirigeante de l’immobilier Gloria Caulfield ont, eux, été hués pour leurs remarques sur l’IA lors de cérémonies de remise des diplômes
- L’IA influence le marché de l’emploi auquel arrivent les nouveaux diplômés, en modifiant les compétences requises, la manière dont les entreprises évaluent les candidats, et allant jusqu’à provoquer des licenciements liés à l’IA dans certaines entreprises
Les propos de Steve Wozniak sur l’IA lors de la cérémonie
- Steve Wozniak a été applaudi pour ses propos sur l’IA dans son discours de remise des diplômes à Grand Valley State University, contrairement à d’autres intervenants de cérémonies cette année
- Aux diplômés qui entrent sur le marché du travail en pleine révolution de l’IA, il a dit : « Vous avez de l’AI, c’est-à-dire de l’actual intelligence », déclenchant rires et applaudissements dans le public
- Il a expliqué qu’il faudrait beaucoup de temps pour approfondir sa pensée sur l’IA, ajoutant : « Nous avons essayé de créer un cerveau »
- Il a présenté l’IA comme une tentative de voir si l’on pouvait répliquer une routine 1 000 milliards de fois pour la faire fonctionner comme un cerveau
Contraste avec d’autres prises de parole lors des cérémonies
- Le discours de Wozniak s’est déroulé sans interruption, mais dans les semaines suivantes, d’autres intervenants de cérémonies qui ont parlé activement d’IA ont été hués
- L’ancien CEO de Google Eric Schmidt a été hué lors d’une autre cérémonie pour des propos liés à l’IA
- La dirigeante de l’immobilier Gloria Caulfield a elle aussi été huée lors d’une autre cérémonie après avoir fait l’éloge de l’IA
Évolution du marché du travail et conseils aux diplômés
- L’IA a un impact important au moment où les nouveaux diplômés arrivent sur le marché de l’emploi
- Les changements vont des compétences requises pour les candidats à la manière dont les entreprises les évaluent
- La capacité de l’IA à automatiser de nombreuses tâches conduit aussi, dans certaines entreprises, à des licenciements liés à l’IA
- La vitesse et la manière dont l’IA transforme le travail influencent aussi les compétences nécessaires aux candidats
- Revenant sur son expérience chez Apple, Wozniak a conseillé aux étudiants qui débutent leur carrière de « toujours essayer de penser différemment »
- Il leur a recommandé de ne pas « suivre les mêmes étapes que tant d’autres », mais de « réfléchir à ce qui peut être fait un peu différemment »
1 commentaires
Commentaires sur Hacker News
Chez nous, on célèbre Woz comme un nerd brillant, mais je ne savais pas qu’il était aussi bon en prise de parole en public
Il a vraiment su lire la salle
La femme façon « McKenzie » et Schmidt de Google, eux, semblaient contrariés par la réaction et presque en train de faire la leçon aux diplômés, donc qu’ils dégagent
Ça fait plaisir de voir quelqu’un dire à de jeunes gens qui risquent fortement de souffrir de cette technologie que « vous comptez »
Il est difficile d’imaginer à quel point on doit être anxieux quand on s’endette pour étudier et qu’on se retrouve face à un marché de l’emploi pareil
À l’époque, on avait le sentiment que la thérapie génique pourrait peut-être résoudre toutes sortes de problèmes, et il y avait une grande controverse avec des objections morales
L’essentiel du discours était une longue critique de la religion, accusée d’empêcher les avancées scientifiques susceptibles d’améliorer la vie ; ça n’a pas très bien marché auprès d’un public très chrétien, mais moi j’ai aimé
C’était décousu et il ratait l’essentiel
Mais 20 ans, c’est long, donc il a peut-être énormément progressé depuis
J’aime bien la citation
Cela dit, il avait l’avantage d’avoir eu deux exemples très forts de ce qu’il ne fallait pas faire, ainsi que quelques jours pour y réfléchir
Malgré tout, c’est à son crédit d’avoir compris ça et d’avoir agi en conséquence
Ah, la voilà
C’était à CalArts : https://www.youtube.com/watch?v=C0vTVWyY47s
Il a dit ce que les étudiants voulaient entendre, donc ce n’est pas surprenant qu’il ait été applaudi
Mais qu’il ait raison ou non, il est possible que les étudiants aient eu besoin d’entendre ça
Les étudiants, et nous aussi, devons croire que le cerveau humain a encore de la valeur et qu’on peut trouver une issue
Sinon, il n’y a plus de raison d’essayer
Le simple fait que nous soyons des êtres sensibles capables de ressentir joie et douleur nous donne de la valeur
C’est pour cela que nous continuons à soutenir et à prendre soin des personnes âgées et des personnes handicapées, et que nous les considérons comme précieuses indépendamment de tout bénéfice pratique qu’elles pourraient nous apporter
Si l’on vit en croyant que sa valeur dépend de son utilité pratique, alors quelque chose comme l’IA devient une menace existentielle terrifiante
Mais le déni n’est pas une manière saine d’affronter cette menace ; la solution consiste à reconnaître la valeur qui nous est inhérente en tant qu’êtres humains et à exiger des politiques publiques qui reflètent ce fait
On a beaucoup trop étiré le sens du mot « intelligence »
Ces systèmes peuvent être très utiles, mais on a sous-estimé à quel point le cerveau humain est extraordinaire
L’expression de Woz, « Actual Intelligence », est assez maligne, et les gens ont besoin qu’on leur rappelle d’utiliser leur propre cerveau
Le cerveau humain est soit un merveilleux produit de l’évolution, soit l’œuvre du dieu préféré de chacun
Il a construit quelque chose de formidable, tout en vendant une surenchère de camelot
Le fait d’avoir de meilleurs outils signifie qu’on obtient des solutions plus impressionnantes, pas qu’on a besoin de moins de forgerons
C’est pourquoi je pense que les économies de coûts des agents sont un mythe
Notre entreprise a mené une étude interne sur l’usage d’agents pour le code, et le gain de productivité n’était que de 10 à 20 %
On est à peu près au niveau de bons templates de code ou de l’autocomplétion
Encore moins maintenant que l’emballement actuel autour du machine learning commence déjà à retomber
D’un point de vue scientifique, je ne considère pas l’existence d’une intelligence artificielle générale comme impossible, mais je ne vois non plus aucune raison d’être certain qu’elle se réalisera un jour ; au fond, c’est donc une question de croyance
Honnêtement, j’ai plutôt envie de croire que l’effondrement social arrivera avant même qu’une intelligence artificielle générale soit théorisée
Nous vivons une époque intéressante
Je ne me souviens pas d’une fracture d’opinion aussi forte sur une technologie moderne
Même les bagarres autour de la blockchain et des NFT paraissent mineures en comparaison de l’IA
Les ingénieurs se sont toujours disputés au sujet des technologies
Il y a toujours eu des évangélistes et des entreprises pour pousser leurs solutions, comme avec les piles technologiques Microsoft promettant sans cesse une nouvelle ère du développement, ou les outils RAD de Borland qui devaient transformer tout le monde en « développeur GUI »
C’était une concurrence saine, et on a bien vu où Java EE a fini par arriver
Alors qu’on nous le vendait encore dans les années 2010 comme l’unique avenir du serveur
Cette fois, est-ce différent ? Je n’en sais rien, et ça m’effraie de voir qu’une masse critique semble s’être accumulée au point de pouvoir l’imposer de force
Malgré tout, je donne à mes amis et à mes étudiants le conseil que j’applique moi-même
Il faut investir dans sa propre intelligence, pas dans les outils et les écosystèmes des grandes entreprises
Autrement dit, construire soi-même quelque chose pour apprendre et acquérir de vraies compétences, plutôt que produire une pente de code d’un million de lignes pour courir après les investisseurs en capital-risque
Quand un étudiant a suivi ce conseil et implémenté Paxos pour son mémoire, il a non seulement acquis un modèle mental de l’algorithme et de tous ses cas limites, mais cela l’a aussi conduit à développer de nouveaux algorithmes
Parce que son cerveau n’était pas au-dessus de l’IA, il était à l’intérieur du problème
Ils trouvaient ça honteux, passager, inutile
Ils détestaient les situations où il fallait utiliser l’email et essayaient de tout ramener au téléphone ou aux réunions
À l’époque, le changement était plus progressif
Il a fallu longtemps pour que des technologies comme le téléphone portable ou l’email se diffusent, alors que l’IA est passée presque du jour au lendemain du gadget curieux au seul sujet de conversation de l’industrie tech
La blockchain et les NFT étaient des branches mortes, inutiles
Les investisseurs et les détenteurs essayaient de les imposer dans des usages absurdes, mais on pouvait les ignorer sans que la vie change
L’IA, qu’on l’aime ou non, pénètre les métiers de la tech
En dehors de l’industrie tech et des emplois de bureau, l’IA n’est pas un sujet aussi énorme ; et quand on parle à des entrepreneurs du bâtiment ou à d’autres travailleurs manuels, on voit aussi des réactions positives
Ils ne se sentent pas menacés dans leur emploi, et ont trouvé beaucoup de façons de s’en servir, par exemple pour aider à la traduction ou pour trouver rapidement des conseils
L’IA se greffe sur un mécontentement social ancien, mais qui s’est accéléré récemment
Le problème de fond, plus vaste, est qu’au moins depuis les années 1970, chaque génération a dû travailler davantage que celle de ses parents pour atteindre le même niveau de vie
Pendant quelques décennies, l’entrée accrue des femmes sur le marché du travail a en partie compensé cela
Mais depuis 2008, on a eu la crise bancaire, une politique bipartisane focalisée sur la colère, la pandémie, la Grande Démission, une génération de travailleurs marquée par l’absence de contacts en présentiel, et maintenant l’IA
L’agriculture et l’industrie avaient des avantages évidents au service de l’humanité, alors que l’IA pourrait être plus proche d’un concurrent de l’être humain
Quand les décideurs envoient chaque semaine de nouvelles règles sur l’IA en disant qu’il faut devenir de meilleurs employés, l’intelligence réelle devient inutile
C’est une course vers le bas, et une course vers une dette technique sans fin
Si les bases de code deviennent impossibles à maintenir, certaines entreprises vont s’effondrer
Quelques-unes prospéreront, mais la plupart probablement pas
Dans le monde du hardware, j’ai vu des usages corrects
Des gens intelligents qui n’avaient pas d’expérience en développement logiciel créent des scripts Python, automatisent des tests et pilotent du matériel avec des GUI basiques
C’est excellent
En revanche, j’ai aussi vu des entreprises logicielles envoyer des notes internes disant que tout le code devait être produit par prompt
C’est comme les stéroïdes
Bien utilisés, les bénéfices sont énormes, mais on ne doit pas en prendre le double à chaque repas
Environ 12 de mes amis ingénieurs logiciel sont tous activement et sérieusement en train de faire de la maximisation de tokens
Il y a des managers intermédiaires à qui on a ordonné d’utiliser l’IA, et des dirigeants qui regardent la facture chaque mois en se disant « hum, on a peut-être vu trop large », mais personne dans cette chaîne n’a l’autorité ni la capacité de faire marche arrière
Cette semaine, un ami a bricolé à la va-vite un agent qui récupère sur Spotify le morceau en cours d’écoute, l’écrit dans un fichier, puis crache des tokens pendant 2 ou 3 minutes sur ce que ce morceau et ceux écoutés plus tôt dans la journée disent de l’état mental de la personne
Comme une sorte de journal musical, répété en boucle, 24 heures sur 24
C’est assez drôle, mais au fond ce n’est qu’une manière de consommer des tokens
La première chose que les labos d’IA ont produite, c’étaient de bons modèles pour coder, et la deuxième, des dashboards permettant aux managers de suivre à quel point les utilisateurs se servent de ces bons modèles de code
Un nombre énorme d’entreprises se font littéralement plumer par les labos d’IA et les utilisateurs d’IA, et beaucoup ne survivront pas
Meta pourrait bien en faire partie, et d’ici 2030 il se pourrait qu’il n’en reste qu’une coquille de ce qu’était l’entreprise
Les entreprises qui survivront et prospéreront dans les années 2030 seront celles qui se focalisent avec acharnement sur les clients et le produit, pas sur les processus
Si, dans une entreprise, on n’entend pas régulièrement à la fois « l’IA serait formidable ici » et « en fait, l’IA ne serait probablement pas très adaptée ici », elle ne tiendra pas
Elle se fera dépasser par une entreprise qui aura trouvé un cas d’usage fort, ou elle se fera saigner par une maximisation de tokens sans fin ni direction
Le chemin du milieu est bien plus étroit que ce que la plupart des entreprises imaginent, et quelques grands groupes commencent à s’en rendre compte
Pour certains, il est déjà trop tard
Cela pourrait aussi rendre visibles plus rapidement les conséquences de dix années de décisions business ouvertement hostiles aux utilisateurs
Ceux dont le cerveau n’a pas été grillé par les CC pourront peut-être se placer pour récupérer les clients quand ces mastodontes s’effondreront
Pour l’instant, les grands modèles de langage ne me semblent pas si utiles
Quand j’ai un problème et que je demande à un LLM, la réponse est souvent inventée ou inutile, et il est rare qu’il sache vraiment
Je sais expliquer le problème de façon à augmenter les chances d’obtenir une réponse utile
Même avec un agent, une partie des problèmes que je rencontre — en fait la plupart — ne peuvent pas se résoudre par essais et erreurs, parce qu’un échec a des conséquences
Pour de l’infrastructure as code ou des choses comme Ansible, ce serait peut-être différent, et je peux le comprendre
On peut arrêter de courir après tout ce qui est demandé pour gagner de l’argent et se concentrer sur ce qui est réel
Il n’existe pas d’avenir, dans aucun domaine d’emploi, où l’IA ne serait pas largement utilisée
Wozniak a déjà parlé de son aversion personnelle pour l’argent et l’accumulation d’une immense richesse
En 2017, il a déclaré à Fortune : « Je ne voulais pas être près de l’argent. L’argent pouvait corrompre mes valeurs… Je ne voulais vraiment pas entrer dans la catégorie de “bien plus que nécessaire”. »
Source : https://en.wikipedia.org/wiki/Steve_Wozniak
C’est un contraste frappant avec d’autres dirigeants de la tech
« La richesse et le pouvoir ne sont pas la raison pour laquelle je vis, donc j’ai partagé toute la richesse que j’ai tirée d’Apple
Je profite de beaucoup de plaisir et de bonheur
J’ai beaucoup soutenu les musées importants et les organisations artistiques de ma ville natale, San Jose, et ils ont donné mon nom à une rue parce que j’ai vécu de manière juste »
Il aime les gadgets technologiques qu’on peut s’offrir quand on est riche
Il a simplement toujours été mauvais pour gérer son argent, et a perdu beaucoup d’argent dans plusieurs divorces
L’automne dernier, j’ai surpris une conversation entre des lycéens ; l’un d’eux suivait les cours à distance depuis un moment à cause de problèmes psychiques
Il disait qu’il avait certes besoin d’une pause, mais se plaignait aussi qu’avec ChatGPT il était trop facile de tricher et de boucler toute la journée d’école, et il disait avoir vraiment hâte de retourner en classe parce qu’il avait l’impression de ne rien apprendre du tout
Ce qui m’a marqué, c’est aussi que c’étaient des lycéens punk/emo tout à fait ordinaires
Les enfants veulent apprendre, connaissent la valeur de l’apprentissage, et tirent fierté et sentiment d’accomplissement du fait d’apprendre de nouvelles choses et de nouveaux concepts
Nous leur devons un monde dans lequel ils peuvent espérer et voir un avenir
Mais une grande partie de l’emballement autour de l’IA repose sur l’idée que tout est dangereux et vain
Si les étudiants ont applaudi Woz, la question n’était pas celle de la vérité mais celle de l’espoir
Ils disaient que maintenant toutes les évaluations étaient devenues des essais en classe au lieu de devoirs à faire tranquillement chez soi
Et par « se lamenter », j’entends qu’ils gueulaient copieusement dans un bar en maudissant leurs profs
Eric a probablement utilisé l’IA pour relire son discours, et l’IA a dû lui dire qu’il était excellent
Comme il n’avait jamais connu d’échec auparavant, la scène où il se fait huer ne figurait sans doute pas dans les données d’entraînement
D’une certaine manière, le fait que les étudiants l’aient hué montre exactement la différence entre l’IA et des esprits imprévisibles
Du point de vue du discours de remise des diplômes, c’est une innovation
Récemment, les articles sur « les étudiants trichent avec l’IA » se sont multipliés, et maintenant ce sont les articles sur « les étudiants sont anti-IA » qui affluent
Ma première impression est que ce déluge d’articles reflète moins fidèlement le monde réel qu’il n’en montre simplement certaines facettes
Mais si les deux sont vrais et qu’il faut les accepter comme une réalité, doit-on s’attendre à ce que les étudiants adhèrent à la position du monde académique et n’utilisent pas l’IA dans l’éducation ?
Va-t-on assister au retour de l’apprentissage traditionnel ?
L’éducation n’est pas comme notre industrie
Dans notre secteur, la plupart des gens qui utilisent des LLM y sont poussés par le haut, tandis que dans l’éducation, ceux qui ont le pouvoir souhaitent que les étudiants n’utilisent pas les LLM
Les étudiants d’aujourd’hui font face à deux choses
D’un côté, une machine capable de faire plus vite, plus précisément et avec une meilleure qualité le travail qu’on leur demande
De l’autre, la menace que cette machine rende l’éducation complètement ou presque totalement caduque, surtout pour décrocher un premier emploi
Le premier titre vient du point 1, le second du point 2
Si les étudiants utilisent ces outils, ce n’est pas parce qu’ils pensent que « c’est réellement bien », mais parce qu’ils se résignent à l’idée que leur éducation n’a plus d’importance pour leur progression professionnelle et choisissent la facilité
Cette résignation alimente la colère qu’on voit dans « les étudiants sont anti-IA »
Tous les étudiants qui ont hué Eric Schmidt il y a quelques jours utilisent probablement régulièrement l’IA pour leurs devoirs
Les êtres humains ne sont pas des moines cisterciens
Il est facile d’en conclure que « les préférences révélées valent plus que les préférences déclarées, donc on peut ignorer les huées », mais ce serait ne pas réfléchir assez profondément, comme beaucoup de dirigeants de la tech
L’industrie tech va payer le prix d’avoir produit sans cesse des produits que le monde déteste mais est forcé d’utiliser
Pour l’instant, l’industrie y est trop accro
Aussi étrange que cela puisse paraître, il ne reste presque plus d’entreprises capables de créer des produits et des services que les clients ont réellement envie d’utiliser
Il est bien plus facile de monopoliser un secteur, de redéfinir les attentes de toute une industrie autour de l’existence de ce produit, puis de dresser des barrières à l’aide du capital et des avocats
Alors les autres peuvent eux aussi n’avoir d’autre choix que de faire pareil s’ils veulent obtenir leur diplôme
C’est la même structure que le mème « pourtant toi aussi tu participes à la société »
Les raisons d’usage varient selon les disciplines, mais le plus souvent, c’est soit un moyen pratique de faire passer des travaux proches du sale boulot, soit de la triche comme déjà décrit
Les étudiants nous ont dit à la fois ce qu’ils en faisaient et à quel point ils détestaient cela
Et au passage, il n’existe pas d’« apprentissage traditionnel » auquel revenir
On entendra sûrement beaucoup d’enseignants réclamer un retour au « papier et stylo », mais à mon avis c’est assez peu critique
Il faut se rappeler que l’écriture elle-même est une technologie, et que les supports et instruments historiquement associés à l’écriture relevaient eux aussi du progrès technologique
Il est très probable que certains étudiants qui ont obtenu leur diplôme en utilisant massivement les LLM, ou au moins en trichant avec, aient hué l’ancien CEO de Google quand il a parlé d’IA pendant la cérémonie
Être pro-IA quand cela nous avantage et anti-IA quand ce n’est pas le cas, c’est la nature humaine
C’est un peu simplificateur, bien sûr
Haha, ça c’est totalement du Woz <3
Ce n’est pas un dirigeant froid et obsédé par le business comme la plupart des CEO de l’IT, c’est un vraiment bon gars
Si j’avais l’occasion de travailler dans une entreprise qu’il dirige, j’aimerais tenter
Elle ne serait peut-être pas aussi prospère que d’autres, mais on saurait qu’elle fait réellement du bien aux gens
Contrairement à ces entreprises qui affichent Don’t be Evil comme devise et sont en réalité infernalement malfaisantes
On ne dira jamais assez à quel point les loyalistes les plus durs au sein d’Apple détestent Woz
Personnellement, je pense qu’il incarnait l’un des meilleurs aspects de l’ancien Apple, et il est triste que l’entreprise le considère encore comme une figure incontrôlable
Je me pose sincèrement la question, vu le temps qui s’est écoulé depuis sa dernière implication réelle chez Apple
Il n’était pas tant détesté que perçu comme quelqu’un d’incontrôlable
En interne, Apple était extrêmement strict sur ce qu’on pouvait dire et faire, au point de donner l’impression d’être dans un État communiste où l’on ne contredit jamais le Cher Leader
Woz disait ce qu’il pensait, et c’est d’ailleurs pour cela qu’il est parti très tôt
Il a une conscience et se soucie des gens, alors qu’Apple excelle à en donner l’impression
J’aimerais en entendre davantage