Des enfants qui jouent dans le ruisseau

• Les expériences de l’enfance

  • Quand j’étais enfant, bloquer le ruisseau derrière la maison était une activité amusante.
  • J’empilais des pierres et des feuilles, et je bouchais les trous avec du sable pour essayer d’arrêter l’eau.
  • Un jour, j’ai compris qu’en utilisant une grande pelle pour faire céder la berge, on pouvait construire un grand barrage.
  • Mon père m’a dit qu’une fois cette méthode découverte, je ne pourrais plus jouer à bloquer le ruisseau.

• Le processus de grandir

  • Après avoir percé un trou dans le plafond en fabriquant une catapulte K'Nex, je suis devenu plus prudent.
  • Ma tentative d’attacher ensemble des pétards pour provoquer une explosion n’a pas été autorisée.
  • Une fois que j’ai appris à fabriquer des arcs et des flèches, je n’ai plus pu m’y consacrer avec autant d’ardeur.

• Métier et jeu

  • J’ai reçu une proposition pour aider à un jeu à somme nulle dans une banque d’investissement.
  • J’ai fait beaucoup d’efforts pour obtenir cette opportunité, mais j’ai fini par comprendre que je ne pouvais plus jouer au jeu consistant à « gagner le plus d’argent possible ».

• Nouveaux défis

  • À la plage, j’aime jouer à bloquer l’écoulement de l’eau dans les mares de marée pour créer des lacs et des deltas.
  • En repoussant le sable avec les mains, j’observe les coquillages remonter à la surface.

• Développement de l’IA

  • Le développement de l’IA est une aventure intéressante et gratifiante.
  • La réussite ne signifie pas nécessairement un résultat gratifiant.
  • Anthropic s’intéresse à son usage dans le domaine de l’éducation.

[GN⁺]

Commentaires sur Hacker News

• J’aime bien ce texte. Mais j’ai l’impression qu’il passe à côté du point principal

  • Il ne s’agit pas du développement de l’IA, mais de la volonté de « gagner autant d’argent que possible »
  • Le problème de l’IA tient moins à son développement qu’à son marketing et à sa diffusion
  • Dans la parabole du PDG et du pêcheur, le pêcheur s’arrête à ce qu’il peut lui-même apprécier
  • S’il n’y avait que des gens qui s’occupent de l’IA pour le plaisir, il n’y aurait pas de problème
  • Les problèmes apparaissent quand les gens commencent à utiliser l’IA comme moyen de gagner de l’argent
  • Anthropic semble en être conscient, mais une autorité extérieure doit intervenir
  • Tant qu’on traite « gagner autant d’argent que possible » comme une exception, le problème persistera

• Excellent essai. J’ai des idées proches de celles de l’auteur, mais je n’aurais pas su les exprimer ainsi

  • Je ne m’attends pas à ce que les chercheurs en IA écoutent les conseils et ralentissent
  • Le fait que l’auteur ait quitté un emploi très bien rémunéré dans la finance pour des raisons morales est admirable
  • Mais Wall Street continue, et les gens qui veulent gagner de l’argent sont toujours aussi nombreux

• L’histoire du ruisseau qu’on barre ou des jeux sur la plage est chaleureuse et donne le sourire

  • Résoudre le puzzle pourrait être la mauvaise fin du jeu
  • Les gens devraient faire certaines choses pour le plaisir
  • Je ne sais pas si la fin du monde viendra ou non, mais je compte profiter de la vie au maximum

• Vonnegut l’exprime le mieux

  • « Nous sommes sur Terre pour traîner. »

• Explication du sens de tillering

  • [1] Courber du bois pour fabriquer un arc
  • [2] Produire des pousses latérales chez les graminées

• L’auteur semble inquiet des risques liés à l’IA

  • Mais les modèles d’IA actuels manquent de perspicacité et d’originalité
  • La question de Dwarkesh : l’IA a mémorisé le savoir humain, mais ne parvient pas à créer de nouveaux liens
  • Quand j’ai posé la question à GPT-4.5 « Deep Research », il n’y avait pas d’intuition originale
  • Je ne pense pas qu’un LLM puisse imaginer un moyen d’anéantir l’humanité
  • Il n’a ni volonté propre ni sens du temps et de l’espace

• Je veux donner aux enfants des souvenirs de jeux dans le ruisseau du jardin derrière la maison

• S’il y a une occasion de gagner de l’argent, il y aura toujours quelqu’un pour prendre le risque

• Demande d’explication de la métaphore « coquina »

• Guide sur le tillering d’un arc

  • lien