CrankGPT

 (crankgpt.com)
1 points par GN⁺ 11 시간 전 | 1 commentaires | Partager sur WhatsApp
  • Solution d’IA entièrement locale et privée qui produit des tokens grâce à l’énergie des mains et des pieds, avec des modèles différenciés selon l’échelle d’usage, du quotidien aux workflows d’entreprise
  • Le modèle manuel à manivelle de base suffit pour un usage domestique courant, tandis que les power users et les petites entreprises peuvent envisager un modèle à pédales
  • Les données sont traitées uniquement dans l’appareil, sans avoir à livrer aux grandes entreprises des questions sensibles, des pensées intimes ou des idées d’apps
  • Avec le message qu’il faut produire soi-même, en calories, l’énergie nécessaire à l’IA, il propose de fabriquer des tokens en brûlant des calories plutôt que du pétrole
  • Il met en avant un concept d’IA off-grid, capable de fournir l’intelligence nécessaire même en l’absence de Wi‑Fi, en cas de panne de Claude, de coupures tournantes ou d’effondrement de la civilisation

CrankGPT — IA locale à propulsion humaine

  • CrankGPT est une solution d’IA entièrement locale et privée fonctionnant à l’énergie humaine
  • En évoquant à la fois le changement climatique, la concentration des richesses et les bras ramollis, il relie l’usage de l’IA à l’exercice physique et à l’autoproduction d’énergie
  • Sous le slogan « le bon outil pour le bon travail », il répartit les modèles d’IA selon l’échelle d’usage

Adapter l’échelle de l’IA

  • Le modèle manuel à manivelle de base suffit pour un usage domestique courant
  • Les power users et les petites entreprises peuvent envisager un modèle à pédales plus puissant
  • Pour les workflows complexes de type agentique et d’entreprise, des partenariats avec des salles de sport et des studios de fitness sont à l’étude

Prévisions du jour : aucun nuage

  • CrankGPT s’exécute uniquement sur l’appareil, de sorte que les données de l’utilisateur restent chez l’utilisateur
  • Il met en avant un message de confidentialité : inutile de confier aux grandes entreprises vos questions les plus brûlantes, vos pensées intimes ou vos idées d’app farfelues

Reprendre le pouvoir sur l’énergie

  • En mentionnant les entreprises tech qui construisent des centrales à gaz pour l’IA, il défend l’idée que les utilisateurs produisent eux-mêmes leurs tokens
  • CrankGPT permet de fabriquer des tokens en brûlant des calories plutôt que du pétrole

Faut-il encore offrir une supercar à un CEO de la tech ?

  • Sans même avoir à le demander à ChatGPT, la réponse serait « non » : les CEO de la tech ont déjà trop d’argent et trop d’influence
  • Il affirme que les utilisateurs sont devenus accros aux tokens et paient plus que leur coût de génération, et présente CrankGPT comme une façon de passer en off-grid tout en réduisant les coûts
  • Il souligne un message économique : empêcher que l’argent finisse dans la poche des CEO de la tech

Looksmaxxing ou tokenmaxxing… pourquoi pas les deux ?

  • Il soulève le problème du manque de temps pour prendre soin de soi quand on travaille sans relâche
  • En produisant directement ses tokens avec CrankGPT, plus on travaille dur, plus on fait d’exercice

Pas besoin de cloud ni de Claude

  • Même sans Wi‑Fi, en cas de panne de Claude, de coupures tournantes ou de fin de la civilisation, CrankGPT fournirait l’intelligence nécessaire
  • Tout en affirmant ne pas être survivaliste, il explique qu’avec CrankGPT, on est tout de même prêt
  • Il est possible de demander une démo via le lien Request a demo

À lire aussi

1 commentaires

 
GN⁺ 11 시간 전
Avis sur Hacker News

  • La page web en lien est un exemple typique de tout ce qu’on aimerait voir disparaître du webdesign
    Heureusement, le lien « technical documentation » tout en bas (https://squeezlabs.github.io/handcrank/) est bien meilleur et contient davantage d’informations intéressantes. On y voit notamment des modèles qui tournent plus ou moins correctement sur un Pi 5
    J’aimerais qu’on puisse lire le contenu avec une barre de défilement normale qui fonctionne comme prévu, au lieu d’un étrange diaporama dont on ne sait jamais quand la diapositive suivante va apparaître, et que les boutons qui ressemblent à des liens donnant plus d’informations soient simplement cliquables sans JavaScript

    • Pourquoi les techniciens ne comprennent-ils pas que notre majorité silencieuse adore le détournement du scroll
      Je ne me souviens même plus de la dernière fois où j’ai utilisé une barre de défilement pour me déplacer sur un site, mais quel bonheur de l’utiliser pour naviguer entre des keyframes JavaScript saccadées
    • Choisir la forme plutôt que la fonction est un trait du mauvais design depuis l’époque de Flash, et il est peu probable que cette tradition change de sitôt, même avec l’IA
    • Je suis d’accord pour dire que ce genre de webdesign n’est pas terrible. C’est courant depuis plus de dix ans, et je me souviens qu’Apple avait été critiqué en 2013 pour avoir utilisé cette approche sur la page produit de l’ancien Mac Pro “poubelle”
      Cela dit, ici c’est sans doute volontaire pour la blague. De la même façon qu’il faut tourner cet appareil à la main, il faut aussi « tourner » la molette de défilement pour accéder au contenu. Je trouve ça amusant
    • Parfait comme accessoire dans un épisode de Black Mirror où l’on utiliserait l’IA dans un monde post-apocalyptique. On n’entendrait partout que des brrrrr..brrr..brrrr suivis de gens qui marmonnent
    • Appeler ça du webdesign, c’est déjà être très généreux. C’est plutôt une brochure marketing tape-à-l’œil qui fait le travail pour son objectif

  • Le nouvel appareil à ramer acheté par mon partenaire affichait des « watts » comme unité d’intensité de l’effort, et ça m’a fait me demander s’il existe des rameurs qui rechargent lentement une batterie, et combien il faudrait ramer pour faire répondre un élégant MacBook M5 Max dernier cri à des prompts
    Bref, CrankGPT, je suis exactement votre cœur de cible. Si vous ne répondez pas à ma demande de démo, j’écrirai un mauvais avis en ligne à la force du clavier. Ou alors je ferai tourner un rameur alimentant un LLM pour qu’il l’écrive à ma place. Attendez...

    • À titre de référence, voilà à quoi ressemble une puissance à vélo de 700W : https://www.youtube.com/watch?v=S4O5voOCqAQ
    • Chez les cyclistes, c’est presque un lieu commun que les watts affichés par un capteur de puissance donnent une mesure plus précise de l’effort et des calories dépensées. La fréquence cardiaque, elle, reflète davantage l’effort subjectif, avec des facteurs comme le stress ou la caféine
      Il est aussi intéressant que le secteur ait fini par utiliser les watts pour le rythme du travail utile, et les calories pour le travail total en incluant les inefficacités. Après tout, les calories ne sont elles aussi qu’une unité d’énergie. En cyclisme, on utilise généralement une règle empirique qui consiste, en plus de la conversion d’unités, à multiplier la valeur en « calories » par 4 pour refléter l’énergie dépensée par le corps mais non convertie en rotation des pédales. Un rameur doit probablement utiliser un facteur de conversion similaire pour calculer les calories
    • On peut acheter une roue avant à moyeu dynamo pour vélo : https://bikepacking.com/plan/dynamo-hubs-lighting-charging-g...
      Mais à vitesse normale, cela ne produit généralement qu’environ 3W, et il faut fournir 5 à 7W de plus pour maintenir la même vitesse. C’est à peine suffisant pour une charge d’entretien sur un smartphone moderne
    • Les rameurs Concept2 peuvent déjà se faire fonctionner eux-mêmes grâce à l’électricité produite en ramant, donc c’est déjà partiellement possible
    • En réalité, comme unité d’intensité d’exercice, les watts sont la seule unité qui ait vraiment du sens

  • Avec seulement deux œufs brouillés et une tasse de café, on peut faire de la pensée de haut niveau pendant environ six heures
    Ce qu’il faut, c’est quelque chose qui empêche de partir hors contexte. /commence à chercher à combien d’œufs brouillés correspond l’énergie utilisée par un datacenter. Puis à googler combien il y a de poules dans le monde.../

    • L’IA aide assez bien pour l’errance contextuelle, ou le déficit d’attention. Désormais, il suffit d’enchaîner les questions dans un gros prompt, et l’IA fait les recherches connexes, rassemble les informations et les recrache rapidement, ce qui permet de gratter plusieurs curiosités d’un coup
      Le problème, c’est qu’ensuite d’autres questions surgissent, mais l’IA va plus vite que moi pour les traiter, même en comptant le temps que je mets à les formuler ou à les taper. Donc au global, j’y gagne
    • Si c’est possible sur une journée de travail, c’est parce que quelqu’un laboure des champs pour produire la nourriture, en brûlant au passage de l’énergie stockée sous forme de carburant
      Les humains ne sont malheureusement pas si efficaces. Les 150kcal/6h = 600kcal/jour mentionnés ne suffisent pas, et produire ces 600kcal puis les transporter jusqu’au domicile demande aussi plus de 600kcal
      En plus, les humains continuent d’exister quoi qu’il arrive, donc les calculs du type « ChatGPT consomme X kW, donc c’est mieux que d’embaucher une personne de plus » ne tiennent pas. Les humains ne cessent pas de brûler du carburant quand on ne les utilise pas, et l’usage des LLM représente une énergie supplémentaire qu’il faut produire en plus dans le budget CO2

  • La phrase « les entreprises tech ont discrètement abandonné leurs engagements climatiques en construisant des centrales à gaz pour alimenter l’IA qu’elles adorent » est superposée à une image de fond montrant une cheminée de gaz et des tours de refroidissement nucléaires dans le même champ
    Cela illustre bien ce courant particulier de l’argumentaire anti-IA. L’ensemble donne une impression de confusion et de précipitation
    L’énergie verte est déjà un problème techniquement résolu, mais à la place il faudrait revenir au travail manuel comme source d’énergie ? C’est ridicule

    • Les tours de refroidissement ne sont pas réservées au nucléaire. Il y en a par exemple dans des centrales à charbon en Pologne : [https://en.wikipedia.org/wiki/Coal-fired_power_station#/medi...](https://en.wikipedia.org/wiki/Coal-fired_power_station#/media/File:Be%C5%82chat%C3%B3w_Elektrownia.jpg)
      Pour préciser un peu plus : si on brûle du pétrole ou du gaz dans une turbine, il n’y a pas besoin de tour de refroidissement et la chaleur perdue part dans l’atmosphère avec les gaz d’échappement. Si on produit de la vapeur à partir d’énergie fossile ou nucléaire pour faire tourner une turbine à vapeur, il faut soit une rivière avec un débit suffisant pour rejeter la chaleur sans cuire tous les poissons, soit une tour de refroidissement pour évacuer cette chaleur dans l’atmosphère

  • Nous vivons désormais dans un monde où il est impossible de dire si c’est de la satire ou un vrai produit du futur.

    • Si on clique sur « Is this real? », une démo vidéo assez crédible apparaît. En ce moment, c’est vraiment difficile à juger.
    • Ils ont levé 100 millions de dollars. /s

  • Comme il ne sera sans doute pas permis de critiquer le site web, je mets à la place un lien offrant une expérience de lecture bien meilleure : https://squeezlabs.github.io/handcrank/
    Ça vient du lien « technical documentation » tout en bas de cette page.

    • J’ai abandonné cette page en cours de route pour venir lire les commentaires. Je ne supporte plus ce genre de chose.

  • J’aime assez l’idée de concevoir avec la contrainte que l’appareil doive pouvoir fonctionner à la manivelle.
    J’ai l’impression que ce n’est pas seulement un défi d’ingénierie intéressant, mais que cela pourrait aussi mener à une approche plus efficace et plus durable.

    • Ou alors… écoutez-moi bien… on peut aussi construire davantage de centrales électriques. La logique de la décroissance, poussée jusqu’au bout, finit par mener au contrôle de la population, ce qui devient assez sinistre.
    • Il existe un exemple similaire avec les sites web solaires : https://solar.lowtechmagazine.com/about/the-solar-website/
    • En pratique, ce n’est pas plus durable. L’énergie nécessaire pour produire la nourriture dont on métabolise les calories afin de tourner la manivelle est supérieure à celle qu’il faut pour accomplir la même tâche avec un moteur électrique ou un moteur thermique.
    • J’aimerais bien avoir un routeur alimenté à la manivelle. Ce serait sans doute un bon moyen de réduire l’addiction à Internet.

  • La console de jeu Playdate est vraiment parfaite pour ce genre de chose. Une fois, comme je m’ennuyais énormément, j’ai créé une télécommande Claude Code pour Playdate.
    La reconnaissance vocale passait par parrot + handy.computer. En gros, j’avais associé différentes combinaisons de touches à différentes actions : par exemple, appuyer sur A et parler, tourner lentement la manivelle pour naviguer, ou la tourner très vite pour envoyer un prompt.
    Au final, c’est devenu une télécommande universelle pour les ordinateurs de chez moi. J’utilisais un fichier YAML contenant les liaisons entre l’interface Playdate et les événements d’accessibilité, et contrôler des films avec la manivelle est amusant.
    Je peux aussi partager le code source. Dites-moi simplement si ça a une utilité réelle.
    Et j’ai l’impression que l’auteur et moi avons des hobbies similaires. Il y a quelques années, j’ai failli gagner un prix presque revendable sur eBay avec https://meat-gpt.sonnet.io ; j’ai perdu contre une galerie de sandwiches 3D.

    • J’aimerais vraiment adorer la Playdate, mais c’est un jouet incroyablement cher et sous-dimensionné. Cela dit, la manivelle, qui paraissait gadget au départ, a quelque chose d’étrangement réussi, et j’aimerais bien qu’il y en ait une dans l’arcade rétro de mes enfants.
    • J’en ai une aussi, mais je n’avais jamais pensé l’utiliser pour autre chose que des jeux. J’aimerais bien voir comment tu t’y es pris.

  • C’est difficile d’en parler sans sarcasme, mais il me semble qu’il existe déjà des histoires, épisodes de séries TV ou films autour du concept d’alimenter une intelligence mécanique avec le corps humain.
    Ça paraît trop gros, mais certains jours il devient difficile de savoir si c’est une blague ou une proposition sérieuse.

  • Il est écrit que « la partie la plus lente du démarrage de l’agent vocal est [...] le dlopen de grosses bibliothèques partagées, notamment ONNX Runtime, ainsi que le fait que Python effectue des centaines de petites lectures aléatoires sur la carte SD en suivant son graphe d’import ».
    On ne pourrait pas corriger ça en plaçant les fichiers dans le système de fichiers selon l’ordre dans lequel ils sont lus ? Ou bien en important les modules Python depuis un zip non compressé, ce qui faciliterait leur stockage dans l’ordre requis et pourrait être plus rapide ?
    Il me semble qu’il y avait autrefois une fonctionnalité de ce genre sous Windows : les données sur le disque étaient automatiquement réorganisées selon l’ordre de lecture lors du démarrage du système.