Une n-boule entre des n-boules

 (arnaldur.be)
1 points par GN⁺ 2024-10-11 | 1 commentaires | Partager sur WhatsApp
  • Arnaldur présente ce site comme sa demeure sur Internet et indique être Computer Scientist
  • Il travaille actuellement comme consultant en développement logiciel et peut être contacté par e-mail
  • Le site permet de lire quelques articles écrits par Arnaldur
  • Le site web a été entièrement créé avec SolidStart et est rendu de manière statique
  • Le déploiement et le style reposent sur AWS · SST · matcha.css, et un easter egg est caché quelque part sur le site

Arnaldur et contact

  • Arnaldur se présente comme Computer Scientist
  • Ce site web sert de demeure sur Internet à Arnaldur
  • Le site contient quelques articles à lire
  • Il travaille actuellement comme consultant en développement logiciel
  • Il fournit l'adresse e-mail a.arnaldur+be@gmail.com comme contact

Mise en œuvre du site web

  • Le site web a été créé from scratch avec SolidStart
  • Le site est proposé en rendu statique
  • L'hébergement se fait sur AWS, avec l'aide de SST
  • matcha.css est utilisé comme base de style
  • Un easter egg est caché quelque part sur le site

À lire aussi

1 commentaires

 
GN⁺ 2024-10-11
Avis de Hacker News
  • Plutôt que de penser que les boules « deviennent pointues » en grande dimension, il vaut mieux voir que c’est la boîte elle-même qui devient pointue.
    Comme le dit aussi l’article, une boule est, par définition, toujours parfaitement symétrique.
    En revanche, la boîte prend une forme de chausse-trape : ses sommets s’éloignent de plus en plus de l’origine, d’une distance égale à la racine carrée de la dimension, tandis que le centre de chaque face reste exactement à ±1.
    Les 2^N boules autour s’éloignent elles aussi de l’origine, mais leur rayon reste 1/2 ; il devient donc plus facile d’imaginer la boule centrale gagner de plus en plus d’espace, jusqu’à finir par déborder de la boîte pointue.
    • Une autre façon de penser aux boules en grande dimension fait de la pointuosité une bonne visualisation.
      Par exemple, si l’on place un hyperplan à 90 % de la distance entre le centre de la boule et sa frontière, et que l’on regarde quel pourcentage du volume total se trouve « au-delà » de cet hyperplan, ce volume devient négligeable en grande dimension.
      Quand la dimension devient vraiment élevée, même une coupe assez proche du centre ne retranche qu’un volume minuscule ; dans notre monde en 3D, ce qui se rapproche le plus de cette propriété est une forme d’épine.
      Le sens dans lequel une boule de grande dimension n’est pas pointue tient à sa symétrie et à sa douceur.
      Pour se forger une intuition des boules en grande dimension, il faut donc les imaginer à la fois symétriques, lisses et pointues.
      Ensuite, pensez à cinq autres choses impossibles, et vous pourrez prendre votre petit-déjeuner.
    • C’est exactement ça : les sommets d’un carré occupent 1/4 de la partie correspondante du plan, ceux d’un cube occupent 1/8 de l’espace, et les sommets d’un hypercube à n dimensions n’occupent que 1/(2^n) de l’espace.
      Mais chaque arête, face ou hyperface ne fait que couper le plan, l’espace ou l’espace à n dimensions en deux.
    • En un sens, dans l’espace euclidien à n dimensions, la boule est un objet plus naturel que le cube.
      Dès qu’on introduit une distance, le cube devient une construction artificielle.
      Même s’il reste un élément naturel dans un simple espace produit.
    • Le texte original dit aussi cela juste après le cours de Hamming :
      « Il vaut donc mieux dire non pas que la boule à n dimensions est pointue, mais que l’espace qui l’entoure croît plus vite qu’elle. »
  • C’est un très bon exemple de la malédiction de la dimension.
    https://en.m.wikipedia.org/wiki/Curse_of_dimensionality
    • Il est intéressant de voir comment cela se relie aux lois de mise à l’échelle des LLM.
  • Je ne sais pas pourquoi j’ai imaginé que cet article porterait simplement sur deux formes qui sont topologiquement des n-boules.
    Une situation où chacune est en contact avec l’une des deux demi-(n-1)-sphères situées sur la frontière d’une certaine n-boule, sans autre intersection.
    En 3D, ce serait un peu comme prendre une boule et deux morceaux d’argile de couleurs différentes, puis presser chaque morceau sur une moitié de la surface de la boule, tout en faisant en sorte que chaque morceau d’argile reste topologiquement une 3-boule.
    En fait, je ne sais même pas s’il y aurait quelque chose d’intéressant à raconter là-dessus.
  • Impressionnant et utile.
    Il est maintenant temps de refaire mon embedding pour pouvoir attraper cette boule rouge à n dimensions avec ma nouvelle main à n dimensions.
  • Pour voir d’autres discussions HN sur ce phénomène, on peut consulter d’anciens posts soumis sur le même sujet.
    Ils n’ont pas de super animation, mais l’article date d’il y a 14 ans.
    https://news.ycombinator.com/item?id=12998899
    https://news.ycombinator.com/item?id=3995615
    Et il y en a aussi un du 29 octobre 2010.
    https://news.ycombinator.com/item?id=1846682
  • J’ai du mal à faire rouler ces boules dans ma tête.
    Existe-t-il davantage de ressources de visualisation intermédiaire qui aident à construire cette intuition ?
    L’article est vraiment très bien, mais j’ai hâte de partager cette absurdité concrétisée où, lorsqu’on regarde une structure à 10 dimensions entièrement diagonalisée sous forme de coupe 3D, la boîte verte de la boule rouge se retrouve masquée.
    • Ce qui est étrange, ce n’est pas la sphère rouge, mais l’hypercube.
      Placer les sphères bleues de façon qu’elles soient tangentes à l’hypercube est une construction artificielle, qui ne donne l’impression « d’entourer » la sphère rouge qu’en basse dimension.
      Si notre intuition se trompe, c’est parce que nous pensons mal le problème.
      On se dit que « la sphère rouge devrait être enfermée dans la boîte », mais en n dimensions, il n’y a aucune raison géométrique à cela.
  • On peut dire que l’animation m’a littéralement fait exploser le cerveau.
    • Il y a eu des moments assez corsés avec la trigonométrie.
  • Numberphile avait publié une vidéo sur ce sujet il y a quelque temps.
    https://youtu.be/mceaM2_zQd8?si=0xcOAoF-Bn1Z8nrO