Lancement de Silurian (YC S24) – technologie de simulation de la Terre

• Silurian développe un modèle de fondation pour la simulation de la Terre et a choisi comme premier domaine d’application la prévision météo, où chaque gain de rapidité dans les prévisions a une grande valeur
• Les prévisions météo traditionnelles se sont améliorées d’environ 1 jour tous les 10 ans, mais les GPU récents et le deep learning moderne ont accéléré ce rythme
• Depuis 2022, des acteurs comme NVIDIA, Google DeepMind, Huawei et Microsoft mènent activement des recherches sur la prévision météo basée sur le deep learning, et les modèles pilotés par les données peuvent produire de meilleurs résultats que les simulations traditionnelles de physique atmosphérique
• Le GFT (Generative Forecasting Transformer), conçu à partir de l’expérience de Microsoft sur ClimaX et Aurora, simule la météo mondiale jusqu’à 14 jours à l’avance avec une résolution d’environ 11 km
• L’objectif à long terme est de modéliser aussi les infrastructures affectées par la météo — comme les réseaux électriques, l’agriculture, la logistique et la défense — et l’entreprise publie actuellement ses prévisions de trajectoire des ouragans pour 2024

---

Commencer la simulation de la Terre par la prévision météo

• Silurian est une équipe fondée par Jayesh, Cris et Nikhil, qui développe un modèle de fondation pour la simulation de la Terre
• Le premier domaine d’application est la prévision météo, et les récents résultats de prévision des ouragans sont visibles sur hurricanes2024.silurian.ai
• L’objectif est d’étendre le modèle et de le pousser jusqu’aux limites physiquement prévisibles
• À long terme, l’entreprise veut aussi modéliser les infrastructures affectées par la météo
  • réseaux électriques
  • agriculture
  • logistique
  • défense

Prévision par deep learning et performances actuelles de GFT

• Les systèmes de prévision traditionnels ont progressé d’environ 1 jour tous les 10 ans : une prévision à 6 jours aujourd’hui atteignant à peu près la précision d’une prévision à 5 jours il y a 10 ans
• Depuis 2022, la recherche sur les systèmes météo en deep learning s’est fortement accélérée chez NVIDIA, Google DeepMind, Huawei, Microsoft et d’autres
• Ces modèles intègrent peu, voire pas du tout, de lois physiques explicites et apprennent à prévoir uniquement à partir des données
• Jayesh et Cris ont chacun dirigé chez Microsoft les projets ClimaX et Aurora, ce qui leur a permis d’expérimenter directement le potentiel de cette technologie
  • Ces modèles de fondation ont obtenu de meilleurs résultats que les prévisions de l’ECMWF, considérées comme la référence en prévision météo
  • Les données d’entraînement utilisées ne représentaient qu’une partie des données disponibles
• Cet été, Silurian a construit son propre modèle de fondation, le GFT (Generative Forecasting Transformer)
  • Il s’agit d’un modèle de pointe de 1,5 milliard de paramètres
  • Il simule la météo mondiale jusqu’à 14 jours à l’avance
  • Sa résolution est d’environ 11 km
• Les archives historiques contiennent peu de données sur les événements météorologiques extrêmes, mais GFT affiche déjà de très bonnes performances pour la prévision des trajectoires d’ouragans en 2024
• Les prévisions d’ouragans peuvent être consultées directement sur hurricanes2024.silurian.ai
• La visualisation utilise l’outil open source de visualisation météo cambecc/earth

[GN⁺]

Commentaires Hacker News

• Ravi de pouvoir faire de la prévision d’ensemble des cyclones tropicaux

  • Déçu par la comparaison entre les modèles ML et le modèle HRES de l’ECMWF
  • HRES est une réalisation unique d’une météo possible, et non la meilleure estimation du temps moyen
  • NeuralGCM figure parmi les meilleurs du classement WeatherBench
  • J’aimerais comparer les performances des modèles sur WeatherBench

• Les modèles sans physique intégrée font de meilleures prévisions à partir des seules données

  • L’adage de la NLP selon lequel « à chaque linguiste licencié, les performances augmentent » s’applique aussi aux physiciens

• Silurian construit un modèle de fondation pour simuler la Terre

  • Je me demande ce qu’ils voudraient simuler d’autre si cela réussit

• Enthousiaste quant au potentiel commercial de ClimaX

  • Je me demande si certains secteurs les ont contactés au sujet de ce potentiel commercial (par ex. l’exploration de ressources naturelles)

• En tant qu’organisation à but non lucratif, nous construisons un modèle similaire pour les terres émergées

  • J’aimerais aider à remplacer le masque terrestre par un embedding terrestre
  • Cela aiderait énormément à faire du downscaling des effets régionaux

• Je me demande en quoi cela diffère de GraphCast, lancé par Google l’an dernier

• Les modèles météo me laissent perplexe

  • Je me demande si les approches ML sont numériquement plus stables que les simulations fondées sur la physique
  • Je me demande comment elles se comparent en termes d’exigences de calcul
  • J’ai déjà eu l’expérience de convertir des modèles de FORTRAN vers Verilog

• Je me demande si cette approche a déjà été appliquée aux séismes, qui sont imprévisibles

• Cette approche semble être un autre exemple de « The Bitter Lesson »

• Je me demande ce qu’ils simuleront d’autre à l’avenir

  • J’ai construit à San Francisco une démo qui permet de rechercher des objets en langage naturel
  • J’ai essayé les embeddings Clay, mais ils étaient moins performants que des embeddings de légendes OSM affinés avec CLIP