38 points par xguru 2023-03-07 | 7 commentaires | Partager sur WhatsApp
  • En 2022, les personnes du monde académique et de l’industrie de l’IA étaient dans une sorte de dépression collective : trop de choses extraordinaires sont apparues dans le monde
  • Notre point d’arrivée ultime à tous : l’Artificial General Intelligence
  • Singularity : la prévision initiale était 2045. Mais maintenant ?
  • Google vs Bing : une compétition du siècle relancée par l’IA semble sur le point de recommencer
  • Le business de la recherche : la recherche est le plus gros business de l’industrie du logiciel
  • Les services basés sur les LLM sont fondamentalement une bataille d’infrastructure de calcul
  • Jusqu’à GPT-3, on parlait surtout de training, mais le serving est un jeu totalement différent
  • Google : ce qu’on apprend d’un futur arrivé un peu trop tôt
  • Pourquoi autant de papers sortent-ils des Big Tech ?
  • S’il existe une infrastructure qui a rendu possibles tous les services de Google... c’est bien BORG
  • Le deep learning est une abstraction mathématique de la structure du cerveau
  • La phrase que je considère comme l’essence de ce terrain de jeu :
    • L’IA, c’est de la "computation".
    • L’intelligence, c’est de la "computation".
  • Qu’est-ce qui rend possible l’In-Context Learning ?
  • Le processus d’entraînement d’un modèle relève moins de la recherche que de l’engineering et du hacking
  • La forme d’une entreprise de services ONLINE traditionnelle
  • La forme d’une entreprise de services IA
  • Le niveau de compétence exigé d’un PM dans une entreprise de services IA est très élevé
  • Right Talent : Leader, Engineer
  • Faut-il construire un LLM ? Ne pas se lancer peut aussi être le choix le plus sûr.
  • La mise au poker est trop élevée
  • Au final, les deux éléments les plus essentiels semblent être les suivants.
    • Infrastructure de calcul
    • Right Talent

Part 2. Expérience de pensée

  • Expérience de pensée sur l’IA sous l’angle business
  • La question la plus importante : qui gagnera de l’argent ?
  • Dans l’industrie de l’IA, la capture de valeur ne se produit qu’à deux endroits précis
  • Les 3 éléments de 2018 : Data, Technology(Algorithm), Service
    -> Les 3 éléments de 2020 : Service, Algorithm, Compute
  • Le format de Tesla AI Day est lui aussi toujours structuré selon ces trois catégories : Service, Algorithm, Compute
  • Les progrès de l’Algorithm
  • La compétition extrême dans le monde académique – qui atteindra le pôle Sud en premier ?
  • Résumé intermédiaire
    • L’Algorithm devient rapidement une commodité.
    • Le prix du Compute baisse rapidement.
    • Les Propriety Data constituent le plus grand facteur de différenciation.
  • Prévisions sur l’avenir de l’industrie de l’IA
    • Prédiction : l’ère de l’“Intelligence As a Service” va arriver
    • Prédiction : des entreprises de services IA comme TESLA finiront par posséder, une à une, de grandes verticales
  • Deux orientations possibles pour le futur -> un monde sans milieu
    • Industrie des API d’AGI
      • Des startups qui font du business au-dessus des API des grandes entreprises
      • Quel avenir pour ces entreprises ?
    • Industrie Full-Stack/Vertical
      • Investissements de longue date en amont dans la Data Pipeline -> TESLA a eu de la chance
      • Intégration verticale rendue possible par l’IA
  • Révision de la réflexion en 2023 -> il ne restera que les services AGI.
    • Les services AGI deviendront en pratique le futur de la Search et de l’E-commerce.

7 commentaires

 
yantras 2023-03-13

Merci pour cette excellente ressource.

 
pseudojo 2023-03-09

Merci pour cet excellent article !

 
ninebow 2023-03-08

En cherchant, j’ai vu qu’il s’agit d’un document rédigé et publié par Roh Jung-seok, qui avait autrefois créé Tattertools.

Vous pouvez consulter ci-dessous la publication Facebook qu’il avait partagée avec les slides. :smiley:

https://facebook.com/chester.roh/posts/…

\
Comme il a également rendu publics à la fin du billet les slides qu’il avait réalisés sur le même sujet en 2018 et 2021, je les ajoute aussi ici.

ps.
Je partage aussi les anciennes versions du document sur l’IA sous l’angle business. 2018, 2021, 2023... Je pense qu’elles vous permettront de comparer facilement ce qui a changé et ce qui n’a pas changé.

https://drive.google.com/file/d/1KuTaOsaq-8FGr4i0DssV5jXTWWSIX5zK/view

https://drive.google.com/file/d/1a0LPMoC4UwiWuLHC2w_kDMxwUKhcowPs/view

 
munidev 2023-03-08

J’aimerais voir le post original, mais il ne s’ouvre pas ouin ouin

 
xguru 2023-03-08

Ah, c’est un fichier Google Drive. J’ai cru qu’il avait peut-être été supprimé, mais il s’ouvre encore très bien.

 
munidev 2023-03-08

Ah oui, je le vois, merci !! :)

 
inthelife 2023-03-07

Merci pour ce bon article. Il donne vraiment matière à réflexion ^^