- Safe Superintelligence (SSI), cofondée récemment par Ilya Sutskever, ancien chief scientist d’OpenAI, a levé 1 milliard de dollars en numéraire pour aider à développer des systèmes d’IA sûrs dépassant largement les capacités humaines
- SSI compte actuellement 10 employés et prévoit d’utiliser ces fonds pour sécuriser de la puissance de calcul et recruter les meilleurs talents
- L’entreprise prévoit de se concentrer sur la constitution d’une petite équipe de chercheurs et d’ingénieurs de confiance à Palo Alto, en Californie, et à Tel Aviv, en Israël
- L’entreprise n’a pas communiqué sa valorisation, mais selon des sources proches du dossier, elle aurait été évaluée à 5 milliards de dollars
- Cette levée montre que certains investisseurs restent prêts à prendre des paris audacieux sur des talents d’exception concentrés sur la recherche fondamentale en IA
- Parmi les investisseurs figurent de grandes sociétés de capital-risque comme Andreessen Horowitz, Sequoia Capital, DST Global et SV Angel
- Le partenariat d’investissement NFDG dirigé par Nat Friedman, ainsi que Daniel Gross, CEO de SSI, ont également participé
- La sécurité de l’IA est un sujet brûlant, dans un contexte d’inquiétudes selon lesquelles l’IA pourrait agir à l’encontre des intérêts de l’humanité ou provoquer son extinction
- Un projet de loi en Californie pousse à imposer des règles de sécurité aux entreprises, ce qui divise le secteur
- OpenAI et Google s’y opposent, tandis qu’Anthropic et xAI d’Elon Musk le soutiennent
- Sutskever est l’un des techniciens les plus influents du secteur de l’IA
- Il a cofondé SSI en juin avec Daniel Gross et Daniel Levy
- Sutskever est chief scientist, Levy scientist en chef, et Gross est en charge de la puissance de calcul et de la levée de fonds
Nouvelle montagne
- Sutskever a déclaré avoir lancé cette nouvelle entreprise parce qu’il avait « découvert une montagne un peu différente de ce sur quoi je travaillais »
- L’an dernier, en tant que membre du conseil d’administration de la maison mère à but non lucratif d’OpenAI, il avait voté pour évincer le CEO d’OpenAI Sam Altman pour cause de « rupture de communication »
- Quelques jours plus tard, il est revenu sur sa décision et a signé, avec presque tous les employés d’OpenAI, une lettre appelant au retour d’Altman et à la démission du conseil
- Mais cet épisode a réduit son rôle, il a été écarté du conseil et a quitté l’entreprise en mai
- Après le départ de Sutskever, l’entreprise a dissous l’équipe de « superalignment », chargée de faire en sorte que l’IA reste alignée avec les valeurs humaines en prévision du jour où elle dépasserait l’intelligence humaine
- Contrairement à la structure d’entreprise atypique d’OpenAI, mise en place pour la sécurité de l’IA mais qui a permis l’éviction d’Altman, SSI adopte une structure commerciale classique
- SSI est actuellement très concentrée sur le recrutement de personnes en adéquation avec la culture de l’entreprise
- L’entreprise prend le temps de vérifier si les candidats ont « un bon caractère » et cherche des profils dotés de capacités exceptionnelles plutôt que de survaloriser les diplômes et l’expérience sectorielle
- « Découvrir des personnes qui s’intéressent au travail mais pas au contexte autour ni au battage excessif, c’est ce qui nous enthousiasme », a ajouté Gross
- SSI prévoit de collaborer avec des fournisseurs cloud et des fabricants de puces pour répondre à ses besoins en puissance de calcul, mais n’a pas encore décidé avec quelles entreprises elle travaillera
- Les startups d’IA collaborent souvent avec des entreprises comme Microsoft ou Nvidia pour répondre à leurs besoins en infrastructure
- Sutskever a été l’un des premiers soutiens de l’hypothèse de scaling selon laquelle les performances des modèles d’IA s’améliorent lorsqu’on leur alloue d’énormes quantités de puissance de calcul
- Cette idée et son exécution ont déclenché une vague d’investissements dans les puces, les data centers et l’énergie pour l’IA, et ont posé les bases d’avancées comme ChatGPT
- Il a indiqué qu’il aborderait le scaling différemment de son ancien employeur, sans toutefois en partager les détails
- « Tout le monde parle simplement de l’hypothèse de scaling. Personne ne demande ce que nous sommes en train de scaler », a-t-il déclaré
-
« Certaines personnes peuvent travailler très longtemps et simplement aller plus vite dans la même direction. Ce n’est pas notre style. Mais si l’on fait quelque chose de différent, on peut faire quelque chose de spécial. »
L’avis de GN⁺
- Cet investissement illustre l’importance de la recherche fondamentale en IA et la valeur des talents. Alors que de nombreuses startups de l’IA peinent à lever de gros montants, SSI a obtenu un financement massif grâce à la reconnaissance des capacités de ses fondateurs
- Les questions de sécurité de l’IA deviennent un enjeu majeur avec le développement rapide de l’IA générative comme ChatGPT. Cependant, réglementer de manière excessive le développement de l’IA au nom de la sécurité pourrait freiner l’innovation, d’où la nécessité d’une approche équilibrée
- SSI a indiqué vouloir poursuivre une stratégie de scaling différente des approches existantes, mais les détails n’ont pas été dévoilés, ce qui suscite l’attention. On peut s’attendre à une nouvelle manière de développer des modèles d’IA
- Le conflit entre Sutskever et OpenAI est regrettable, mais il semble qu’une nouvelle plateforme ait été créée pour mettre à profit son talent et sa vision. Il faudra observer quel impact SSI aura sur l’évolution future de l’IA
- Bien qu’il s’agisse d’une jeune startup, la stratégie de recrutement de SSI est intéressante. Privilégier les compétences et les valeurs plutôt que le diplôme ou le parcours semble aller dans le bon sens. Reste à voir si cette approche sera efficace dans un contexte de forte concurrence pour attirer les talents de l’IA
3 commentaires
Wouah, l’homme aux 100 millions de dollars !!!
1,3 billion de wons levés seulement deux mois après la création de l’entreprise... le marché fait peur.
Après son départ d’OpenAI, Ilya Sutskever crée Safe Superintelligence Inc.
Avis sur Hacker News
Curiosité sur la manière dont les entreprises financées dans l’IA vont générer des revenus
En tant que CFO, interrogation sur la gestion à court et moyen terme de $1B de liquidités
Une levée de fonds comparable à OpenAI, mais SSI ne lancerait pas de produit unique avant d’avoir atteint la superintelligence
Un investissement de $1,000,000,000 pourrait déformer la vision de SafeAI en matière de sécurité
Le soutien financier d’a16z peut être un signal que le secteur n’est plus aussi brûlant qu’avant
Beaucoup de gens supposent que l’objectif est un très grand LLM
Sam Bankman-Fried a levé des fonds à des multiples plus élevés
Pas de certitude sur la possibilité de construire une AGI
Incompréhension face à la facilité avec laquelle l’IA « sûre » peut lever autant d’argent
C’est l’un des cas ayant atteint très vite une valorisation de plus d’un milliard de dollars