- « Notre mission est de faire en sorte que l’intelligence artificielle générale (AGI), généralement plus intelligente que les humains — des systèmes d’IA — puisse bénéficier à toute l’humanité. »
- « Si l’AGI est développée avec succès, cette technologie pourrait contribuer à améliorer l’humanité en favorisant l’abondance, en dynamisant l’économie mondiale et en soutenant la découverte de nouvelles connaissances scientifiques qui repousseront les limites du possible. »
- « À l’inverse, l’AGI peut aussi s’accompagner de risques graves, pouvant entraîner des usages malveillants, des accidents majeurs et des perturbations sociales. Étant donné l’ampleur potentielle de ses bénéfices, nous pensons qu’il n’est ni possible ni souhaitable que la société interrompe définitivement son développement ; à la place, la société et les développeurs d’AGI doivent trouver la bonne manière d’avancer. »
- Principes importants
- Nous voulons que l’AGI donne à l’humanité les moyens de prospérer autant que possible dans l’univers. Nous ne nous attendons pas à ce que l’avenir soit une utopie parfaite, mais nous voulons maximiser le positif et minimiser le négatif afin que l’AGI devienne un amplificateur de l’humanité.
- Nous voulons que les bénéfices, l’accessibilité et la gouvernance de l’AGI soient partagés largement et équitablement.
- Nous voulons traverser avec succès des risques immenses. Face à ces risques, nous reconnaissons que ce qui paraît juste en théorie évolue souvent dans la pratique de façon plus étrange qu’attendu. Nous pensons qu’il faut déployer des versions moins puissantes de la technologie pour apprendre et s’adapter en continu, afin de minimiser les « échecs uniques ».
Sommaire
- Court terme (plan)
- À mesure que les systèmes se rapprochent de l’AGI, nous faisons preuve de davantage de prudence dans la création et le déploiement des modèles.
- Nous avons cherché à mettre en place une structure qui aligne les incitations avec de bons résultats.
- Long terme (plan)
Aucun commentaire pour le moment.