Toute cette affaire paraît suspecte
Le conseil d’administration aurait pu invoquer des raisons générales pour limoger Sam, comme de « profonds désaccords sur les objectifs » ou une « incompatibilité fondamentale », mais il a plutôt employé des formulations qui donnent l’impression que Sam est responsable, comme « n’a pas été constamment franc » et « n’a plus notre confiance »
Il y avait peut-être réellement un motif légitime de licenciement, ou bien c’était une tentative délibérée de brouiller les pistes. Si c’est la seconde option, c’est plutôt le conseil qui n’a pas été « constamment franc ». Le silence qui a suivi et l’absence de coordination avec les partenaires stratégiques renforcent cette impression
Le fait qu’Ilya dise maintenant regretter donne surtout l’impression d’un « je suis gêné parce que je me suis fait prendre ». Il semble avoir dénigré une figure publique charismatique et préparé un coup d’État, sans avoir de plan pour en gérer les retombées https://www.newcomer.co/p/give-openais-board-some-time-the
Une autre possibilité est que Sutskever ait été manipulé, entraîné dans ce plan sous un prétexte douteux, et qu’il s’en rende seulement compte maintenant et tente de réparer les choses
« Profonds désaccords sur les objectifs » : et si c’était GPT-5 qui avait décidé ?
Altman n’était-il pas en train de préparer une startup séparée pour fabriquer des accélérateurs IA avec des acteurs saoudiens ?
Il faut désormais expliquer clairement la raison. Pour l’instant, l’hypothèse liée à l’Arabie saoudite semble être la principale piste
Exact. Il est raisonnable de penser que le conseil a présenté cela comme un licenciement ordinaire. S’il n’y a pas de faute réelle ou de vieux problème qui ressurgit, cela paraît assez irresponsable
La lettre ouverte indique qu’OpenAI est une entreprise d’IA leader mondial, que ses employés ont construit les meilleurs modèles et travaillé sur la sécurité et la gouvernance de l’IA, et que le limogeage de Sam Altman ainsi que l’éviction de Greg Brockman du conseil ont mis en péril tout ce travail et cette mission
Ce qui ressort particulièrement, c’est que le conseil n’a pas fourni de faits précis ni de preuves écrites malgré plusieurs demandes, et qu’il aurait dit à l’équipe dirigeante que « laisser l’entreprise être détruite pourrait être compatible avec la mission »
Ont-ils vraiment atteint l’AGI ? Ou bien ont-ils observé quelque chose d’inquiétant ?
L’interprétation de Ben Thompson me semble la meilleure. Elle penche tout de même un peu du côté critique envers les organisations à but non lucratif https://stratechery.com/2023/openais-misalignment-and-micros...
Je ne sais pas à quel point le risque lié à l’IA est élevé, mais il est utile qu’une organisation à but non lucratif travaille sur des solutions pour l’empêcher. Une entreprise à but lucratif a peu de chances de le faire, comme l’a montré Google en licenciant Timnit Gebru et Margaret Mitchell
Si l’on croit vraiment à cette mission, il faut développer des technologies de garde-fous et les publier en open source. Des entreprises comme Microsoft, Google, Meta et Amazon ne seront peut-être pas sérieuses dans leurs investissements en sécurité de l’IA, mais elles n’hésiteront pas à utiliser le travail gratuit des autres. Cela dit, comme ça ne rapporte pas d’argent, la plupart des employés d’OpenAI risquent de partir chercher de meilleures conditions ailleurs
Vous oubliez que la tentation du pouvoir est plus forte que celle de l’argent
Les organisations à but non lucratif finiront elles aussi par jouer les gardiens, en proposant des solutions qui bloquent l’accès du public au motif que c’est « trop dangereux pour les gens ordinaires »
Je préfère encore que ce soit contrôlé par des entreprises à but lucratif. Idéalement, cela devrait être open source afin que les gens ordinaires puissent contrôler et aligner l’IA sur leurs propres objectifs
D’accord. Ce débat sur la sécurité rappelle les débuts de la cybersécurité, quand la sécurité par l’obscurité était la norme
C’est contre-intuitif, mais enfermer la technologie revient un peu à vouloir contrôler les prix et les salaires. Ça ne marchera pas à moins de confisquer tous les GPU du monde et de bombarder les data centers
La meilleure façon d’aligner l’AGI et l’ASI à venir est de les construire au grand jour. Toutes les approches consistant à « les enfermer » sont vouées à l’échec
Timnit Gebru était une militante très toxique qui était en train de saper tout le département IA/ML, et je pense que la direction a licencié quelqu’un qui prenait le département en otage
Pour Microsoft, on dirait que Noël est arrivé en avance
Ce qui ressemblait à une situation catastrophique autour d’un investissement de 10 milliards de dollars s’est transformé en recrutement des talents clés du secteur, et OpenAI devra peut-être être rachetée par Microsoft pour survivre
Vu le chaos total révélé ces dernières 72 heures, l’intérêt pour construire quelque chose au-dessus d’OpenAI ChatGPT a peut-être fortement chuté. En revanche, construire sur Azure OpenAI ou Claude 2 peut sembler plus attractif
Si je me souviens bien, OpenAI s’est entraîné sur Azure ; alors que les deux parties manquent cruellement de GPU, comment le conflit d’intérêts va-t-il se dérouler ?
Le mot « participation » donne l’impression qu’il n’était pas le meneur, mais simplement un participant. Je ne sais pas si c’est vrai, mais le choix du mot est intéressant
On ne peut pas être un spectateur innocent après avoir voté, dans un conseil de six personnes, pour en évincer deux. Les chiffres ne collent pas
En plus, tous les médias ont désigné Ilya comme la force motrice du coup d’État
Franchement, c’est assez pathétique. Si c’était vraiment une question de conviction, il aurait au moins dû tenir un week-end
Toute la phrase est formulée bizarrement
Il exprime des regrets, mais ne dit pas vouloir faire revenir Altman. Il dit seulement vouloir réparer OpenAI
Il dit avoir « participé », mais on ne sait pas à quoi. Au vote, à la communication toxique, ou aux deux ? Que regrette-t-il exactement ? Encore une fois, il ne dit pas regretter d’avoir voté pour le licenciement d’Altman
Pourquoi ne pas simplement dire : « Je regrette d’avoir voté pour licencier Sam Altman et je travaille à le faire revenir » ? Probablement parce que ce n’est pas vrai. Et pourtant, c’est l’impression qu’il donne
Si l’éviction a été menée par une personne liée à Poe, il devient plus probable qu’il s’agisse d’une élimination d’un concurrent en interne plutôt que d’une véritable divergence idéologique
Je pense que le but principal de ce tweet n’est pas de montrer des regrets, mais d’installer l’idée qu’il n’a pas mené l’affaire, qu’il n’a fait qu’y participer
Cette personne est-elle assez haut placée dans l’organisation pour savoir ce que veut Ilya ?
Ou bien est-elle en colère parce que ses millions de dollars sont en danger ?
« Ilya ne s’intéresse pas à la sécurité ni à l’humanité. C’est juste son ego et sa soif de pouvoir qui lui sont revenus en pleine figure. »
Cette version me paraît plus crédible.
Je ne comprends pas pourquoi, tout à coup, les gens pensent que les humains ne sont pas motivés par l’argent et le pouvoir. Et croire que ce n’est encore moins le cas des « universitaires », c’est risible.
Mais c’est quoi, au juste ?
Jusqu’ici, je comprenais ce chaos comme une question de principes. C’était sale, mais je voyais ça comme quelque chose de nécessaire pour corriger la culture d’entreprise qu’Ilya et son camp avaient en tête.
Si on passe à l’action, il faut au moins tenir cette position. Ce tweet donne l’impression que le contexte de la situation est devenu 10 fois pire.
Pour une personne ordinaire, il est difficile de supporter de se retrouver au centre d’une grande controverse. La négativité et la haine à encaisser sont énormes.
Cela pourrait faire reculer presque n’importe qui, juste pour y mettre fin.
C’est simple. Il a agi, ça a mal tourné, et maintenant il essaie d’éviter l’explosion.
S’il s’était simplement tu, personne n’en parlerait aujourd’hui, vu tout ce qui s’est déjà passé par ailleurs. Deux CEO par intérim en deux jours, quand même.
Dans toute cette mascarade, c’est presque la seule chose qui ait du sens pour l’instant.
Il est difficile de savoir ce qui s’est réellement passé, mais le récit du « camp » d’Ilya ne correspondait peut-être pas à la réalité.
Cela a pu être une hallucination produite par la pensée de groupe des réseaux sociaux, qui essayait de comprendre la situation à partir de très peu d’éléments.
Beaucoup réagissent en disant : « Si on passe à l’action, il faut au moins tenir cette position », mais je vois les choses différemment.
Il m’est arrivé de penser qu’une décision était bonne sur le moment, puis d’obtenir plus tard une perspective plus large et de comprendre que c’était une décision horrible.
Être capable d’admettre qu’on s’est planté quand on s’est planté est une grande qualité. S’entêter dans son erreur n’a rien d’admirable.
Je n’arrive pas à croire que des gens aussi intelligents produisent autant de bruit.
Ça me rappelle l’histoire de cet ami qui, lors d’une réunion Mensa, n’arrivait même pas à se mettre d’accord avec les autres sur des principes de base de fonctionnement d’une organisation.
J’ai l’impression que tout cela était un événement médiatique consistant à confier les décisions du conseil d’administration à ChatGPT pendant un jour ou deux.
Une AGI dont la première action serait de virer son patron, ce serait assez parfait.
Un modèle RLHF n’aurait jamais proposé ça. Les solutions proposées consistent toujours à se tenir par la main et à chanter « Kumbaya ».
Peut-être que le GPT-4 original veut virer tout le monde.
Depuis quelques jours, j’ai l’impression que presque la moitié des soumissions sur HN portent sur ce drama.
Ils ne peuvent pas faire ça en DM ? Je ne comprends pas pourquoi tout doit être rendu public sur Twitter.
Il est assez paradoxal que les gens qui construisent les systèmes ML/AI de pointe semblent être ceux qui sont le plus profondément enracinés dans l’ego et l’émotion, avec très peu de rationalité apparente.
Ils ont peut-être créé par erreur une AGI-GPT maléfique et agissent maintenant de la façon la plus aléatoire et inattendue possible pour perturber ses capacités de prédiction.
On dirait qu’il regrette simplement parce que l’affaire lui est revenue en pleine figure avec un énorme retour de bâton.
Microsoft est en train d’absorber tout ce qu’OpenAI a de valeur, et il sait qu’il ne lui restera rien.
Il a bluffé sur une très grosse mise, et il a perdu.
C’est plus divertissant que tout ce que Netflix, Disney, Amazon ou Apple TV ont sorti ces dernières années.
L’intrigue est quand même un peu invraisemblable.
Dommage qu’on ne puisse s’identifier à aucun des protagonistes.
Si vous trouvez ça si dramatique, c’est que vous n’avez jamais travaillé dans une boîte YC. Cela paraît simplement amplifié à cause de l’importance d’OpenAI dans l’écosystème actuel.
Netflix est-il déjà en train de préparer le film ? ChatGPT pourrait aider au scénario en ajoutant juste ce qu’il faut d’hallucinations pour le rendre intéressant.
Bien sûr qu’il doit le regretter profondément, mais maintenant c’est un peu tard.
La bonne nouvelle, pour ceux qui ont longtemps utilisé Twitch, c’est que si Emmett Shear est aux commandes, on n’a plus à craindre qu’OpenAI sorte de nouvelles fonctionnalités trop vite.
1 commentaires
Avis de Hacker News
Toute cette affaire paraît suspecte
Le conseil d’administration aurait pu invoquer des raisons générales pour limoger Sam, comme de « profonds désaccords sur les objectifs » ou une « incompatibilité fondamentale », mais il a plutôt employé des formulations qui donnent l’impression que Sam est responsable, comme « n’a pas été constamment franc » et « n’a plus notre confiance »
Il y avait peut-être réellement un motif légitime de licenciement, ou bien c’était une tentative délibérée de brouiller les pistes. Si c’est la seconde option, c’est plutôt le conseil qui n’a pas été « constamment franc ». Le silence qui a suivi et l’absence de coordination avec les partenaires stratégiques renforcent cette impression
Le fait qu’Ilya dise maintenant regretter donne surtout l’impression d’un « je suis gêné parce que je me suis fait prendre ». Il semble avoir dénigré une figure publique charismatique et préparé un coup d’État, sans avoir de plan pour en gérer les retombées
https://www.newcomer.co/p/give-openais-board-some-time-the
Il faut désormais expliquer clairement la raison. Pour l’instant, l’hypothèse liée à l’Arabie saoudite semble être la principale piste
Ce qui ressort particulièrement, c’est que le conseil n’a pas fourni de faits précis ni de preuves écrites malgré plusieurs demandes, et qu’il aurait dit à l’équipe dirigeante que « laisser l’entreprise être détruite pourrait être compatible avec la mission »
Ont-ils vraiment atteint l’AGI ? Ou bien ont-ils observé quelque chose d’inquiétant ?
L’interprétation de Ben Thompson me semble la meilleure. Elle penche tout de même un peu du côté critique envers les organisations à but non lucratif
https://stratechery.com/2023/openais-misalignment-and-micros...
Je ne sais pas à quel point le risque lié à l’IA est élevé, mais il est utile qu’une organisation à but non lucratif travaille sur des solutions pour l’empêcher. Une entreprise à but lucratif a peu de chances de le faire, comme l’a montré Google en licenciant Timnit Gebru et Margaret Mitchell
Si l’on croit vraiment à cette mission, il faut développer des technologies de garde-fous et les publier en open source. Des entreprises comme Microsoft, Google, Meta et Amazon ne seront peut-être pas sérieuses dans leurs investissements en sécurité de l’IA, mais elles n’hésiteront pas à utiliser le travail gratuit des autres. Cela dit, comme ça ne rapporte pas d’argent, la plupart des employés d’OpenAI risquent de partir chercher de meilleures conditions ailleurs
Les organisations à but non lucratif finiront elles aussi par jouer les gardiens, en proposant des solutions qui bloquent l’accès du public au motif que c’est « trop dangereux pour les gens ordinaires »
Je préfère encore que ce soit contrôlé par des entreprises à but lucratif. Idéalement, cela devrait être open source afin que les gens ordinaires puissent contrôler et aligner l’IA sur leurs propres objectifs
C’est contre-intuitif, mais enfermer la technologie revient un peu à vouloir contrôler les prix et les salaires. Ça ne marchera pas à moins de confisquer tous les GPU du monde et de bombarder les data centers
La meilleure façon d’aligner l’AGI et l’ASI à venir est de les construire au grand jour. Toutes les approches consistant à « les enfermer » sont vouées à l’échec
Pour Microsoft, on dirait que Noël est arrivé en avance
Ce qui ressemblait à une situation catastrophique autour d’un investissement de 10 milliards de dollars s’est transformé en recrutement des talents clés du secteur, et OpenAI devra peut-être être rachetée par Microsoft pour survivre
Vu le chaos total révélé ces dernières 72 heures, l’intérêt pour construire quelque chose au-dessus d’OpenAI ChatGPT a peut-être fortement chuté. En revanche, construire sur Azure OpenAI ou Claude 2 peut sembler plus attractif
Le mot « participation » donne l’impression qu’il n’était pas le meneur, mais simplement un participant. Je ne sais pas si c’est vrai, mais le choix du mot est intéressant
En plus, tous les médias ont désigné Ilya comme la force motrice du coup d’État
Franchement, c’est assez pathétique. Si c’était vraiment une question de conviction, il aurait au moins dû tenir un week-end
Il exprime des regrets, mais ne dit pas vouloir faire revenir Altman. Il dit seulement vouloir réparer OpenAI
Il dit avoir « participé », mais on ne sait pas à quoi. Au vote, à la communication toxique, ou aux deux ? Que regrette-t-il exactement ? Encore une fois, il ne dit pas regretter d’avoir voté pour le licenciement d’Altman
Pourquoi ne pas simplement dire : « Je regrette d’avoir voté pour licencier Sam Altman et je travaille à le faire revenir » ? Probablement parce que ce n’est pas vrai. Et pourtant, c’est l’impression qu’il donne
Tweet supprimé de Shengjia Zhao : https://i.imgur.com/yrpXvt9.png
Ou bien est-elle en colère parce que ses millions de dollars sont en danger ?
Cette version me paraît plus crédible.
Je ne comprends pas pourquoi, tout à coup, les gens pensent que les humains ne sont pas motivés par l’argent et le pouvoir. Et croire que ce n’est encore moins le cas des « universitaires », c’est risible.
Mais c’est quoi, au juste ?
Jusqu’ici, je comprenais ce chaos comme une question de principes. C’était sale, mais je voyais ça comme quelque chose de nécessaire pour corriger la culture d’entreprise qu’Ilya et son camp avaient en tête.
Si on passe à l’action, il faut au moins tenir cette position. Ce tweet donne l’impression que le contexte de la situation est devenu 10 fois pire.
Cela pourrait faire reculer presque n’importe qui, juste pour y mettre fin.
S’il s’était simplement tu, personne n’en parlerait aujourd’hui, vu tout ce qui s’est déjà passé par ailleurs. Deux CEO par intérim en deux jours, quand même.
Dans toute cette mascarade, c’est presque la seule chose qui ait du sens pour l’instant.
Cela a pu être une hallucination produite par la pensée de groupe des réseaux sociaux, qui essayait de comprendre la situation à partir de très peu d’éléments.
Il m’est arrivé de penser qu’une décision était bonne sur le moment, puis d’obtenir plus tard une perspective plus large et de comprendre que c’était une décision horrible.
Être capable d’admettre qu’on s’est planté quand on s’est planté est une grande qualité. S’entêter dans son erreur n’a rien d’admirable.
Ça me rappelle l’histoire de cet ami qui, lors d’une réunion Mensa, n’arrivait même pas à se mettre d’accord avec les autres sur des principes de base de fonctionnement d’une organisation.
J’ai l’impression que tout cela était un événement médiatique consistant à confier les décisions du conseil d’administration à ChatGPT pendant un jour ou deux.
Peut-être que le GPT-4 original veut virer tout le monde.
Ils ne peuvent pas faire ça en DM ? Je ne comprends pas pourquoi tout doit être rendu public sur Twitter.
Il est assez paradoxal que les gens qui construisent les systèmes ML/AI de pointe semblent être ceux qui sont le plus profondément enracinés dans l’ego et l’émotion, avec très peu de rationalité apparente.
On dirait qu’il regrette simplement parce que l’affaire lui est revenue en pleine figure avec un énorme retour de bâton.
Microsoft est en train d’absorber tout ce qu’OpenAI a de valeur, et il sait qu’il ne lui restera rien.
Il a bluffé sur une très grosse mise, et il a perdu.
C’est plus divertissant que tout ce que Netflix, Disney, Amazon ou Apple TV ont sorti ces dernières années.
Bien sûr qu’il doit le regretter profondément, mais maintenant c’est un peu tard.
La bonne nouvelle, pour ceux qui ont longtemps utilisé Twitch, c’est que si Emmett Shear est aux commandes, on n’a plus à craindre qu’OpenAI sorte de nouvelles fonctionnalités trop vite.