Sam Altman révèle son vrai visage
(slate.com)- OpenAI a suspendu temporairement l’utilisation de l’assistant vocal Sky de la démo de GPT-4o, alors que la polémique enflait autour de sa ressemblance avec la voix de Scarlett Johansson
- Johansson affirme avoir refusé en septembre 2023 la proposition de prêter sa voix à ChatGPT 4.0 de Sam Altman, puis avoir reçu une nouvelle demande deux jours avant la présentation publique, sans qu’un échange ait lieu avant la mise en ligne du système
- OpenAI a répondu que Sky était la voix naturelle d’une autre actrice professionnelle, mais le tweet « her » d’Altman a encore renforcé la comparaison avec le film Her
- Cette affaire, qui s’ajoute aux poursuites sur le droit d’auteur, aux accords de départ limitant les critiques d’anciens employés, aux départs de l’équipe sécurité et à l’enquête de la SEC, alimente les doutes sur les promesses de transparence d’Altman
- La controverse autour de Sky s’est élargie à une question de confiance sur la manière dont OpenAI traite les créateurs, ses employés et la provenance des données d’entraînement
Début de la controverse autour de la voix Sky
- Lors de la présentation de GPT-4o, OpenAI a mis en avant l’assistant vocal Sky pour démontrer son modèle d’interaction multimodale
- Le timbre de Sky a suscité des réactions le jugeant très proche de celui de Scarlett Johansson
- Dans une déclaration envoyée à Bobby Allyn de NPR, Johansson a indiqué qu’en septembre 2023, Altman lui avait proposé de prêter sa voix au système vocal actuel de ChatGPT 4.0
- Elle a refusé la proposition pour des raisons personnelles
- Neuf mois plus tard, ses amis, sa famille et le public lui ont dit que Sky lui ressemblait beaucoup
- Après avoir écouté la démo publique, elle dit avoir ressenti de la « stupeur, de la colère et de l’incrédulité »
- Johansson a ensuite engagé un avocat, qui a envoyé une lettre à Altman et à OpenAI, et elle affirme qu’OpenAI a « accepté à contrecœur » de remplacer la voix de Sky
Les explications d’OpenAI et d’Altman
- Après avoir reçu des questions sur Sky, OpenAI a publié sur X qu’il travaillait à suspendre temporairement son utilisation
- Dans un billet de blog, OpenAI explique qu’une voix d’IA ne doit pas imiter volontairement la voix distinctive d’une célébrité
- L’entreprise affirme que Sky n’est pas une imitation de Scarlett Johansson, mais la voix d’une autre actrice professionnelle utilisant sa façon naturelle de parler
- Altman a déclaré à NPR que la comédienne de doublage de Sky avait été choisie avant toute prise de contact avec Johansson
- Il a ajouté qu’OpenAI avait cessé d’utiliser Sky dans le produit par respect pour Johansson
- Il a dit être désolé auprès de Johansson de « ne pas avoir mieux communiqué »
Les éléments qui ont renforcé la comparaison avec Her
- Pendant la présentation de GPT-4o, Altman a tweeté le mot « her »
- Cela renvoie au film Her de 2013, dans lequel Johansson interprète un assistant vocal façon Siri
- Altman avait déjà qualifié Her de film qu’il adorait
- Il a ensuite écrit sur son blog personnel que GPT-4o « donne l’impression de l’IA d’un film »
- Johansson affirme qu’Altman a recontacté son agent deux jours avant la publication de la démo de ChatGPT 4.0 pour lui demander de reconsidérer sa décision
- Le système a toutefois été rendu public avant que les deux parties ne puissent échanger
- Nitasha Tiku du Washington Post a indiqué qu’en septembre 2023, lors d’une démo live d’OpenAI, elle avait trouvé que la voix de Sky ressemblait à celle de Johansson et avait demandé à un dirigeant si c’était intentionnel
- Les responsables avaient alors nié toute intention en ce sens
Les pressions autour d’OpenAI
- GPT-4o a été présenté comme l’une des principales mises à niveau d’OpenAI, et son lancement a entraîné à la fois une forte hausse des revenus de l’app mobile ChatGPT et une polémique sur du spam utilisé pour entraîner des fonctionnalités en chinois
- La controverse Johansson survient quelques mois seulement après l’accord conclu par les syndicats à la suite des grèves menées par des acteurs inquiets de l’impact de l’IA sur l’industrie du cinéma
- SAG-AFTRA a publiquement soutenu la position de Johansson face à OpenAI
- OpenAI est critiqué depuis longtemps pour ne pas avoir présenté d’excuses suffisantes ni fait preuve d’assez de transparence sur les volumes massifs de données utilisés pour entraîner et faire fonctionner des applications comme ChatGPT et DALL-E 3
- L’entreprise a reconnu qu’il était « impossible » d’entraîner de tels modèles sans utiliser en masse des livres, œuvres d’art et articles protégés par le droit d’auteur
- Des auteurs et des éditeurs de presse ont engagé des poursuites contre OpenAI à ce sujet
- 404 Media a rapporté qu’OpenAI avait déposé une « plainte pour atteinte au droit d’auteur » concernant l’usage du logo du subreddit OpenAI
Le renvoi d’Altman et les départs dans l’équipe sécurité
- En novembre 2023, une majorité du conseil d’administration d’OpenAI a retiré sa confiance à Altman et l’a brusquement évincé
- À l’époque, le conseil avait déclaré qu’Altman n’avait pas été « systématiquement franc » dans ses échanges avec lui
- La controverse s’est ensuite transformée en conflit entre Altman et les dirigeants qui le soutenaient, et les personnes inquiètes d’un développement et d’un déploiement trop rapides des produits ainsi que des risques d’abus
- Ilya Sutskever a été présenté comme l’une des figures centrales de la crise de novembre et aurait mis en cause l’honnêteté d’Altman, mais il ne serait pas revenu dans l’entreprise dans les mois suivants
- OpenAI a annoncé la semaine dernière son départ
- Jan Leike, responsable de l’équipe de Sutskever, a lui aussi annoncé sa démission quelques heures plus tard
- Il a expliqué être en désaccord de longue date avec la direction d’OpenAI et avec les priorités fondamentales de l’entreprise, jusqu’à atteindre un point de rupture
- Vox a rapporté qu’au moins cinq autres employés attachés aux enjeux de sécurité avaient quitté OpenAI ou en avaient été écartés depuis novembre
- L’un des partants a dit avoir progressivement perdu confiance dans la direction d’OpenAI
Confidentialité, accords de départ et litiges
- Vox a rapporté que les employés d’OpenAI devaient signer des accords de départ extrêmement restrictifs pour conserver leurs parts
- Ces accords leur interdisaient de critiquer leur ancien employeur à vie
- Ils leur interdisaient même de reconnaître l’existence de cette NDA
- Sur X, Altman a affirmé qu’il ignorait l’existence de cette clause liée aux parts, qu’il réécrivait les accords et qu’il corrigerait aussi la situation des anciens employés ayant déjà signé, s’ils le contactaient
- MIT Technology Review a déjà rapporté qu’OpenAI était obsédé par la confidentialité, la protection de son image et le maintien de la loyauté des employés
- The Information a rapporté qu’en avril 2024, deux employés d’OpenAI avaient été licenciés pour des accusations de fuite d’informations
- Dans le cadre du procès intenté par l’Authors Guild, des documents ont révélé qu’OpenAI avait supprimé deux jeux de données totalisant plus de 100 000 livres publiés utilisés pour entraîner les premiers modèles GPT
- Les employés qui avaient préparé ces données ne sont plus chez OpenAI
- OpenAI avait refusé de divulguer l’historique de ses données d’entraînement avant le procès
- L’avocat principal dans la plainte du New York Times a adressé une lettre au tribunal affirmant qu’OpenAI retardait la procédure de discovery en faisant traîner les négociations sur l’ordonnance de protection et en ne fournissant pas rapidement les informations de base
- La SEC enquête sur les communications d’Altman afin de déterminer si lui et d’autres hauts dirigeants d’OpenAI ont induit des investisseurs en erreur
Le problème de confiance laissé par l’affaire Sky
- Altman a souvent parlé de l’importance de la transparence, affirmé qu’il était tolérant envers les voix dissidentes en interne chez OpenAI, et pris contact avec les pouvoirs publics pour se présenter comme un gestionnaire responsable de l’IA
- Mais la controverse Sky renforce les soupçons d’un décalage entre les déclarations publiques d’Altman et le fonctionnement interne d’OpenAI, le traitement de ses employés et ses pratiques en matière de confidentialité
- Le fait qu’une voix similaire ait été rendue publique après le refus de Johansson fragilise la confiance dans l’idée qu’OpenAI a mené de bonne foi le processus d’entraînement et de sélection de la voix de Sky
1 commentaires
Avis de Hacker News
Altman veut nous faire croire qu’il s’agissait d’un malentendu innocent, mais il ne le dit pas vraiment : « l’actrice qui a prêté sa voix à Sky avait été choisie avant que nous ne contactions Johansson »
On dirait que cette phrase cherche à donner l’impression que l’entreprise n’a pas essayé de créer, sans autorisation, une voix qui lui ressemble. C’est une phrase qui, comme écrite par un avocat, est techniquement vraie tout en donnant une impression en réalité fausse, et c’est une formulation typique pour se ménager une porte de sortie. Il ne faut pas donner autant de pouvoir sur notre avenir à quelqu’un d’aussi manipulateur, fuyant et délibérément trompeur
Sam, tu voulais vraiment payer son cachet ? D’habitude, on cherche plutôt à ne pas payer ce cachet, et c’est probablement pour ça qu’ils avaient choisi une comédienne avant de contacter Johansson
« La voix de Sky n’est pas celle de Scarlett Johansson et n’a jamais été destinée à lui ressembler. L’actrice qui a prêté sa voix à Sky avait été choisie avant que nous ne contactions Johansson. Par respect pour Johansson, nous avons suspendu l’utilisation de la voix Sky dans le produit. Nous présentons nos excuses à Johansson pour ne pas avoir mieux communiqué. »
Je doute que ce soit vrai, mais c’est au moins un démenti clair et non dissimulé
C’est la mentalité classique du move fast and break things. Sauf que cela contredit frontalement ce que Sam répète sur le fait d’agir « prudemment », et au final ces paroles ressemblent à un écran de fumée
En réalité, personne ne va s’arrêter pour développer l’AGI avec prudence ; tout avance comme une course au développement de la bombe atomique. L’histoire montre qu’on finit par foncer à pleine vitesse sans freins. ScarJo n’est que le dernier exemple de quelqu’un qui s’est fait écraser au passage, et il semble qu’il y en aura au final beaucoup d’autres
Beaucoup de gens ont une voix similaire à celle de Scarlett Johansson. Si SJ ne veut pas devenir la voix d’OpenAI, je ne vois pas pourquoi OpenAI ne pourrait pas chercher et utiliser une voix similaire
SJ n’a pas de monopole sur toutes les voix qui ressemblent à la sienne. Les personnes qui ont ce type de voix ont, tout autant que SJ, le droit de gagner de l’argent avec leur voix, et quelqu’un a effectivement exercé ce droit. Même en comparant la voix de Sky à celle de SJ, elles ne sont pas identiques. L’erreur d’OpenAI a été de céder à SJ. Ils auraient dû garder Sky et envoyer SJ balader. En cas de procès, il aurait suffi de prouver qu’ils avaient utilisé une autre comédienne de doublage et d’avancer l’argument légitime selon lequel SJ ne détient pas de monopole sur les voix similaires
Scarlett étant célèbre, les médias semblent en faire tout un plat. Je n’ai pas l’impression que cette affaire ait davantage énervé les gens que d’habitude ; à lire les commentaires, cela ne diffère pas beaucoup des sentiments qu’ils avaient déjà envers OpenAI. Simplement, tout le monde a désormais un prétexte pour dire ce qu’il pense au même moment. Ils se comportent comme si l’entreprise avait littéralement volé quelque chose. Le fait qu’OpenAI ait retiré la voix Sky n’a pas aidé. S’ils n’avaient rien à cacher, pourquoi l’avoir retirée ? Bien sûr, la réponse est que Scarlett est une personne riche et célèbre, capable d’engager un procès extrêmement coûteux contre OpenAI même sans fondement solide. Malgré tout, OpenAI aurait dû assumer ce coût ; maintenant, on dirait qu’ils se sont fait prendre la main dans la boîte à biscuits. Alors qu’en réalité, personne n’est capable de dire précisément quel biscuit a été volé
Je me demande combien de temps ce fil va tenir sur HN
Quelle influence @sama a-t-il ici ces temps-ci ? Pour ma part, il ne m’a jamais impressionné. À part s’attribuer le mérite de l’excellent travail réalisé par les scientifiques et ingénieurs IA d’OpenAI, je ne vois pas une seule chose importante qu’il ait réellement faite ou créée. L’entreprise ressemble à un véhicule pour son ambition et son héritage, et pas à grand-chose de plus
Déclaration de Scarlett Johansson au sujet de la voix “Sky” d’OpenAI - https://news.ycombinator.com/item?id=40421225 - mai 2024, 970 commentaires
Jan Leike démissionne d’OpenAI - https://news.ycombinator.com/item?id=40363273 - mai 2024, 391 commentaires
Ilya Sutskever quitte OpenAI - https://news.ycombinator.com/item?id=40361128 - mai 2024, 780 commentaires
Encore des départs chez OpenAI : pourquoi les anciens employés ne peuvent-ils pas parler ? - https://news.ycombinator.com/item?id=40393121 - mai 2024, 961 commentaires
C’étaient tous d’énormes fils. Il arrive qu’un sujet soit d’abord largement discuté sur HN, qu’un journaliste le voie et écrive un article, puis qu’un utilisateur soumette cet article, créant ainsi un autre fil HN. Nous n’avons pas besoin de ce genre de boucle de rétroaction. Quand un contenu répétitif manque d’intérêt, l’esprit a tendance à compenser par l’indignation (https://hn.algolia.com/?dateRange=all&page=0&prefix=true&sort=byDate&type=comment&query=mind%20amuse%20by:dang), et les fils précédents étaient déjà suffisamment indignés et répétitifs. L’influence de @sama est nulle. Même lorsqu’il dirigeait YC, il n’a jamais demandé le moindre changement concernant HN, et encore moins depuis. Pour mémoire, Sam est bien la personne qui a publié https://www.ycombinator.com/blog/two-hn-announcements/. Personnellement, je me souviens avoir entendu ce genre de propos sur Sam depuis l’époque de Loopt. Mon hypothèse est que les grands éloges publics de pg à son égard ont suscité chez des lecteurs un sentiment du type « pourquoi lui et pas moi ? ». Ironiquement, plus Sam accomplissait de choses, plus les plaintes grandissaient. Diriger OpenAI au cœur du plus grand boom technologique depuis l’iPhone est assez manifestement quelque chose d’important. J’ai l’impression que même si Sam unifiait la gravité avec la théorie quantique, négociait la paix au Moyen-Orient et guérissait le cancer, ces plaintes continueraient. Elles ne semblent pas fondées sur des réalisations objectives, ni sur leur absence, mais plutôt relever d’une sorte de phénomène de second ordre, ce qui est intéressant. Du moins si l’on n’est pas Sam
C’est intéressant de voir que le débat sur le droit d’auteur et les licences a glissé vers « qu’est-ce qui est meilleur, GPT ou Google ? »
À tous les artistes et ingénieurs qui ont contribué au savoir commun : vous avez perdu. Tout ce que vous avez fait pour aider les autres fait désormais partie des modèles, et il n’y a pas de retour en arrière possible. Qu’est-il donc arrivé aux attaques pour violation du droit d’auteur que les artistes devaient lancer contre les entreprises d’IA ? On dirait que c’était il y a 100 ans
Il n’y a rien de surprenant au fait que les procès prennent du temps. Tant que les tribunaux n’auront pas clarifié les questions en jeu, OpenAI et ses semblables évoluent dans une zone grise juridique
[0]: https://www.sagaftra.org/sag-aftra-statement-regarding-scarlett-johansson-and-openai-chat-gpt-4o-%E2%80%9Csky%E2%80%9D
Un artiste ne se définit pas par ses œuvres passées ou par des productions disparates, mais par son point de vue et sa créativité. Ce n’est pas non plus une révélation nouvelle. L’IA n’a rien à voir là-dedans : ce n’est qu’un moyen au service d’une fin. Le vrai problème est juridique, le reste est exagéré
Suis-je le seul à penser que toute cette affaire a été énormément exagérée ? Je ne comprends vraiment pas la réaction de rejet du secteur tech à ce sujet.
Sam Altman a tenté quelque chose, ScarJo a intenté une action en justice, et ChatGPT a retiré la voix. C’est tout. Le système a fonctionné comme il était censé fonctionner. Mais j’ai du mal à comprendre qu’on en conclue qu’il est quelqu’un d’horrible. On est très loin d’une situation de type #MeToo. C’est une actrice hollywoodienne riche et célèbre, elle s’en sortira.
Et si on retirait l’IA de l’équation ? La comédienne A qui a prêté sa voix à Sky devrait-elle être empêchée de faire tout travail vocal simplement parce qu’elle ressemble trop à SJ ?
Imaginons que le studio qui a produit le film Her veuille faire Her 2, mais que SJ refuse de prêter sa voix. Alors, n’aurait-il pas le droit d’engager A pour assurer la voix ? Si le studio a redemandé à SJ et qu’elle a encore refusé, puis qu’il a fait le film avec A, est-ce que ce serait incorrect ? J’aimerais savoir où les gens tracent la ligne.
Les acteurs ne participent pas à des films sans contrats détaillés, donc les règles générales ne s’appliquent pas forcément telles quelles dans cette situation. Les producteurs de Her ont peut-être eu le droit d’utiliser l’image de SJ dans les documents associés. Quoi qu’il en soit, s’ils avaient fait une suite avec une voix ressemblante, cette comédienne ne serait pas « A » : son nom figurerait au générique, et il n’y aurait pas de confusion sur l’identité de la voix.
Il est très probable qu’un contrat entre le studio et Scarlett Johansson prévoyait quoi faire si elle ne voulait pas apparaître dans une suite. Il n’existe pas de tel contrat entre OpenAI et Scarlett Johansson.
Ils ont engagé une comédienne pour la voix de Sky.
Si OpenAI perd, est-ce que cela signifie que cette comédienne ne pourra plus travailler simplement parce que sa voix ressemble par hasard à celle d’une autre actrice ? La comédienne de Sky peut-elle aussi poursuivre Johansson pour les films où Johansson apparaît, en prétendant qu’elle a copié sa voix ?
Une atteinte au droit à l’image ne se résume pas à une simple similitude de voix.
Cela peut sonner diffamatoire, mais suis-je le seul à avoir l’impression que Sam Altman se dirige de plus en plus vers une catastrophe réputationnelle ridiculement proche de celle de Sam Bankman-Fried ? J’ai aussi vu ce point de vue plusieurs fois sur Twitter/X.
J’ai la sensation glaçante d’assister dans la réalité à la scène du « je ne consens pas » de Ghost in the Shell.
https://getyarn.io/yarn-clip/e913bd02-2582-4258-819f-2d5a00b1db6d