Le conseil d’administration d’OpenAI avait raison (à propos du licenciement de Sam Altman au poste de CEO)

Même sur des sujets mineurs, Sam manque constamment de franchise

• Il y a une semaine, OpenAI a dévoilé une nouvelle démo. Cette démo se caractérisait par une voix sexy, mêlée de souffle, rappelant le personnage d’agent IA incarné par Scarlett Johansson dans le film Her.
• Beaucoup de gens s’en sont enthousiasmés. (Certains se sont inquiétés de questions de sexisme, mais c’est un autre sujet. Bien sûr, le fait que cette démo ne fonctionnerait jamais de façon robuste comme annoncé est aussi un autre sujet.)

Une réaction hostile éclate

• Il y a quelques jours, une réaction hostile a éclaté. Trop de gens ont remarqué la coïncidence, et tout le monde n’était pas ravi.
• Certains se sont demandé si Scarlett Johansson avait été rémunérée. Aujourd’hui, sous pression, OpenAI a retiré la voix ressemblant à ScarJo, en affirmant que la ressemblance était purement fortuite.
• C’est totalement absurde. Et de toute évidence, un mensonge réfutable.

Le comportement de Sam

• Sam lui-même a publié fièrement, quelques heures après la démo, une référence au film Her.
• Je ne sais pas ce qui est arrivé à la touche Caps Lock de Sam, mais l’affirmation selon laquelle la ressemblance avec ScarJo serait une « coïncidence » est fausse. Sam savait parfaitement à quoi le personnage ressemblait.

La réaction de Scarlett Johansson

• Quelques heures plus tard, Scarlett Johansson elle-même (via son service de presse) a envoyé au journaliste de NPR Bobby Allyn une déclaration encore plus accablante.
• Les affirmations de Scarlett remontent à septembre, et cela a été confirmé comme vrai.
• Ils ont dit que ce n’était pas intentionnel, mais bien sûr que si, ça l’était. Sam ne souhaite peut-être pas supprimer son tweet « her », mais 6 millions de personnes l’ont vu. Et prétendre à une coïncidence est le signe d’une culpabilité.

La question du consentement

• Tout cela tourne autour du consentement. Les artistes, écrivains et acteurs ne veulent pas que leur travail soit utilisé sans autorisation. Si vous voulez utiliser leur travail, vous devez les rémunérer et obtenir leur permission.
• S’ils disent « non », cela veut dire non.
• Scarlett a dit « non ».
• Pourtant, Sam ne s’est pas arrêté.

L’avis de Toni Thai

• La cinéaste Toni Thai a déclaré ceci :
• Sam a longtemps réussi à passer entre les mailles du filet, mais les gens commencent maintenant à voir clair dans ses manipulations. Résultat du sondage (non scientifique) mené ce matin :
• Je partage moi aussi l’avis de la majorité. Chez OpenAI, la communication de façade et la déformation des faits sont la norme, pas le fait de dire la vérité.

L’avis de Casey Newton et Michelle Rempel Garner

• Casey Newton l’a lui aussi remarqué :
• La députée canadienne Michelle Rempel Garner aussi :

Le manque de franchise constant de Sam

• Le conseil d’administration (désormais remplacé) a déclaré en novembre que la raison du licenciement de Sam était qu’il n’était pas constamment franc. Je l’ai vu mentir devant le Sénat à propos des actions d’OpenAI, le conseil l’a vu mentir au sujet de Helen Toner, et maintenant nous avons vu son mensonge embarrassant à propos de Scarlett Johansson.
• C’est une habitude.

La conclusion de Gary Marcus

• Gary Marcus en a assez vu et espère que le nouveau conseil d’administration d’OpenAI reconnaîtra que le comportement de Sam n’est pas compatible avec ce que l’on est en droit d’attendre d’une organisation à but non lucratif qui promet d’aider l’humanité.

L’avis de GN⁺

• Cet article soulève un débat important sur les enjeux éthiques liés aux technologies d’IA. En particulier, utiliser la voix ou l’image d’artistes et d’acteurs sans leur consentement peut entraîner des problèmes juridiques et éthiques.
• Il est essentiel que de grandes entreprises d’IA comme OpenAI maintiennent transparence et fiabilité. C’est indispensable pour le progrès technologique et son acceptation sociale.
• Le comportement de Sam peut nuire à la crédibilité de l’entreprise, ce qui pourrait à long terme avoir un impact négatif sur la réputation d’OpenAI.
• Le développement des technologies d’IA est extrêmement rapide, mais les normes éthiques et les régulations juridiques qui les accompagnent doivent progresser en parallèle. Il s’agit de garantir un usage responsable de la technologie.
• D’autres projets ou entreprises d’IA pourraient rencontrer des problèmes similaires ; il est donc important de tirer des leçons de ce type de cas et de mettre en place de meilleures normes éthiques.

[savvykang]

Cela donne une raison de plus de retirer son compte Twitter à un CEO qui manque à la fois de discernement et de sens de la séparation entre affaires publiques et privées, tout en laissant son enthousiasme prendre le dessus. Je ne comprends pas pourquoi il a mentionné un film qui n’avait même pas fait l’objet d’un accord.

[kandk]

Finalement, c’est Elon qui avait raison, alors…

[roxie]

Pourquoi Elon ?

[pmc7777]

En y repensant, on en arrive bien à cette conclusion mdrrrrr, jusqu’où Elon avait-il vu ?

[GN⁺]

Avis Hacker News

Résumé d’une sélection de commentaires Hacker News

• Problèmes techniques et moraux d’OpenAI

  • Certains portent un regard critique sur la manière dont OpenAI développe sa technologie à partir de données collectées sur Internet puis la revend, estimant que cela peut poser des problèmes d’ordre moral.

• Lien avec le film Her

  • Ne pas utiliser la voix de Scarlett Johansson et embaucher à la place une autre comédienne de doublage n’est pas illégal, mais cela reste moralement discutable. L’inspiration culturelle est importante, mais il faut éviter le plagiat.

• Réponse juridique

  • Des démarches juridiques ont été engagées contre l’utilisation de la voix « Sky » sans autorisation, et OpenAI a finalement retiré cette voix.

• Pratiques dans l’industrie du doublage

  • Lorsqu’une comédienne de doublage connue refuse, engager une autre personne ayant une voix similaire est une pratique courante. Ce n’est pas illégal, mais cela peut rester controversé sur le plan moral.

• Avis sur la ressemblance des voix

  • Certains estiment que la voix « Sky » ressemble à celle de Scarlett Johansson, même s’il existe des différences dans les variations de ton les plus fines.

• Question de confiance envers Sam Altman

  • Certains estiment que la confiance accordée aux déclarations de Sam Altman est en baisse.

• Controverse sur la similarité de la voix

  • Des avis estiment que la voix « Sky » ressemble à celle de Scarlett Johansson, ce qui alimente la controverse.

• Lien avec le projet Worldcoin

  • Certains soulignent que Sam Altman est également lié au projet Worldcoin, ce qui pourrait affecter sa crédibilité.

• Question de propriété d’une voix

  • Il existe un débat sur le fait de savoir si l’usage de la voix d’une comédienne peut être limité au motif qu’elle ressemble à celle d’une célébrité. Cela peut soulever des questions juridiques complexes.

• Protection de la voix et du visage des individus

  • Le fait que la voix et le visage d’une personne puissent être reproduits sans autorisation, et pas seulement ceux des célébrités, est une source d’inquiétude. C’est un enjeu important lié à la vie privée.