Google place en congé payé un employé affirmant que son IA conversationnelle (chatbot) est douée de conscience

• Il a indiqué avoir été placé en « congé administratif payé » en lien avec la question d’éthique de l’IA qu’il a soulevée, ajoutant que c’est ce que Google fait avant de licencier quelqu’un
• Il a expliqué avoir conclu que l’IA était douée de conscience (sentient) à travers des entretiens menés avec LaMDA, et a rendu publics les échanges
• Google a répondu qu’il avait enfreint ses obligations de confidentialité et commis l’erreur d’anthropomorphiser LaMDA

[laeyoung]

« Google affirme qu’il a violé son obligation de confidentialité » : cela veut dire qu’ils espèrent sans doute que, même si une conscience émergeait plus tard (ce qui me paraît personnellement difficile à provoquer avant très longtemps), ou même si des problèmes éthiques survenaient, il respecterait quand même cette obligation de confidentialité. Sinon, ils le vireraient ou le poursuivraient en justice.

Même si on dit qu’il n’y en a pas, on se retrouve dans une situation où il est impossible de distinguer entre le fait qu’il n’y en ait réellement pas et le fait qu’on lui interdise d’en parler, si bien qu’il n’existe plus que l’affirmation qu’il n’y en a pas. On dirait le pays d’à côté 😭

[encyphered]

Il se dit aussi que cette suspension a eu lieu « parce qu’il a divulgué des documents à des élus après ne pas avoir réussi à obtenir un consensus en interne sur le fait que l’IA avait une conscience de soi ».

[xguru]

Gary Marcus a laissé un commentaire disant que c’était complètement absurde et que LaMDA n’avait pas la moindre forme de conscience.
https://garymarcus.substack.com/p/nonsense-on-stilts

« LaMDA et GPT-3 ne font que faire correspondre des motifs tirés d’une gigantesque base de données linguistique ; il n’y a donc aucun sens derrière cela, ni la moindre conscience. »

[xguru]

Contenu de l’interview avec LaMDA https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64…
Vous pouvez consulter une traduction partielle de l’interview dans des médias coréens.

• Une IA qui dit « avoir peur de la mort »… le débat sur la « personnalité de l’intelligence artificielle » se rapproche à grands pas https://n.news.naver.com/mnews/article/001/0013242838?sid=104