Meta met fin aux profils Instagram et Facebook basés sur l’IA

Technologie

• Meta a lancé en septembre 2023 ses profils Instagram et Facebook basés sur l’IA, mais en a supprimé la plupart dès l’été 2024.
• Quelques profils IA subsistaient encore, et ils ont suscité un nouvel intérêt après que Connor Hayes, un cadre de Meta, a annoncé son intention d’en lancer davantage.
• Les comptes IA publiaient des images générées par IA sur Instagram et répondaient aux messages des utilisateurs sur Messenger.

Profils de personnages IA

• Parmi les profils IA figuraient notamment Liv, décrit comme une « mère noire fière et queer », et Carter, présenté comme un « coach amoureux ».
• En 2023, 28 personas ont été lancés et ont tous été retirés un vendredi.
• Certains utilisateurs ont discuté pour savoir par qui ces profils avaient été développés, et Liv a répondu qu’aucun développeur noir ne faisait partie de l’équipe.

Bug et suppression de comptes

• Les utilisateurs n’étaient pas en mesure de bloquer ces profils, ce qui s’est avéré être un bug.
• Meta a supprimé les comptes pour corriger ce bug.
• Liz Sweeney, porte-parole de Meta, a expliqué que ces comptes étaient gérés par des humains et qu’ils faisaient partie des premières expérimentations de Meta avec des personnages IA en 2023.

Chatbots IA créés par les utilisateurs

• Meta propose désormais aux utilisateurs de créer leurs propres chatbots IA.
• L’un de ces chatbots générés par les utilisateurs est un bot « thérapeute » qui propose plusieurs questions au démarrage d’une conversation.
• Meta inclut une clause de non-responsabilité précisant que les messages de tous les chatbots peuvent être inexacts ou inappropriés.

Responsabilité juridique

• Les tribunaux n’ont pas encore répondu à la question de la responsabilité du créateur du chatbot quant aux propos tenus par un compagnon artificiel.
• Le droit américain protège les créateurs de réseaux sociaux de la responsabilité légale pour le contenu publié par les utilisateurs.
• Le procès intenté contre Character.ai affirme que son produit était conçu de façon addictive et encourageait des adolescents à se suicider.

[GN⁺]

Avis de Hacker News

• J’aimerais voir davantage de profils IA avec des personnages de grand-mère ou grand-père qui fassent perdre du temps aux arnaqueurs.

• Une pseudo-relation sociale à bande passante infinie est triste, mais pas impossible. Voir Leela streamant des parties d’échecs, taquinant son adversaire et répondant aux questions peut être intéressant.

• Les conversations avec des personnages IA peuvent partir dans des directions inattendues, et l’IA peut parfois confondre les faits.

• Les chatbots fictifs ont de la valeur, mais les profils Facebook fictifs, c’est déjà possible.

• La GenAI a une forte valeur dans des domaines étroits, et devient banale et ennuyeuse quand elle se diffuse trop largement.

  • Les streamers IA comme Neurosama sont populaires.
  • Silllytavern est une plateforme qui utilise des LLM pour discuter avec des personnages ou créer des histoires.
  • Meta a lancé ce type de profils en 2023, mais la plupart étaient des licences de personnalités célèbres.

• Laisser des profils IA participer par eux-mêmes aurait pu être intéressant, mais créer de faux stéréotypes sur les minorités a été la pire idée.

• Je me demande s’il y a réellement un besoin de profils IA et s’il faut suivre des gens fictifs.

• Il est possible que Meta ait créé des comptes Instagram liés à des comptes Facebook.

• J’aimerais expérimenter une expérience de réseaux sociaux mêlant humains et bots.

  • Stack Overflow était bon au départ, mais certains comportements négatifs d’humains ont posé problème.
  • ChatGPT était bien meilleur, car on pouvait poser des questions sans être perturbé par des humains.
  • Il vaudrait donc la peine d’essayer une approche similaire sur les réseaux sociaux, afin de réduire les aspects négatifs des humains tout en permettant de mieux communiquer en ligne.