X/Twitter met à jour ses conditions pour autoriser l’utilisation des publications dans l’entraînement de l’IA

 (stackdiary.com)
1 points par GN⁺ 2023-09-02 | 1 commentaires | Partager sur WhatsApp
  • Les nouvelles conditions d’utilisation de X/Twitter permettent d’utiliser les publications des utilisateurs pour l’entraînement de l’IA ; l’enjeu est que X, qui s’est efforcé de bloquer les scrapers externes, élargit désormais le périmètre d’exploitation de ses propres données
  • Elon Musk avait par le passé contesté l’utilisation des données de Twitter par Microsoft, mais X évolue maintenant vers un modèle où les contenus des utilisateurs peuvent servir à entraîner des modèles d’IA
  • Avec l’incitation adressée aux journalistes à publier directement sur X et la structure de coopération entre xAI, X et Tesla, les inquiétudes grandissent quant au fait que les données de X puissent devenir une source continue d’alimentation en données pour xAI
  • La définition fondée sur l’IA des conditions mises à jour pourrait entraîner des restrictions d’accès à certains contenus, voire des blocages, et influer sur la visibilité de certains tweets ou hashtags ainsi que sur la diffusion des contenus
  • L’expérience de la plateforme pourrait ressembler davantage à des espaces personnalisés, variant selon une identité utilisateur définie par l’IA, qu’à un même espace public partagé par tous

Ce que vise le changement des conditions de X/Twitter en matière d’exploitation des données

  • Les nouvelles conditions permettent d’utiliser les publications des utilisateurs pour l’entraînement de l’IA
  • Ce changement s’inscrit dans une tendance où plusieurs entreprises suscitent des controverses autour des données d’entraînement de l’IA et de leurs conditions d’utilisation
    • Brave est cité dans le cadre de questions liées à la vente de données protégées par le droit d’auteur pour l’entraînement de l’IA
    • Zoom est mentionné comme exemple de modification de conditions autorisant l’utilisation de contenus utilisateurs pour entraîner l’IA
    • AWS est comparé pour sa structure où le paramètre par défaut correspond à un opt-in pour l’utilisation de données liées à des services d’IA
  • X a pris des mesures pour isoler sa plateforme des scrapers externes, et depuis le lancement de xAI, la possibilité d’utiliser les données de X pour entraîner l’IA est devenue le point central du débat

Elon Musk, xAI et les contenus utilisateurs

  • Elon Musk a déclaré par le passé que Microsoft utilisait illégalement les données de Twitter, et a déjà affiché son intention de poursuivre Microsoft en justice
  • Désormais, alors que X modifie ses conditions pour utiliser lui-même les contenus utilisateurs dans l’entraînement de l’IA, la plateforme est critiquée au motif que les utilisateurs contribueraient aux activités IA de Musk sans autorisation distincte ni rémunération
  • Musk a déjà dit aux journalistes que, s’ils voulaient plus de liberté et de revenus, ils devraient publier directement sur X
    • Cette déclaration peut être interprétée comme une volonté de concentrer sur X des informations exclusives et intéressantes, puis d’utiliser ces données pour l’entraînement de modèles
  • Le site de xAI indique que xAI est une entreprise distincte de X Corp, mais qu’elle collabore étroitement avec X (Twitter), Tesla et d’autres
  • Partant du principe que la qualité et l’unicité des données peuvent constituer un goulot d’étranglement en IA, les données de X pourraient fonctionner comme une source continue de données pour xAI

Changements possibles dans l’expérience utilisateur

  • Selon la définition fondée sur l’IA des conditions mises à jour, l’accès des utilisateurs aux contenus peut être limité ou bloqué
    • Certains tweets ou hashtags pourraient ne pas être visibles
    • Ses propres contenus pourraient avoir plus de mal à atteindre une audience plus large
  • Twitter a déjà connu par le passé des controverses autour du shadow banning, mais l’automatisation et l’intervention de l’IA pourraient fonctionner de manière plus fine et plus étendue
  • Cette approche pourrait ne pas rester limitée à Twitter et s’étendre à l’ensemble d’Internet
    • Résultats de recherche Google
    • Exposition des actualités dans le fil Facebook
    • Parcours et options accessibles à l’utilisateur
  • Les chemins d’accès sur Internet ne se réduiraient pas nécessairement en eux-mêmes ; plutôt, selon l’identité utilisateur définie par l’IA, certains chemins pourraient être masqués ou révélés, rétrécissant l’expérience individuelle
  • Twitter pourrait se rapprocher d’un espace personnalisé défini par des algorithmes d’IA, plutôt que d’une expérience universelle identique pour tous

À lire aussi

1 commentaires

 
GN⁺ 2023-09-02
Commentaires sur Hacker News

  • Musk a toujours semblé obsédé par l’idée de voir Twitter comme un trésor de données pour l’entraînement de l’IA, et il s’est souvent plaint que des entreprises d’IA utilisent les données de Twitter à des fins d’entraînement.
    Je pensais que des entreprises comme OpenAI ne ciblaient pas particulièrement Twitter, mais l’incluaient simplement en crawlant le Web ; je me demande donc si les données de Twitter ont vraiment autant de valeur.
    Je ne vois pas très bien quelles caractéristiques les rendraient particulièrement plus utiles que d’autres jeux de données publics.

    • Les données de Twitter ont (1) des horodatages précis et (2) un flux continu de nouvelles données portant sur des événements récents.
      Dans le monde anglophone, il existe peu de sources comparables à part Reddit.
      Aucune des deux ne semble directement pertinente pour les architectures de type GPT, mais de futures architectures de modèles pourraient les exploiter.
      Du point de vue de la théorie de l’information, l’horodatage des tweets et leur ordre relatif contiennent aussi une quantité d’information non nulle.
    • Je ne pense pas que Twitter soit un très bon terrain de prospection pour des données d’entraînement en général.
      La plupart des données ne sont pas bien structurées ni étiquetées, le rapport signal/bruit est faible, et les textes sont généralement courts et très dépendants du contexte.
      Twitter a aussi largement échoué comme plateforme de vidéos courtes ; on voit bien des traces de flux algorithmiques fondés sur les centres d’intérêt/sujets, mais leur qualité a rarement été bonne.
      Ses atouts sont la fraîcheur et l’échelle, mais avec une solide infrastructure de crawling Web, cela semble atteignable sans Twitter.
      La génération actuelle de grands modèles de langage ne sait pas vraiment tirer parti, du moins pour l’instant, d’une fraîcheur à l’échelle de la minute.
    • Les données de Twitter sont très précieuses pour générer du contenu de type tweet : des phrases courtes et autonomes, des images, des vidéos, etc.
      En revanche, Twitter ne contient pas aujourd’hui beaucoup de données comparables à des contenus longs comme des essais, des articles de presse, des livres ou des articles scientifiques.
      C’est peut-être pour cela que Twitter/X a cherché à collecter ce type de données en augmentant la limite de longueur des tweets.
    • Si Twitter est un tel trésor de données utilisateur qu’Elon le pense, on peut se demander pourquoi son ciblage publicitaire est tellement moins bon que celui de Facebook ou Instagram.
    • Twitter possède la plus grande base de données de tweets.
      Si vous voulez une IA qui écrive des tweets, il n’y a pas mieux.
      Twitter pourrait proposer un service qui rende les community managers inutiles : vous lui fournissez un communiqué de presse ou le site Web d’un produit, et il génère un flux de tweets publicitaires bien calibrés, voire des messages destinés à manipuler l’opinion.

  • Ce changement ne concerne pas seulement Twitter ; il montre ce qui pourrait devenir le nouveau standard d’Internet.
    Google/Gmail/YouTube, Amazon, Microsoft, TikTok et toutes les plateformes Internet qui gèrent du contenu généré par les utilisateurs feront bientôt la même chose, si ce n’est pas déjà le cas.

    • GMail utilise déjà les données des utilisateurs à diverses fins d’IA, comme la classification et le data mining.
      Je serais même assez surpris que des données GMail traitées, après des étapes comme la suppression d’informations sensibles, ne soient pas utilisées pour entraîner des LLM ou d’autres projets d’IA.
    • Ils le font depuis des années.
      Tout ce que vous mettez sur leurs serveurs devient une source d’entraînement.
      Au milieu ou à la fin des années 2010, dans FB Messenger, les modèles de recommandation et de réponse automatique étaient entraînés sur l’ensemble du corpus de messages non chiffrés échangés entre utilisateurs.
    • C’est l’une des principales raisons pour lesquelles j’ai choisi Proton Mail quand j’ai arrêté l’auto-hébergement pour prendre un service d’e-mail en marque blanche.
      Il n’y a rien à aspirer côté serveur.
    • Que Google fasse cela est d’une ironie vraiment énorme.

  • Les conditions contiennent désormais aussi une clause de renonciation aux recours collectifs.

    • Je ne vois vraiment pas comment une telle clause peut être légale.
      Honnêtement, cela me dérange plus que la clause sur l’entraînement de l’IA.
      Je trouve l’entraînement de l’IA moins problématique que la vente de l’attention des gens aux annonceurs.

  • Ah, maintenant je comprends.
    Pendant quelques secondes, je me suis demandé comment le système de fenêtres X utilisait les données pour l’IA.

    • Ce serait bien que d’autres grandes entreprises raccourcissent le nom de leur service principal pour ajouter encore plus à la confusion.

  • Il est difficile d’imaginer pire chose au monde qu’une IA entraînée sur ce que tweetent les utilisateurs de Twitter.

    • J’ai hâte d’ajouter à ma liste de blocage les prises de position brûlantes de toutes sortes de bots imitant des penseurs.

  • Ils ont fait ça parce que l’autre entreprise d’Elon, xAI, a besoin de ces données.

  • Presque toutes les conditions d’utilisation autorisent l’usage des données pour améliorer le produit.
    « Remplacer quelques heuristiques bancales par un gigantesque modèle d’IA » me semble être une amélioration du produit.
    En ce sens, ils pouvaient déjà entraîner des modèles d’IA avec les données des utilisateurs.

    • Ce genre de conditions était probablement nécessaire pour couvrir des scénarios d’usage public où, même sur un forum public, quelqu’un pourrait invoquer la propriété ou une atteinte à la vie privée.

  • Est-ce pour entraîner un chatbot ? Il me semblait qu’Elon disait vouloir se débarrasser des bots.

    • Il suffit de s’en servir pour mettre les gens en heaven ban : https://cosmosmagazine.com/technology/internet/heaven-bannin...
      Le CEO pourrait l’utiliser sur Elon pour le faire rester sage.
    • Vous parlez bien de la personne qui a construit des voitures autonomes, des fusées qui se posent toutes seules et des robots humanoïdes flippants qui marchent maladroitement ? Oui, il doit vraiment détester tout ce qui est automatisé.
    • Il voulait sans doute dire se débarrasser des bots des autres.

  • La probabilité que le comportement des consommateurs, qu’il soit collectif ou individuel, change la suite des événements ici est de 0 %.
    Tout dépendra au final du droit de la propriété intellectuelle et des domaines voisins.
    Il n’y a pas vraiment de raison d’attendre une action délibérée à ce niveau.

    • Les consommateurs peuvent arrêter de consommer.
      Qu’il s’agisse de l’ancien Twitter ou de ce qu’on l’appelle maintenant.
    • Vraiment ?
      Et si le comportement des consommateurs consistait à empoisonner le jeu de données ?

  • Nous serons tous consommés par la machine IA.
    « Toutes les capacités naissent de l’analyse des données, et les données qu’ils analysent, c’est vous. Qu’il s’agisse d’une intention directe ou non, chaque avancée empiète dans le sens d’absorber tous les faits et toutes les inférences possibles à votre sujet. Pour manifester cette puissance, votre âme doit être sacrifiée à la machine. »
    https://www.mindprison.cc/p/ai-end-of-privacy-end-of-sanity