OpenAI suspend le compte de ByteDance après son utilisation de GPT pour entraîner son propre modèle d’IA

• OpenAI a suspendu le compte de ByteDance
• ByteDance aurait utilisé GPT pour entraîner son propre modèle concurrent en Chine
• Le porte-parole d’OpenAI, Niko Felix, a indiqué que les clients de l’API devaient utiliser la technologie à des fins positives, et a annoncé que, bien que l’utilisation de l’API par ByteDance ait été limitée, le compte avait été suspendu le temps de l’enquête
• ByteDance a effectué la majeure partie de son utilisation de GPT via la plateforme Azure de Microsoft, et l’on ne sait pas encore clairement si Microsoft suspendra aussi l’accès de ByteDance, comme OpenAI

L’avis de GN⁺

• Cet article met en avant les questions éthiques liées à l’usage des technologies d’intelligence artificielle ainsi que l’importance de la propriété intellectuelle.
• Le comportement de ByteDance montre comment la concurrence et l’innovation dans le secteur technologique peuvent parfois mettre à l’épreuve les limites juridiques et morales.
• Cette affaire envoie également un avertissement à d’autres entreprises et rappelle qu’il faut respecter des politiques d’usage claires et les conditions de licence lors de l’utilisation des technologies d’IA.

[GN⁺]

Avis Hacker News

• Deux poids, deux mesures sur la violation du droit d’auteur

  Un utilisateur souligne qu’OpenAI utilise des œuvres protégées par le droit d’auteur d’autrui tout en refusant aux autres la même possibilité pour ses propres travaux, ce qu’il juge hypocrite. Il précise ne pas avoir de connaissances juridiques et se dit perdu face à la différence entre morale et droit.

• Une version extrême du droit d’auteur

  Le commentaire critique le fait qu’OpenAI puisse utiliser les images et les textes du monde entier comme données d’entraînement, tout en empêchant ses concurrents de faire de même à l’intérieur de son propre système, qualifiant cela de version la plus dysfonctionnelle du droit d’auteur que l’on puisse imaginer.

• Question sur le droit de la concurrence

  Au-delà du droit d’auteur, une question de droit de la concurrence est soulevée. Les tribunaux soutiennent généralement les clauses interdisant la rétro-ingénierie, mais la copie d’interfaces est davantage tolérée car elle favorise les substituts sur le marché. La question nouvelle est de savoir si OpenAI peut restreindre l’usage des résultats d’un outil manifestement ouvert à ses clients. Cela est aussi comparé aux licences de bases de données qui empêchent les clients de publier des comparaisons, ce qui peut être anticoncurrentiel. Les politiques antitrust sont surtout motivées dans les marchés matures dominés par un acteur. Mais on peut se demander si la même analyse s’applique à un marché en croissance. Si le marché croît rapidement, les inquiétudes peuvent être moindres car la domination y est incertaine. À l’inverse, si le marché est particulièrement vulnérable à la capture, les premiers leaders pourraient mériter une vigilance accrue. En outre, au-delà de l’effet principal d’un monopole sur la baisse de la concurrence, un effet secondaire peut être une baisse des investissements dans les concurrents, produisant des effets anticoncurrentiels. Ces inquiétudes peuvent être particulièrement fortes au début du marché. L’auteur se demande s’il existe un blog d’avocat traitant du sujet.

• Blocage des concurrents et partenariat avec le pire journal d’Allemagne

  Le commentaire note qu’OpenAI bloque ses concurrents, collabore avec le pire journal d’Allemagne, et que Microsoft dispose d’un siège au conseil d’administration d’OpenAI. Il suggère que le retour d’Altman se passe décidément très bien.

• Politique d’usage de l’API et usage « bénéfique » de la technologie

  Il est mentionné que ByteDance a utilisé l’API d’OpenAI de manière minimale, mais qu’OpenAI a suspendu son compte pour mener une enquête complémentaire. OpenAI insiste sur le fait que tous les clients de l’API doivent respecter une politique d’usage imposant que la technologie soit utilisée à des fins « bénéfiques ». Le commentaire souligne que ce qui semble bénéfique pour beaucoup peut paraître mauvais pour d’autres, et qu’il existe toujours une zone grise.

• Discussion sur les usages abusifs sur une plateforme de communication interne

  L’auteur dit avoir vu des employés de ByteDance discuter sur Lark, leur plateforme de communication interne, de « la manière de diluer les preuves ». Il ajoute que les usages abusifs étaient si répandus que les employés de Project Seed atteignaient régulièrement les limites d’accès à l’API. Quand on s’interroge sur le fait que d’autres modèles semblent rattraper rapidement GPT-3.5 sans toutefois dépasser GPT-4, il faudrait garder à l’esprit qu’ils entraînent peut-être simplement leurs modèles sur les sorties de GPT-3.5, ou qu’ils mentent peut-être.

• Bootstrap avec les modèles des grands acteurs

  Lorsque IBM Watson était la nouveauté du moment, quelqu’un s’était demandé à quel point il serait facile d’utiliser les modèles des grands acteurs pour bootstrapper son propre modèle. Avec l’arrivée d’OpenAI, cela semblait ne plus être nécessaire, mais la situation a changé lorsqu’OpenAI a décidé de ne plus publier ses modèles. Cependant, Llama et beaucoup d’autres ont repris le flambeau. Cela semble être une manière intéressante d’améliorer les modèles.

• L’impossibilité d’empêcher l’extraction de modèle

  Le commentaire affirme que si ByteDance, ou n’importe qui d’autre, a une motivation suffisante pour extraire le modèle d’OpenAI, il sera impossible de l’en empêcher. Il est toujours possible de déléguer la collecte de données à d’autres.

• Question sur l’entraînement et la copie d’un modèle via une API

  Un utilisateur demande qu’on lui explique comment entraîner son propre modèle à partir d’un modèle existant accessible uniquement via API, comme ChatGPT, et comment en copier certains aspects. Il dit manquer d’une compréhension intuitive de la manière de commencer une liste de prompts couvrant toutes les connaissances, ainsi que de la façon de distinguer les sorties utiles des hallucinations absurdes. Il a l’impression de manquer des détails importants qui ne sont pas expliqués dans l’article ni dans les liens.

• Satire sur la raison de la suspension du compte de ByteDance par OpenAI

  À propos de la suspension par OpenAI du compte de ByteDance pour avoir entraîné son propre modèle d’IA avec GPT, un commentaire ironise en disant que cela ressemble à un enfant qui a volé des bonbons dans un magasin et qui se plaint ensuite que son petit frère les lui vole à son tour.