Une juge rejette l’argument d’un « programme de surveillance de masse » qui nuirait à tous les utilisateurs de ChatGPT

• Alors qu’OpenAI se retrouve contraint de conserver indéfiniment les logs ChatGPT de millions d’utilisateurs au nom de la préservation des preuves dans un procès pour violation du droit d’auteur, la controverse sur la vie privée des utilisateurs s’est déplacée au cœur du débat judiciaire
• Aidan Hunt, deuxième requérant, a dénoncé une injonction qui conserverait même les chats supprimés et anonymes, la rapprochant d’un programme national de surveillance de masse, et a soutenu que même le fait de ne conserver que les sorties pouvait révéler les questions saisies ou les sujets abordés
• La juge Ona Wang a considéré que cette injonction relevait d’une mesure imposant à une entreprise privée de préserver, isoler et stocker des données existantes pour les besoins du litige, et n’a pas retenu l’interprétation de surveillance de masse
• Le tribunal a refusé l’intervention de Hunt, estimant que l’éventuelle atteinte aux droits à la vie privée des utilisateurs de ChatGPT, sur le plan constitutionnel comme contractuel, constituait une question accessoire sans lien direct avec le fond de l’affaire de violation du droit d’auteur
• OpenAI doit contester ses préoccupations concernant l’injonction de conservation lors d’une audience orale le 26 juin, tandis que Corynne McSherry, de l’EFF, a souligné la nécessité de mécanismes de notification, suppression et transparence pour les historiques des chatbots IA

---

Injonction de conservation des logs ChatGPT et tentative d’intervention d’utilisateurs

• Le tribunal a ordonné à OpenAI de conserver indéfiniment les logs ChatGPT de millions d’utilisateurs, y compris les conversations supprimées
• Cette injonction vise à préserver des preuves potentielles dans le cadre d’un procès pour violation du droit d’auteur intenté par des organisations de presse
• La première demande d’intervention d’un utilisateur avait été déposée au nom d’une entreprise, mais la juge Wang l’a rejetée en mai au motif que l’entreprise aurait dû faire rédiger ses documents par un avocat
• Le deuxième requérant, Aidan Hunt, a indiqué qu’il utilisait occasionnellement ChatGPT et qu’il lui arrivait d’envoyer à OpenAI des « informations personnelles et commerciales très sensibles » pendant son utilisation du service

Les arguments d’Aidan Hunt sur l’atteinte à la vie privée

• Hunt a dénoncé le fait que l’injonction de conservation créait un programme national de surveillance de masse affectant et susceptible de nuire à l’ensemble des utilisateurs de ChatGPT
• Il a également contesté le fait que les utilisateurs n’avaient pas été informés à l’avance que les conversations supprimées et anonymes seraient soudainement conservées
• Selon lui, le risque subsiste même si la portée de la conservation est limitée aux sorties de ChatGPT
  • En effet, les sorties peuvent révéler par nature les questions saisies ou les sujets traités, ou les reformuler explicitement dans de nombreux cas
• Hunt a déclaré qu’il ignorait qu’OpenAI conservait ces informations jusqu’à ce qu’il découvre l’affaire sur un forum en ligne
• Il a affirmé que ses droits au titre du quatrième amendement et au respect de la procédure régulière étaient violés, et a proposé de demander l’annulation de l’injonction du tribunal

Demande d’exclusion des conversations anonymes et sensibles

• Hunt a reproché à la juge Wang de ne pas avoir envisagé d’exclure les Anonymous Chats du champ de la conservation et de la divulgation
• Selon lui, les conversations anonymes sont particulièrement susceptibles de contenir les informations les plus sensibles et potentiellement les plus dommageables pour les utilisateurs
• Il demandait l’exclusion des types de conversations suivants
  • les conversations portant sur des sujets médicaux, financiers, juridiques ou personnels
  • les conversations contenant des informations privées approfondies sur l’utilisateur, mais sans aucun lien avec les intérêts des organisations de presse demanderesses
• Hunt estime que cette affaire soulève une question constitutionnelle nouvelle et importante concernant le droit à la vie privée dans l’usage de l’IA
• Il a également soulevé la question de savoir si une ordonnance de divulgation de preuves en matière civile peut créer un programme national de surveillance de masse

Le raisonnement de rejet de la juge Wang

• La juge Wang n’a pas retenu les arguments de Hunt dans son ordonnance du 20 juin
• Dans une note de bas de page, elle a clairement indiqué qu’une injonction de conservation de documents ne pouvait pas être interprétée comme de la surveillance de masse
  • L’injonction consiste à obliger une entreprise privée à préserver, isoler et stocker certaines données qu’elle détient, uniquement pour les besoins du litige
  • Elle a précisé que le pouvoir judiciaire n’est pas une autorité chargée de l’application de la loi
• Elle a estimé que la question de savoir si la conservation temporaire par OpenAI, pendant le procès, de certaines données de logs de sorties de conversations qu’elle supprimait habituellement pouvait porter atteinte aux droits à la vie privée des consommateurs, sur le plan constitutionnel et contractuel, constituait une question accessoire
• Selon elle, cette question ne contribue « en aucune manière » à l’établissement des faits au fond dans l’affaire de violation du droit d’auteur
• Elle a jugé que les questions « nouvelles » soulevées par Hunt ne relevaient pas du procès pour violation du droit d’auteur et que les traiter retarderait indûment la résolution des véritables questions en litige

Audience orale d’OpenAI et question de la notification des utilisateurs

• OpenAI aura l’occasion, le 26 juin devant la juge Wang, de faire valoir ses préoccupations concernant l’injonction de conservation lors d’une audience orale
• Le point qui inquiétait le plus Hunt était la possibilité que l’injonction soit maintenue et que les données de conversation soient communiquées aux médias demandeurs
• La juge Wang a estimé qu’il n’y avait pour l’instant aucun risque, puisqu’aucune donnée de conversation n’avait encore été communiquée aux organisations de presse
• Hunt a toutefois fait valoir que, même sans partage des données, le simple fait qu’OpenAI les conserve pourrait causer un préjudice grave et irréparable
• Certains utilisateurs se sont aussi demandé jusqu’où OpenAI était prêt à se battre
  • Hunt s’inquiète du fait que la défense de la vie privée des utilisateurs passe au second plan si OpenAI accorde davantage d’importance à d’autres préoccupations, comme le coût de l’affaire, une résolution rapide ou l’évitement d’un préjudice réputationnel
• OpenAI n’a pas immédiatement répondu à une demande de commentaire et avait déjà indiqué qu’il contesterait l’injonction en présentant l’étendue des utilisateurs affectés
• Corynne McSherry, de l’Electronic Frontier Foundation, estime que cette ordonnance de divulgation de preuves crée un risque réel pour la vie privée des utilisateurs et pourrait faire jurisprudence pour d’autres litiges
• McSherry a déclaré que, dans les applications de chat IA, les utilisateurs devraient pouvoir supprimer leur historique et avoir l’assurance qu’il a réellement été effacé, et qu’il faudrait aussi une notification en temps utile des demandes visant les données des utilisateurs ainsi que des rapports de transparence réguliers