- La loi NO FAKES a été révisée et s’est transformée en une menace grave pour la liberté d’expression en ligne et l’innovation
- La version révisée ne se limite plus à encadrer les répliques numériques : elle exige aussi le blocage et le filtrage des outils, services et applications
- Un système coercitif est instauré, permettant de bloquer immédiatement des contenus, des outils et même de révéler l’identité des personnes ayant mis en ligne du contenu, sur simple signalement
- Avec l’affaiblissement du droit à l’expression anonyme et la mise en place d’une nouvelle infrastructure de censure, les utilisateurs ordinaires comme les développeurs sont menacés
- Le texte avantage davantage les grandes entreprises technologiques et relève fortement les barrières à l’entrée pour les nouveaux services et les développeurs
Aperçu du projet de loi et principaux changements
- Le NO FAKES (Nurture Originals, Foster Art and Keep Entertainment Safe) Act visait à l’origine à résoudre les problèmes liés aux répliques numériques fondées sur l’IA générative
- Cette révision crée un nouveau régime de propriété intellectuelle (IP) très étendu et, au-delà de la simple prévention des préjudices, impose une censure à l’échelle de l’ensemble du système Internet
- Le texte initial se concentrait sur un système de licence d’images, mais la version révisée élargit son champ aux images, outils, services et applications, ainsi qu’à tous les éléments utilisés pour la génération
Ordres de blocage visant les outils et services
- Le NO FAKES révisé désigne comme cibles de la régulation tous les acteurs qui fournissent, distribuent ou hébergent des outils, services ou applications de génération d’images illégales
- Si un outil est principalement utilisé à cette fin, ou si ses usages commerciaux sont limités, il peut être bloqué sur simple signalement
- Le simple développement d’outils innovants risque ainsi d’être interrompu à la suite d’un signalement, ce qui renforce le « droit de veto sur l’innovation » des ayants droit dans les guerres du copyright
Extension du système de signalement et de filtrage
- Avec des garde-fous encore plus faibles que ceux du DMCA, il devient possible de bloquer immédiatement des contenus et des outils sur simple signalement
- Obligation d’un filtre anti-réupload (Replica Filter), qui bloque automatiquement aussi les cas similaires
- Le simple signalement peut désormais entraîner la suppression d’outils, d’applications et de services, et même la divulgation de l’identité de l’uploader
- Des exceptions existent pour la parodie, la satire ou le commentaire, mais leur efficacité réelle reste faible au vu du coût des procédures
Risques pour l’expression anonyme et les données personnelles
- Sans approbation d’un juge, un simple greffier peut délivrer une subpoena from a court clerk (ordonnance de production d’informations) afin d’exiger les données d’identité de l’uploader
- De nombreux cas d’abus de systèmes similaires pour faire taire des propos critiques ont déjà été observés
- La seule divulgation de l’identité peut déjà entraîner des préjudices concrets en matière de réputation et de vie privée
Menace pour l’innovation et les nouveaux services
- Les nouvelles exigences de mise en place d’infrastructures juridiques et techniques font exploser les barrières à l’entrée pour les startups et les nouveaux services
- Cela favorise les grandes entreprises technologiques déjà en place, tandis que le développement et le lancement de nouveaux outils et services innovants s’en trouvent freinés
- En raison d’un mécanisme de blocage fondé sur le simple signalement, les créations légales et les droits des utilisateurs sont eux aussi menacés
Objectif affiché de la régulation et effets réels
- Le Congrès américain a récemment aussi adopté des textes comme Take It Down pour réguler les images à caractère sexuel, renforçant la pression en faveur d’une surveillance excessive en ligne
- L’objectif réel de NO FAKES semble moins être la protection des victimes que la concentration du contrôle commercial des images numériques
- Au final, les utilisateurs ordinaires comme les développeurs en subissent les effets négatifs, avec des répercussions défavorables sur l’écosystème d’innovation d’Internet
2 commentaires
J’ai dû chercher un bon moment parce que, même après l’avoir lu, je ne comprenais pas ce que ça voulait dire.
https://www.govtrack.us/congress/bills/119/hr2794
https://www.govtrack.us/congress/bills/119/s1367
Apparemment, la probabilité que la version amendée du projet de loi soit appliquée est de 5 %.
C’est n’importe quoi.
Avis sur Hacker News
La nouvelle version de NO FAKES prévoit que presque tous les gatekeepers d’Internet soient contraints a) de retirer rapidement un contenu dès qu’un signalement est reçu, b) d’imposer non seulement les filtres de copyright déjà problématiques, mais aussi des filtres de duplication pour empêcher les réuploads répétés, c) de filtrer et supprimer jusqu’aux outils susceptibles d’avoir été utilisés pour créer une image, et d) de divulguer l’identité de l’uploader sur la seule base de l’affirmation de quelqu’un disant simplement qu’il s’agit d’une « copie » Ce genre de système est du type que les petites entreprises ne peuvent pas mettre en place, tandis que les grandes s’en soucient à peine
Il y a encore 15 ans, une telle situation aurait semblé absurde, mais aujourd’hui on a l’impression que c’est déjà une vieille controverse dépassée
Au fond, ce type de débat repose sur l’idée implicite que le média en question est partagé dans la société comme un « réseau social » On peut se demander si, dans des communautés fermées ou des espaces privés, ce genre de loi n’est pas tout simplement inutile On en vient presque à se dire que ce que nous voulions vraiment, c’était peut-être la fin des réseaux sociaux
En pratique, définir juridiquement la catégorie de « réseau social » serait extrêmement difficile
Pourquoi ne pas simplement interdire le mensonge lui-même et créer un organisme type « ministère de la Vérité » ? Toute tentative de réguler le mensonge finit en réalité par promouvoir seulement certains récits selon le bon vouloir du pouvoir
Même si toutes les images passent par des filtres de duplication, avec l’IA il suffit d’utiliser le même prompt pour produire des centaines de résultats totalement différents, et on en arrive maintenant à demander à l’IA de juger jusqu’au « sens » des images Au final, c’est une bonne nouvelle pour les fabricants de puces et les compagnies d’électricité
Personnellement, il se peut que je sois en désaccord avec l’auteur du post initial Comparer NO FAKES au DMCA me paraît insuffisamment fondé Voir cet article qui présente un autre point de vue : https://www.recordingacademy.com/advocacy/news/no-fakes-act-introduced-in-the-senate
Je voudrais un résumé en une seule phrase, très simple, sans parler du lobbying ni de la rhétorique de crise Est-ce que cette loi légalise l’usage du watermarking de contenus pour empêcher les transformations secondaires des œuvres, ou s’agit-il d’autre chose ? J’aimerais savoir précisément où commence et où s’arrête son champ d’application réel
Dans le Tennessee, plusieurs lois couvrant l’IA générative dans son ensemble entreront en vigueur simultanément à partir du 1er juillet Le problème, c’est que le parlement de l’État semble avoir mal compris les termes eux-mêmes, au point que le texte devient tellement vaste qu’il revient pratiquement à criminaliser la simple possession de GPU Exemple : on voit même circuler des blagues du type « vous avez un permis pour utiliser des Tensor Cores ? » En parallèle, à l’échelle nationale, on pousse aussi des lois qui réglementent le cannabis plus sévèrement encore que le Farm Bill fédéral À l’inverse, le gouverneur du Texas a déjà opposé à juste titre son veto à un projet similaire pour des raisons constitutionnelles et juridiques
Je ne suis pas d’accord avec l’idée que « cette loi tuerait Reddit » Est-ce que l’existence d’un espace où chacun peut parler librement fait si peur ? Dans un tel espace, il arrive forcément qu’on voie aussi apparaître des opinions inattendues, voire « mauvaises »