- Le NO FAKES Act, censé prévenir les dommages causés par les répliques générées par l’IA générative, est critiqué car il s’élargit dans une direction qui créerait un nouveau droit de propriété intellectuelle et une infrastructure de censure, au risque de freiner l’expression en ligne et l’innovation
- Son champ d’application s’étend au-delà des répliques elles-mêmes jusqu’aux outils, applis et services permettant de les produire, exposant développeurs et hébergeurs à un risque de responsabilité sur la seule base des affirmations des ayants droit
- Les fournisseurs de services ne devraient pas seulement supprimer les contenus ou outils signalés, mais aussi empêcher leur remise en ligne, ce qui pourrait leur imposer de facto une obligation de filtrage
- Des informations permettant d’identifier un utilisateur pourraient être exigées via une citation émise non pas par un juge mais par un greffier, ce qui pourrait dissuader des formes d’expression légales comme la critique anonyme, la satire ou le commentaire
- Le coût de la conformité et le risque de suppression pourraient rendre plus difficile pour les nouveaux services de rivaliser avec les Big Tech, tout en réduisant l’incitation à investir dans des outils de création légitimes
D’une réponse aux répliques générées par l’IA à un régime de droits beaucoup plus large
- Le NO FAKES Act est l’acronyme de Nurture Originals, Foster Art and Keep Entertainment Safe Act, un projet de loi qui vise à créer un nouveau droit de propriété intellectuelle pour répondre aux inquiétudes liées aux « répliques » produites par l’IA générative
- L’EFF critique dès la version initiale une approche qui, selon elle, ne constituait pas une protection ciblant les fausses représentations nuisibles, mais une extension à l’échelle fédérale d’un système de licences sur l’image
- Selon elle, le texte ne parvient pas à trouver un équilibre avec la nécessité de protéger la parodie, la satire et l’expression légale
- La version révisée renforce encore cette approche en exigeant une nouvelle infrastructure de censure couvrant non seulement les images, mais aussi les produits et services utilisés pour les créer
Une architecture qui vise aussi les outils et services
- La première version visait les répliques numériques, mais la nouvelle étend la cible aux outils capables de produire des images de personnes qui n’ont pas été autorisées par l’individu concerné, les ayants droit ou la loi
- Les acteurs qui créent, commercialisent ou hébergent ces outils peuvent eux aussi être tenus pour responsables
- Certaines limites existent
- l’outil doit avoir été conçu principalement pour produire des images non autorisées
- ou ses usages commerciaux autres que la production d’images non autorisées doivent être limités
- Mais les développeurs peuvent être visés sur la base de simples allégations, et l’EFF estime donc que ces limites offrent difficilement une protection suffisante
- Selon ses détracteurs, cette disposition pourrait produire l’effet d’un droit de veto sur l’innovation que les ayants droit réclament depuis longtemps dans les débats sur le droit d’auteur
Notifications de retrait et obligation de filtrage
- La version précédente de NO FAKES créait un mécanisme de notification et retrait semblable au DMCA, que l’EFF jugeait déjà moins protecteur
- La version révisée vise davantage de fournisseurs de services et leur impose non seulement de retirer les contenus ou outils concernés, mais aussi d’empêcher leur remise en ligne ultérieure
- Il en résulte un système dans lequel ils pourraient perdre leur immunité s’ils n’installent pas des filtres à grande échelle
- Les filtres liés au droit d’auteur posent déjà de nombreux problèmes
- À l’origine, ils devraient surtout signaler pour examen humain les mises en ligne qui ressemblent à une copie intégrale d’une œuvre
- En pratique, ils peuvent aussi signaler des contenus similaires sans être identiques, comme lorsque différentes personnes interprètent la même musique du domaine public
- Il existe aussi des cas où quelques secondes de correspondance suffisent à marquer un contenu comme contrefaisant
- Ils ne prennent pas toujours correctement en compte des contextes pourtant légalement autorisés
- Aujourd’hui, les filtres de droit d’auteur ne sont pas une obligation légale, mais NO FAKES pourrait transformer cette obligation de filtrage en loi
- Le texte prévoit des exceptions pour la parodie, la satire et le commentaire, mais elles offrent peu de protection concrète à ceux qui n’ont pas les moyens de supporter les coûts d’un procès
Une clause de citation qui menace l’expression anonyme
- Dans sa rédaction actuelle, le texte permettrait à n’importe qui d’obtenir d’un greffier, et non d’un juge, une citation contraignant un service à fournir des informations d’identification sur un utilisateur
- L’EFF souligne que cette procédure n’exigerait aucune forme de preuve
- Des dispositifs similaires ont déjà été détournés dans des affaires de droit d’auteur
- Une personne irritée par une critique peut obtenir une citation pour faire taire son critique
- Or la critique reprend souvent les propos mêmes du plaignant, ce qui peut constituer un cas typique de fair use
- Malgré cela, la citation peut être émise et, sauf réaction très énergique du service, l’identité de l’utilisateur peut être révélée
- Une telle révélation peut ensuite refroidir l’expression et causer à l’utilisateur des dommages réputationnels ou personnels
Une charge supplémentaire pour l’innovation et la concurrence
- Selon l’EFF, beaucoup de gens sont déjà insatisfaits de l’état actuel des Big Tech, se retrouvent davantage dépendants des géants technologiques et constatent une dégradation de la qualité des services
- NO FAKES pourrait fortement alourdir l’infrastructure nécessaire au respect de la loi par les nouveaux services, rendant plus difficile pour eux de défier les Big Tech
- L’EFF estime que le soutien de certaines grandes entreprises à la nouvelle version de NO FAKES n’est peut-être pas un hasard
- Les exigences de suppression d’outils, d’applis et de services pourraient aussi freiner l’innovation
- Elles peuvent nuire à ceux qui utilisent ces services pour des créations légitimes
- L’incitation à investir baisse lorsqu’un outil ou un service peut être mis hors ligne sur la base de simples allégations
- L’EFF rappelle qu’il y a quelques mois, le Congrès a adopté Take It Down, centré sur les images contenant des contenus intimes ou sexuels
- Selon elle, cette loi pose déjà le problème de pousser les plateformes à surveiller activement l’expression en ligne, y compris des échanges actuellement chiffrés
- Si le Congrès s’inquiète vraiment des atteintes à la vie privée, il devrait attendre de voir les effets de cette régulation récente avant d’aller plus loin dans la régulation d’Internet
- L’EFF critique NO FAKES comme un projet de loi qui, plutôt que de protéger les victimes de répliques numériques nuisibles, concentrerait le contrôle sur l’usage commercial des images numériques
2 commentaires
J’ai dû chercher un bon moment parce que, même après l’avoir lu, je ne comprenais pas ce que ça voulait dire.
https://www.govtrack.us/congress/bills/119/hr2794
https://www.govtrack.us/congress/bills/119/s1367
Apparemment, la probabilité que la version amendée du projet de loi soit appliquée est de 5 %.
C’est n’importe quoi.
Avis de Hacker News
La nouvelle version de NO FAKES semble instaurer un mécanisme où presque tous les opérateurs de points d’entrée d’Internet devraient retirer des propos dès réception d’une notification, continuer à empêcher leur republication, ajouter des filtres de réplication forcément excessifs par-dessus des filtres de copyright déjà très imparfaits, retirer et filtrer même les outils qui auraient pu servir à créer des images, et révéler l’identité de l’uploader sur la simple affirmation d’une personne disant avoir été « répliquée »
Cela ressemble à un système que les petites entreprises ne peuvent pas mettre en œuvre, et que les grandes n’auront guère intérêt à mettre en œuvre avec soin
À cause de cette capture réglementaire, les entreprises qui détestaient la régulation à l’époque où elles faisaient de « l’innovation de rupture » ont tendance, une fois un certain niveau de taille et de revenus atteint, à se ranger du côté des partisans de la régulation
Mais cela paraît bien pire que ça. C’est une infrastructure de tyrannie digne d’un manuel
C’est un système qui réprime la parole des opposants au régime, leur confisque mégaphones et presses d’imprimerie, exige d’identifier les dissidents et de les livrer au régime, et instille la peur de sanctions chez quiconque pourrait être considéré par le régime comme aidant les opposants, par action ou par omission
L’EFF a cessé depuis longtemps de s’intéresser aux grands enjeux de liberté sur Internet, et donne désormais l’impression de n’être qu’une procession de titres du type Big Tech Bad
Des décennies plus tard, alors que la Big Tech reste un gestionnaire assez modéré de l’information sociale, et qu’en même temps des vingtenaires MAGA sans supervision mettent tout le gouvernement fédéral sur leur MacBook, cette posture paraît incroyablement déconnectée
La fin de la vie privée technologique est déjà arrivée, mais l’EFF continue de râler contre Meta et ByteDance pour le flux de clics. Comme tout le reste d’Internet, c’est apparemment ce qui lui importe vraiment au fond
Il y a 15 ans, cela aurait été impensable, mais aujourd’hui, c’est déjà au niveau de donner des coups de pied à un cheval mort
Personnellement, j’ai l’impression que le monde lutte de plus en plus pour survivre tout en se rapprochant de l’idée : « moi, je suis servi, le reste ne me regarde pas »
Désormais, cela servira contre la gauche elle-même, mais aussi contre les dissidents de droite opposés au récit féerique de l’ordre établi
J’ai l’impression que tout cela part du principe que ce type de média est partagé sur les réseaux sociaux
Le libellé de cette loi semble sans effet dans des communautés privées. Peut-être est-ce ce que nous voulions sans l’avoir encore obtenu : la fin des réseaux sociaux
La solution consiste à demander au gouvernement d’obliger les entreprises de réseaux sociaux à introduire un coefficient de friction algorithmique
Mais les incitations économiques en jeu éliminent la volonté politique nécessaire pour provoquer un tel changement
Les élites tirent profit du désordre, de la division et du chaos que propagent les réseaux sociaux dans leur forme actuelle. Elles les aiment plutôt bien tels qu’ils sont
Parmi les travaux connexes, Aral & Eckles (MIT, 2019) ont indiqué que l’introduction de friction réduit la diffusion de désinformation sans limiter la liberté d’expression ; des recherches de Mozilla et Stanford (2020-2022) ont estimé que des frictions comme l’incitation à annuler un partage peuvent réduire jusqu’à 50 % la diffusion de fake news ; et dans une expérience menée par Twitter en 2021, l’affichage d’un avertissement de vérification des faits avant publication a conduit les utilisateurs à modifier ou supprimer leur tweet dans 25 % des cas
À ce compte-là, pourquoi ne pas simplement interdire le mensonge et créer un ministère de la Vérité ?
Les tentatives de réglementer le mensonge ne sont qu’un emballage destiné à imposer des récits favorables à certaines opinions politiques
Sur ce sujet, il se peut que je ne sois pas du tout d’accord avec l’auteur. Il avance plusieurs affirmations assez audacieuses, notamment des comparaisons avec le DMCA, mais ne semble pas apporter beaucoup d’éléments
Contre-argument : https://www.recordingacademy.com/advocacy/news/no-fakes-act-...
Moi aussi, je pourrais facilement me laisser avoir par ce genre de billet de blog
Toutes les images devraient passer par un filtre de réplication, alors que l’IA rend trop facile la production d’images très différentes avec un simple prompt. Il faudrait donc désormais une IA capable d’inférer le « sens » d’une image
Dans l’ensemble, cela ressemble à une très bonne nouvelle pour les fabricants de puces et les producteurs d’électricité
J’aurais vraiment besoin d’une explication en anglais simple de ce que fait réellement cette loi, sans lobbying ni catastrophisme militant
Est-ce que cette loi signifie que les entreprises mettent des filigranes dans leur contenu afin d’empêcher d’autres entreprises de créer du contenu dérivé à partir de celui-ci ? Comment cela fonctionne-t-il exactement ?
Cela ressemble à une sorte de DMCA pour les images, les outils et les œuvres dérivées, avec en plus tous les journaux nécessaires pour tracer les créateurs, les outils et les diffuseurs
Mais comme je l’ai dit, je n’ai fait que le parcourir
La loi permettrait à n’importe qui de déposer une plainte, sans preuve, au sujet de n’importe quel contenu hébergé n’importe où, placerait sur la personne qui héberge ce contenu la charge juridique de prouver un fait négatif, à savoir qu’il n’est pas « faux », et imposerait de retirer le contenu dès que cela est techniquement possible, c’est-à-dire en pratique immédiatement
Elle est donc exploitable de manière abusive comme le DMCA, mais son champ d’exigences est plus large et la justification est presque impossible à établir, car elle crée une nouvelle catégorie de propriété juridique sur le contenu, définie de façon vague
En résumé, c’est une excellente raison de déplacer son hébergement hors des États-Unis
Le Tennessee met en vigueur le 1er juillet plusieurs lois sur l’IA générative et, fait intéressant, peut-être parce que le parlement de l’État a mal compris les termes, cette interdiction générale est si large qu’elle revient pratiquement à interdire la possession de GPU
On en arrive à une situation du genre : « Hé, tu as un permis pour ce tensor core ? »
Heureusement, au moins, l’État interdit davantage la marijuana à l’échelle nationale au-delà de ce que permettait le Farm Bill fédéral de 2018 /s
Le sage gouverneur du Texas voisin a opposé son veto à un projet de loi similaire en raison de son inconstitutionnalité et du risque de contestations juridiques