Illégal par conception : révéler le coût des droits humains de l’IA générative

• Les systèmes d’IA générative autonomes entrent en conflit avec le droit international des droits humains (IHRL) et les normes associées à toutes les étapes de leur conception, développement et déploiement lorsqu’ils reposent sur du web scraping illégal
• Cette technologie promet une automatisation sophistiquée et des gains d’efficacité, mais ses pratiques de collecte de données et d’entraînement des modèles reposent structurellement sur des atteintes au droit à la vie privée
• Ces mêmes pratiques rendent possibles des discriminations et engendrent un coût en matière de droits humains en menaçant la liberté d’expression et la liberté de pensée
• Amnesty International conclut que les systèmes fondés sur du web scraping illégal dépendent, par conception, de violations massives de la vie privée
• Ces systèmes sont fondamentalement incompatibles avec le droit international des droits humains, et Amnesty International appelle à leur interdiction

---

Conclusion clé

• Les systèmes d’IA générative autonomes fondés sur du web scraping illégal entrent en conflit avec le droit international des droits humains (IHRL) et les normes associées aux étapes de conception, de développement et de déploiement
• Amnesty International estime que ces systèmes dépendent, par conception, de violations massives de la vie privée et sont fondamentalement incompatibles avec le droit international des droits humains

Mécanisme des atteintes aux droits humains

• La technologie de l’IA générative promet une automatisation sophistiquée et une meilleure efficacité
• Mais les pratiques de collecte de données et d’entraînement des modèles reposent sur des atteintes au droit à la vie privée
• Ces pratiques rendent possibles des discriminations et menacent la liberté d’expression ainsi que la liberté de pensée

Conclusion et demandes

• Amnesty International appelle à l’interdiction des systèmes d’IA générative autonomes fondés sur du web scraping illégal
• Le rapport en anglais peut être téléchargé ici : Download PDF

[GN⁺]

Avis sur Lobste.rs

• J’espère que l’expression « scraping web illégal » ne va pas entraîner un autre effet pervers, à savoir un mouvement visant à interdire le web scraping lui-même

  • Je n’ai pas l’impression qu’il s’agisse de pousser à l’interdiction du scraping, et en lisant ce passage, les inquiétudes paraissent assez concrètes et raisonnables.
    Le problème, c’est que des entreprises collectent massivement des données personnelles sans consentement, puis commercialisent ces données d’une manière qui les expose à des risques de divulgation.
  • Je trouve dommage qu’Amnesty semble se laisser entraîner par la logique des éditeurs

• Amnesty International demande l’interdiction de tels systèmes, ce qui est une position assez ferme

  • J’aurais préféré que ce ne soit pas formulé ainsi. Certains lecteurs risquent d’y voir un idéalisme irréaliste du genre : « on veut refermer la boîte de Pandore alors qu’elle est déjà ouverte ».
    Cela dit, la nécessité de recours dans la prise de décision fondée sur l’IA, les biais observés dans les modèles, ainsi que les problèmes liés au scraping sans consentement, sans attribution des auteurs et sans compensation, sont des points tout à fait pertinents.

• Je n’ai pas encore tout lu, mais il y avait un passage marquant dans la conclusion de la section 5.6, p.35.
  Amnesty International dit avoir demandé à DeepSeek, Google, OpenAI, Meta, Stability AI, Intel, VMware, Midjourney, Microsoft et Amazon de répondre à ses constats et préoccupations concernant les systèmes génératifs d’IA autonomes et les risques pour les droits humains, mais Anthropic est visiblement absent de la liste.
  En cherchant les mentions d’Anthropic dans le rapport, je n’ai trouvé qu’un passage indiquant que l’armée américaine avait utilisé Claude d’Anthropic lors d’une attaque contre l’Iran menée avec Israël en février 2026, ainsi qu’un autre disant que le gouvernement américain avait ignoré les clauses contractuelles limitant l’usage d’Anthropic pour la « surveillance domestique de masse » et les « armes entièrement autonomes sans supervision ».
  Il est aussi indiqué que les produits d’Anthropic étaient utilisés par le gouvernement et l’armée américains depuis 2024, qu’Anthropic était connue comme la première « entreprise d’IA avancée » à voir ses produits déployés dans l’ensemble des agences gouvernementales traitant des missions classifiées, et que le Pentagone l’avait classée « Supply Chain Risk » le 6 mars 2026 après qu’Anthropic eut refusé de modifier ces restrictions.
  Je ne veux pas dire qu’Amnesty a un biais pro-Anthropic, mais je trouve confus qu’Anthropic n’apparaisse pas dans cette liste. Peut-être que cette liste a été constituée parce que le rapport mentionne à plusieurs reprises OpenAI, Google, Meta, etc., avec des sources précises sur des cas de préjudice, et qu’il n’existait pas de sources comparables pour Anthropic, mais cela reste étrange.

• Amnesty n’a plus l’air d’être l’Amnesty d’autrefois

• Ce briefing indique qu’il se concentre sur le pipeline de données dans la chaîne d’approvisionnement des produits d’IA générative, en particulier sur les étapes de collecte, d’analyse et de traitement des données.
  Amnesty International y définit aussi les outils génératifs d’IA autonomes comme des produits développés, déployés et commercialisés uniquement pour des fonctions d’IA générative, comme les chatbots IA ou les générateurs d’images, de vidéos, d’audio et de texte, en excluant les fonctions ajoutées à une gamme de produits plus large, comme une fonction générative optionnelle dans un traitement de texte.