Pour vendre de la publicité, nous sommes en train de créer l’enfer [vidéo]

• La menace de l’intelligence artificielle ne vient pas des robots, mais de la manière dont ceux qui détiennent le pouvoir utilisent l’IA
• La publicité numérique et les mécanismes de persuasion évoluent vers l’identification et la manipulation des faiblesses de chaque utilisateur
• Les algorithmes de machine learning prédisent et orientent le comportement humain d’une manière que nous ne pouvons pas comprendre
• La collecte de données et la manipulation algorithmique sont utilisées pour exercer une influence politique et sociale
• Nous devons reconcevoir de manière transparente l’architecture des systèmes numériques et faire évoluer la technologie dans le sens de la protection des valeurs humaines

---

Intelligence artificielle et pouvoir : le risque réel

• La vraie peur liée à l’IA n’est pas celle de robots façon Terminator, mais celle de personnes au pouvoir qui manipulent l’IA pour contrôler les humains
• Des systèmes de surveillance dignes de « 1984 » de George Orwell peuvent devenir une réalité
• Des entreprises développent des technologies susceptibles de porter atteinte à la liberté et à la dignité des individus
• Des entreprises comme Facebook, Google, Amazon, Alibaba et Tencent se concentrent sur la collecte et l’analyse de données à travers la publicité

L’évolution de la publicité numérique et des mécanismes de persuasion

• La publicité traditionnelle dépendait d’un espace physique limité et d’un ciblage restreint, mais dans le monde numérique, une persuasion personnalisée pour chaque individu est possible
• La publicité sur Internet génère des annonces personnalisées qui nous poursuivent sans fin, à partir de ce que nous avons vu, recherché et des conversations que nous avons eues
• Contrairement au monde physique, l’espace numérique peut faire fonctionner en temps réel des mécanismes de persuasion à l’échelle de plusieurs milliards

La puissance et les limites des algorithmes de machine learning

• Les algorithmes de machine learning sont utilisés pour prédire et manipuler le comportement des individus à partir de grandes quantités de données
• Même les programmeurs ne comprennent pas complètement le fonctionnement interne des algorithmes
• Plus il y a de données, plus les performances des algorithmes deviennent puissantes ; c’est pourquoi les entreprises cherchent à en collecter autant que possible

Réseaux sociaux et manipulation politique

• Facebook et YouTube peuvent analyser et influencer les orientations politiques via leurs algorithmes
• Par exemple, Facebook utilise des tableaux d’affichage non publics pour exposer certaines informations uniquement à des groupes de population spécifiques
• Il existe des cas où un simple message a modifié le comportement électoral de centaines de milliers de personnes
• L’algorithme de recommandation de YouTube produit un effet de « terrier du lapin » qui attire les utilisateurs vers des contenus extrêmes

La nécessité de repenser les systèmes numériques

• Nous sommes actuellement dans une situation où nous ne savons pas quelles informations nous voyons ni ce que les autres voient
• Les algorithmes peuvent identifier des caractéristiques personnelles comme l’origine ethnique, les orientations politiques ou l’orientation sexuelle
• La Chine renforce son système de surveillance à l’aide de la reconnaissance faciale, et l’Occident est exposé à des risques similaires
• Il faut reconfigurer les technologies numériques sur la base des valeurs humaines et garantir la transparence
• Cela exige des changements globaux, allant de la technologie et de la créativité jusqu’aux structures politiques

Conclusion : une responsabilité qui grandit avec les technologies numériques

• Les plateformes numériques sont des outils précieux, mais elles peuvent aussi représenter une menace grave pour les individus et la société
• Le système actuel est une structure dans laquelle nous sommes échangés comme des « produits »
• Pour construire un avenir meilleur, il faut de la transparence technologique, des valeurs centrées sur l’humain, ainsi que des changements créatifs et politiques
• Il faut comprendre que « les technologies dotées d’un immense potentiel s’accompagnent d’immenses risques »

[GN⁺]

Avis Hacker News

• J’ai l’impression que la plupart des publicités sur Internet sont creuses et frauduleuses

  • si les publicités n’étaient pas comme ça, ça irait
  • j’utilise Ublock Origin parce que l’algorithme ne sait pas quelles publicités montrer
  • je pense que les publicités devraient devenir de bonnes publicités, au point que les gens aient envie de les regarder, plutôt qu’une promotion payante
  • j’aime des musiques de pub comme Splendor Song Chalta rahe, donc je continue à les écouter
  • j’ai l’impression que la plupart des publicités sont des arnaques qui essaient de vendre comment devenir riche
  • je déteste ces vendeurs de formations frauduleuses, et je pense que l’économie de la pub tourne autour des escrocs
  • on dirait que cela crée un cauchemar pour la vie privée et une dystopie
  • je veux pouvoir utiliser le service en désactivant les publicités
  • je n’attends pas de gros revenus de la part des clients grand public plutôt que des clients business
  • je ressens une obligation morale envers l’open source, mais le fait que les entreprises puissent auto-héberger me fait hésiter
  • le système est dicté par l’argent, et quand l’argent manque, il est très probable que la moralité soit ignorée
  • il y a trop de concurrence et les idées ne se différencient pas assez, donc j’essaie la publicité

• Pour éviter les publicités, j’utilise AdBlock Pro et AdBlock sur Safari

  • comme je passe beaucoup de temps sur YouTube, je suis abonné à Premium et j’ai acheté l’extension UnTrap for YouTube pour masquer les recommandations
  • je visite souvent BlueSky, Hacker News et YouTube, mais je n’utilise pas X, TikTok, Instagram ni Facebook
  • j’essaie de ne pas utiliser Amazon

• J’ai beaucoup râlé sur les inégalités de revenus, mais cela explique beaucoup de choses

  • les gens n’ont pas les moyens de dépenser pour les services, donc on gagne de l’argent en captant leur attention
  • comme le produit est gratuit, il n’y a pas d’attente en matière de support utilisateur

• Accepter les cookies, regarder des publicités, fermer les pop-ups de newsletter, puis regarder une vidéo sur la publicité

  • cela vise vraiment juste

• L’implémentation de la télémétrie de Reddit est très agressive

  • l’endpoint de collecte des événements change aléatoirement à chaque chargement de page
  • toutes les URL de collecte d’événements sont des endpoints d’API valides utilisés à d’autres fins
  • c’est difficile à bloquer avec les outils classiques de blocage des publicités
  • je pense que c’est malveillant

• Beaucoup de commentaires disent qu’il existe des bloqueurs de publicité, mais ils passent à côté de l’essentiel

  • les dégâts de l’économie d’Internet fondée sur la publicité ne se limitent pas au simple fait de voir des publicités
  • l’ensemble du contenu et de la structure d’Internet est déformé pour s’adapter à cette économie
  • les moteurs de recherche, le SEO, les mécanismes de découverte de contenu, ainsi que les types et la diversité des contenus auraient pu être meilleurs

• Je me demande s’il serait possible de lancer une attaque qui usurpe des humains consommant des publicités afin de rendre les métriques publicitaires dénuées de sens