L’intelligence artificielle et la surveillance de masse

L’intelligence artificielle et la surveillance de masse

• La surveillance et l’espionnage sont des concepts distincts mais liés. Autrefois, la surveillance était un travail manuel coûteux et chronophage, mais aujourd’hui, la localisation, les achats, les interlocuteurs et bien d’autres éléments sont suivis automatiquement via les smartphones, les cartes bancaires, les applications, etc.
• Dans la surveillance de masse, devenue le modèle économique d’Internet, nous sommes placés dans une situation où il est impossible de ne pas y participer. L’espionnage repose encore sur le travail humain, mais l’intelligence artificielle (IA) est sur le point de changer cela.

Le changement apporté par l’intelligence artificielle

• Les systèmes modernes d’IA générative excellent dans le résumé et peuvent organiser des millions de conversations par thème, ou indiquer qui mentionne un sujet précis.
• Ces technologies ne sont pas parfaites, mais les humains se trompent eux aussi, et l’IA est rapidement répliquée et améliorée : elle progressera donc chaque année. L’ère de l’espionnage de masse approche.

L’avenir de la surveillance et de l’espionnage de masse

• La surveillance de masse offre la capacité de remonter dans le passé pour surveiller, et permet d’observer même sans connaître à l’avance une cible précise.
• L’espionnage de masse consistera à tout stocker, puis à rendre ces données consultables et compréhensibles à grande échelle. Il pourra repérer des conversations sur un sujet donné, des projets criminels, la propagation de rumeurs, ou des plans de participation à des manifestations politiques.
• Des analyses complexes deviendront possibles, comme révéler des structures organisationnelles ou identifier les personnes qui partagent des secrets. L’espionnage ne se limitera pas aux conversations : partout où il y a un micro, il pourra avoir lieu.

L’impact social de la surveillance et de l’espionnage

• Un état de surveillance permanente influence le comportement des individus, et favorise l’autocensure ainsi que le contrôle social.
• Les gouvernements utilisent déjà la surveillance de masse, et ils commenceront aussi à pratiquer l’espionnage de masse.
• Les entreprises surveilleront les individus à des fins marketing, renforçant encore davantage l’industrie de la publicité personnalisée.

Confidentialité des données et limites

• Google avait autrefois tenté d’utiliser le contenu de Gmail pour proposer des publicités personnalisées, mais y a renoncé car les données par mots-clés étaient peu utiles. Toutefois, à mesure que ces technologies s’améliorent, il est possible que cela recommence.
• Il est possible de limiter les capacités d’espionnage de masse ou d’introduire des règles strictes de confidentialité des données, mais, tout comme la surveillance de masse n’a pas été limitée, il est probable qu’il en aille de même pour l’espionnage.

L’avis de GN⁺

Le point le plus important de cet article est qu’il offre une réflexion sur la manière dont les progrès de l’intelligence artificielle (IA) transforment la vie privée individuelle et la nature même de la surveillance. En comprenant l’impact de la surveillance et de l’espionnage de masse sur les comportements sociaux et les mécanismes de contrôle, les lecteurs peuvent disposer d’une base pour participer aux discussions essentielles sur la confidentialité des données. Cet article propose un sujet particulièrement intéressant pour les professionnels de la tech, notamment les ingénieurs logiciels, compte tenu de la rapidité des avancées de l’IA et de l’ampleur de leurs effets possibles sur notre quotidien.

[GN⁺]

Avis Hacker News

• La nature du problème politique

  • Il s’agit fondamentalement d’un problème politique, et non technique. Par exemple, l’ex-URSS menait déjà une surveillance de masse efficace avec une technologie rudimentaire. Si cela ne s’est pas produit aux États-Unis, ce n’est pas par manque de capacités techniques, mais par absence de volonté politique.
  • Des lois ont déjà été créées pour interdire des choses autrefois inimaginables. Rendre la collecte de données illégale ne serait pas un si grand saut juridique, mais il n’existe actuellement aucun intérêt politique en ce sens.

• Les risques de surveillance liés à l’IA

  • Dans la réalité d’un État de surveillance, la quantité de données était si énorme qu’un suivi effectif était irréaliste, mais l’IA peut résoudre ce problème en les résumant. C’est le véritable danger de l’IA à court terme : devenir un outil capable de cibler tout ce qui s’écarte de la norme.

• Les bots d’assistant personnel des entreprises

  • Les bots de Google, Meta, Microsoft et d’autres suivront non seulement le web ou les réseaux sociaux, mais aussi des sujets et des personnes précis. Ces assistants personnels prétendent aider les utilisateurs, mais en réalité ils collectent des informations au service des objectifs de l’entreprise et fournissent des informations manipulées.

• L’application du droit pénal de masse par l’IA

  • Le droit pénal a été rédigé en partant du principe que l’enquête et les poursuites exigent des ressources, mais l’IA peut faire disparaître cette contrainte. L’IA pourra surveiller l’activité publique et automatiser les procédures juridiques, jusqu’à permettre des poursuites pour des infractions mineures.

• L’impact de la censure

  • La possibilité de la censure et les modèles économiques qui peuvent en découler sont plus inquiétants encore que la surveillance. Par exemple, il pourrait devenir possible de faire payer l’échange de coordonnées sur une app de rencontre, ou de supprimer instantanément certains points de vue sur les réseaux sociaux.

• Le développement inévitable de la technologie

  • À mesure que la technologie progresse, la surveillance et la censure deviendront inévitables. Il faut accepter cette réalité et discuter de la manière de s’y adapter. Des régulations juridiques et des technologies anti-surveillance peuvent réduire les risques de surveillance illégale.

• La reconnaissance faciale au nom de la sécurité

  • Sous prétexte de « sécurité », des scans faciaux fréquents arriveront bientôt et deviendront obligatoires dans de nombreux aspects de notre vie.

• Les efforts de Google en matière de protection de la vie privée

  • Google n’écoute pas en permanence via « Hey Google » ; l’audio n’est envoyé que lorsque certains mots sont reconnus. Les équipes de Google chargées de la protection de la vie privée essaient de faire ce qu’il faut.

• La réalité de la surveillance de masse par l’IA

  • La surveillance de masse existe déjà, et l’IA peut servir à extraire des données sur le comportement de chacun accumulées sur plusieurs décennies. Si ces données n’étaient utilisées que pour des poursuites pénales, on vivrait dans une société où personne ne serait au-dessus des lois, mais les humains qui contrôlent le système veulent une position qui leur soit favorable.

• La liberté des logiciels d’IA

  • Les logiciels d’IA ne doivent pas être restreints, et les particuliers comme les citoyens animés par l’intérêt public doivent pouvoir développer des systèmes d’IA privés et publics capables de faire contrepoids aux IA d’entreprise. L’avenir de l’IA sera conflictuel, et la liberté de développer des logiciels d’IA doit être préservée, tandis que leur usage doit être régulé.