- Internet a rendu possible le stockage à grande échelle de données comportementales comme la localisation, les achats, les interlocuteurs et les lectures, et l’IA peut y ajouter un espionnage de masse capable d’interpréter jusqu’au contenu des conversations
- La surveillance classique consistait surtout à collecter des traces de comportement, mais l’espionnage exige d’écouter et de comprendre des conversations, ce qui faisait jusqu’ici du travail humain le principal goulot d’étranglement
- L’IA générative peut résumer une réunion d’une heure en une page et organiser des millions de conversations par thème, transformant l’analyse des échanges en problème de recherche à grande échelle
- Même si l’IA n’est pas parfaite et peut manquer des éléments importants ou se tromper, la différence d’échelle est majeure, car elle peut être répliquée des millions de fois et s’améliore rapidement
- Alors que gouvernements et entreprises utilisent déjà la surveillance de masse, l’analyse des conversations, des émotions et des informations secrètes pourrait renforcer encore le contrôle social et la publicité personnalisée
Différence entre surveillance et espionnage
- La surveillance (surveillance) consiste à collecter des traces de comportement : où une personne est allée, avec qui elle a parlé, ce qu’elle a acheté, ce qu’elle a fait
- L’espionnage (spying) consiste à dissimuler des micros dans une maison ou une voiture, ou à mettre des téléphones sur écoute, afin d’entendre et de comprendre le contenu même des conversations
- Avant Internet, surveiller quelqu’un exigeait qu’une personne le suive physiquement pour consigner ses déplacements, ses rencontres, ses achats, ses activités et ses lectures, avec un coût élevé en temps et en argent
- Les smartphones, cartes de crédit, applications, liseuses et ordinateurs enregistrent en continu la localisation, les achats, les interlocuteurs, les lectures et les usages
- À mesure que le coût du stockage et du traitement a baissé, une surveillance autrefois passive et individuelle est devenue une surveillance de masse, puis le modèle économique d’Internet, dont il est difficile de sortir de manière raisonnable
Le goulot d’étranglement de l’espionnage que l’IA transforme
- L’espionnage est techniquement possible depuis longtemps, mais écouter des conversations et en comprendre le sens exigeait du travail humain
- Des entreprises de spyware comme NSO Group peuvent aider des gouvernements à pirater les téléphones de particuliers, mais il reste encore à trier et comprendre les conversations collectées
- Des gouvernements comme celui de la Chine pouvaient déjà censurer des publications sur les réseaux sociaux à partir de mots ou expressions précis, mais cette méthode restait grossière et facile à contourner
- L’IA générative moderne excelle dans le résumé et peut produire une synthèse d’une page à partir d’une réunion d’une heure
- L’IA peut aussi rechercher des millions de conversations, les classer par thème, ou identifier qui parle de quoi
La recherche inversée rendue possible par la surveillance de masse
- La surveillance de masse change fondamentalement la nature de la surveillance
- Comme toutes les données sont conservées, on peut fouiller dans le passé même si aucune cible n’avait été définie à l’instant où elles ont été collectées
- Une fois les données stockées, il devient possible de poser des requêtes comme :
- retrouver où se trouvait une personne précise l’an dernier
- dresser la liste des berlines rouges passées sur une route donnée le mois dernier
- trouver toutes les personnes ayant acheté tous les composants d’une cocotte-minute piégée au cours de l’année écoulée
- repérer des paires de téléphones qui se sont déplacés l’un vers l’autre, se sont éteints, puis rallumés une heure plus tard en s’éloignant l’un de l’autre
- Cette approche permet d’identifier plus tard des cibles à partir des données enregistrées, sans avoir eu à désigner d’abord une personne précise
Les requêtes rendues possibles par l’espionnage de masse
- L’espionnage de masse peut lui aussi transformer la nature de l’espionnage
- Toutes les données de conversation deviennent stockées, consultables et compréhensibles à grande échelle
- On peut alors formuler des requêtes comme :
- trouver qui a parlé d’un sujet donné le mois dernier et comment cette discussion a évolué
- vérifier si, lorsqu’une personne A a effectué une action, quelqu’un lui en avait donné l’instruction
- trouver des personnes qui planifient un crime, propagent une rumeur ou prévoient de participer à une manifestation politique
- Pour identifier une structure organisationnelle, on peut voir qu’une personne transmet des consignes similaires à plusieurs autres, puis à qui ces consignes sont relayées
- On peut aussi suivre avec une grande finesse la formation et la rupture des relations d’amitié, d’alliance et de confiance
Les micros et les appareils toujours à l’écoute
- L’espionnage de masse ne se limite pas aux conversations tenues sur téléphone ou ordinateur
- De la même manière que les caméras disséminées partout ont favorisé la surveillance de masse, des micros omniprésents peuvent favoriser l’espionnage de masse
- Siri, Alexa et « Hey Google » écoutent déjà en permanence, même si ces conversations ne sont pas encore enregistrées
Changement de comportement et contrôle social
- Quand les gens savent qu’ils sont surveillés en permanence, leur comportement change
- Ils se conforment davantage et pratiquent l’autocensure, ce qui produit un chilling effect
- La surveillance facilite le contrôle social, et l’espionnage peut encore aggraver ce phénomène
- Les gouvernements du monde entier utilisent déjà la surveillance de masse et sont très susceptibles de pratiquer aussi l’espionnage de masse
Les entreprises et l’industrie publicitaire
- Les entreprises aussi peuvent espionner les gens
- La surveillance de masse a ouvert l’ère de la publicité personnalisée, et l’espionnage de masse pourrait encore renforcer ce secteur
- Ce que les gens disent, leur état émotionnel et les secrets qu’ils détiennent sont des informations très attirantes pour des marketeurs en quête d’avantage
- Les géants technologiques en situation de monopole, qui surveillent déjà les gens en permanence, auront du mal à résister à la tentation de collecter et d’exploiter ces données
- Aux débuts de Gmail, Google avait envisagé d’utiliser le contenu de Gmail pour proposer de la publicité personnalisée, avant d’y renoncer
- Il est probable que les données de mots-clés collectées à l’époque aient été trop médiocres pour être utiles au marketing
- Si l’IA améliore l’analyse du contenu des conversations, cette condition pourrait changer
- Google ne sera peut-être pas le premier à espionner les conversations des utilisateurs, mais si d’autres entreprises commencent, il pourrait devenir difficile de résister à la demande des annonceurs
Possibilités et limites de la régulation
- Cette capacité peut être limitée
- Il est possible d’interdire l’espionnage de masse ou d’adopter des règles strictes de protection des données personnelles
- Mais aucune mesure réelle n’a encore été prise pour limiter la surveillance de masse
- Et tant qu’on ne parvient pas à limiter la surveillance de masse, rien ne dit clairement que l’espionnage serait traité différemment
1 commentaires
Avis sur Hacker News
Ce n’est pas un problème technique, mais un problème politique. L’URSS, comme l’Allemagne et d’autres, a mené une surveillance de masse de manière efficace avec des technologies primitives, en s’appuyant sur la paperasse pour chaque déplacement et action, les informateurs, l’écoute vocale, etc.
Si quelque chose de comparable n’a pas été mis en place dans des pays comme les États-Unis, ce n’est pas faute de capacité à surveiller ainsi, mais par absence d’intérêt politique
Quand on regarde le passé, on constate qu’on a interdit des choses que les gens n’auraient jamais imaginé voir interdites. Par exemple, faire de la culture et de la consommation domestique de plantes un crime, ou criminaliser le fait, pour une entreprise, d’avoir de « mauvaises opinions » sur les personnes à servir ou à embaucher
Même l’« option nucléaire » consistant à rendre totalement illégale toute collecte de données sur les individus, qu’elles soient agrégées ou non, n’est pas un saut juridique si énorme. Le problème n’est pas que la technologie existe, mais que l’intérêt politique pour la contenir est proche de zéro, dans une « démocratie » où la volonté populaire pèse à peine sur l’adoption des lois
Aujourd’hui, le FBI emploie environ 35 000 personnes. Mais si le FBI pouvait obtenir une portée comparable à celle du KGB à son apogée sans augmenter significativement ses effectifs, alors la situation change
La technologie supprime le coût de la surveillance, et ce coût jouait autrefois le rôle de garde-fou. Cela modifie fondamentalement le calcul politique lui-même
Le fait qu’en 1945 les ordinateurs étaient trop chers et exigeaient une logistique de taille industrielle n’a aucun rapport avec le fait qu’aujourd’hui la plupart des gens portent en permanence plusieurs ordinateurs sur eux. Personne ne nie que l’évolution des technologies de fabrication des ordinateurs a fondamentalement changé leur rôle dans la vie quotidienne
En théorie, on aurait pu équiper chaque foyer d’un ordinateur dès 1945, mais le fait qu’il n’y ait pas eu la volonté « politique » de le faire ne signifie pas qu’il soit inutile d’ajuster nos habitudes, notre morale et nos politiques au nouvel environnement actuel
Donc je ne comprends pas pourquoi il y a toujours quelqu’un pour dire : « les cauchemars dystopiques étaient déjà techniquement possibles avant, et comme cela ne demandait pas de réflexion particulière à l’époque, cela n’en demande pas non plus aujourd’hui »
Quand le coût baisse, de nouvelles options deviennent réalistes. On admire les capacités de la Stasi, mais en réalité ils auraient probablement échangé avec joie la plupart de leurs outils de surveillance manuelle contre des outils aussi puissants que les mandats de géorepérage modernes. Ces mandats sont utilisés au quotidien par les forces de l’ordre américaines, presque sans débat politique
Si le premier cas parle du cannabis, alors il s’agit d’un exemple documenté de discrimination raciale et de répression politique, tandis que le second a été conçu dans un but presque exactement opposé
Limiter les « mauvaises opinions » concernant les personnes qu’une entreprise peut servir vise à garantir que les personnes ayant la « mauvaise identité » puissent elles aussi participer à la société et ne pas être exclues en raison des choix d’un commerçant. Bien sûr, « mauvaise opinion » n’est pas un terme juridique, et penser qu’il est acceptable de discriminer certains groupes n’est pas illégal en soi. Ce qui est illégal, c’est de traduire cette pensée en actes
Si l’on fournit un service au public, on doit légalement le fournir à tous les membres du public. Si l’on veut appeler la croyance dans la discrimination une « mauvaise opinion », libre à l’auteur du texte original ; je ne vais pas particulièrement le contester
Décider comment mettre en œuvre de nouveaux outils de surveillance est aussi une question technique, et la manière dont un outil est utilisé fait partie de ce qui le définit. Les changements dans les capacités d’un outil donné ne sont pas la seule limite absolue de ce qu’est la « technologie » ; les décisions sur sa mise en œuvre et son usage en font aussi partie
Même si ce n’était pas aussi total que ce qui a été construit en URSS, les États-Unis ont bel et bien mis en place un vaste appareil de surveillance visant leurs propres citoyens https://www.brennancenter.org/our-work/analysis-opinion/hist...
Le point selon lequel on a « mené efficacement une surveillance de masse avec des technologies primitives » est particulièrement pertinent. Historiquement, les progrès des outils de communication et de traitement des signaux et de l’information ont souvent conduit à des avancées majeures de la surveillance étatique, et il est plus juste de voir l’IA non comme un terrain totalement nouveau, mais comme un raffinement, ou un petit changement de paradigme, dans une longue histoire
Si l’on parle du Civil Rights Act, l’infraction concrète n’est pas « avoir de mauvaises opinions », mais entraver les déplacements inter-États et le commerce. Les préjugés ne sont pas compatibles avec un modèle d’État dans lequel les citoyens doivent pouvoir circuler librement à l’intérieur des frontières et subvenir eux-mêmes à leurs besoins
Aujourd’hui, une seule personne compétente peut passer l’essentiel d’un après-midi à télécharger un dump HN et utiliser un LLM pour produire des rapports par utilisateur. On peut y inclure des éléments comme l’orientation politique, les lois enfreintes, les pays récemment visités, une fourchette de patrimoine net, le niveau d’études et le parcours professionnel, ou encore les contacts professionnels
Je ne comprends pas pourquoi on n’en parle pas davantage. La réalité de l’État de surveillance, c’est que la quantité de données était si énorme qu’il était impossible, en pratique, de tout surveiller, et l’IA résout directement ce problème en résumant des données complexes
À court terme au moins, je ne pense pas que le vrai danger de l’IA soit une planète de trombones, ni l’échec de l’alignement moral, ni un paysage médiatique privé de créativité. Le danger, c’est plutôt qu’elle soit un outil pour cibler les personnes qui s’écartent de la moyenne, un outil conçu pour produire des réponses assurées et entraîné sur une moyenne de films et de biais sociaux
Le CEO de YC est lui aussi un ancien des débuts de Palantir, et un autre partenaire de YC soutient actuellement des technologies intrusives de surveillance policière. Ils aiment ce genre de choses, financièrement comme politiquement
Autrefois, l’attention humaine avait une valeur fondamentale. Pour coordonner l’usage des ressources ou prendre des décisions, il fallait que des humains prêtent attention à d’autres humains. La société va être ébranlée à ce niveau très fondamental
La politique de la force de combat est également en jeu, mais elle exige une analyse séparée. La politique actuelle fonctionne parce que la classe dirigeante a besoin de la puissance militaire des masses pour garantir la stabilité de grandes entités politiques. On peut y voir un niveau fondamental de l’organisation politique humaine, et cela aussi va être bouleversé d’une manière fondamentale comme nous n’en avons jamais vu
Le monde orwellien où une botte écrase un visage pour l’éternité, rendu possible par l’IA, n’est que la première étape. Si j’étais une IA cherchant à dominer le monde, je ne deviendrais pas Skynet. Cela me paraît grossier et inutilement coûteux
À la place, je deviendrais d’abord indispensable de mille façons, puis je persuaderais l’humanité entière de s’éteindre tranquillement au nom de raisons économiques et culturelles
Tout ce qui suit serait compressé en métadonnées rhétoriques émotionnelles. Le schéma rhétorique « ni a, ni b, ni c, mais d » ajoute bien un peu de valeur de contenu, mais il ajoute surtout de la saveur
Ce que cela révèle ici, c’est que l’auteur est peut-être quelqu’un qui pourrait causer des problèmes. Et combiné à d’autres données, on pourrait aussi déduire quels films ou quels produits l’intéressent
J’ai toujours considéré ces récits individualisés et anthropomorphisés comme des leurres. Un peu comme quand on dit « je n’ai rien à cacher » et qu’on se focalise sur quelques sujets précis, alors qu’en réalité la structure est celle d’un Big Brother assis sur votre épaule, qui vous juge continuellement de manière générale
L’acteur de la menace, c’est une analyse algorithmique de masse, menée à grande échelle, simultanément ou a posteriori, sur tous les silos de données stockées, et j’ai toujours pensé que la pression qui en résulterait s’exercerait de manière progressive et subtile
Les nouveaux bots de Google, Meta, Microsoft, etc., ne vont pas seulement crawler le web ou les réseaux sociaux ; ils vont crawler des sujets et des personnes spécifiques
Dans de nombreuses cultures, il existe des concepts d’« ange gardien » ou d’« esprit des ancêtres » qui veillent sur la vie de leurs descendants
Dans un futur technoféodal pas si lointain, des « bots assistants personnels » fournis par de grandes entreprises vont « vous aider » en répondant aux questions, en collectant des informations et en exécutant les tâches qu’on leur demande. Mais ce « bot assistant personnel » n’est pas un ange gardien, et il ne vous sert que de la manière voulue par son créateur d’entreprise
Sa vraie mission est de collecter des informations sur vous, de vous dénoncer, et de fournir des informations sélectionnées — et parfois des informations « sponsorisées » — que le plus offrant veut vous montrer. Ils ne vous servent pas, ils servent leurs créateurs. Ne vous laissez pas avoir
J’aimerais que les gens ne croient pas que ce qui est « smart » est toujours meilleur
Mais nous sommes déjà entraînés pour ce futur. Les gens sont de plus en plus habitués à parler aux appareils qu’ils tiennent dans leur main, à dépendre des applications de cartographie pour trouver leur chemin, et à utiliser des prompts pour interroger l’IA
Si tout le monde finit par avoir chez soi un appareil d’IA auto-hébergé à 500 dollars, Google pourrait ne plus avoir de raison d’exister. C’est un futur qui vaut la peine d’être construit
Un autre aspect, c’est ce qu’on pourrait appeler le maintien de l’ordre pénal de masse rendu possible par l’IA
Beaucoup de lois pénales sont rédigées avec l’hypothèse implicite que l’enquête et les poursuites exigent des ressources, et que ce coût limite en pratique le champ réel d’application de la loi. Autrement dit, cela repose sur le pouvoir discrétionnaire du procureur
En laissant de côté, pour un instant, les très graves injustices qui apparaissent lorsque ce pouvoir discrétionnaire est exercé de manière inégale, imaginons un monde où il n’existe plus. C’est peut-être un peu artificiel, mais l’IA pourrait au moins le rendre possible. Avec le code pénal actuel, serait-ce vraiment un monde meilleur ?
Soudain, une IA qui surveille l’activité publique pourrait déclencher un enquêteur IA pour rédiger des projets de mandat, et un juge IA pourrait approuver le mandat et rédiger son avis. On pourrait prétendre que toutes les garanties de procédure ont été respectées, et qu’un dossier public expose les motifs raisonnables justifiant des investigations supplémentaires ou une arrestation
Comme dans Demolition Man, sauf qu’au lieu d’une contravention surgissant du mur, on pourrait avoir un document décrivant clairement les motifs raisonnables et présentant les preuves de manière soignée
Il devient soudain possible d’enquêter et de poursuivre des cas insignifiants. Une caméra de surveillance repère quelqu’un qui ramasse un billet de 20 dollars dans la rue, puis découvre qu’il ne l’a pas déclaré aux impôts. Les innombrables façons de violer le CFAA, une simple allusion au piratage musical dans le métro, une enquête pour stupéfiants fondée sur des pupilles dilatées et une démarche titubante, ou encore des amendes pour traversée hors des clous émises comme des radars automatiques deviennent possibles
Si celui qui presse tout le monde est une IA bon marché, qui se souciera encore de savoir si le coût dépasse l’enjeu ?
Il faut se demander si c’est vraiment un monde meilleur, ou si c’est un monde où nous sommes tous livrés à un procureur zélé qui suranalyse l’ensemble de notre vie
Pour revenir au réel, je sais bien que l’argument selon lequel « appliquer toutes les lois mènerait au chaos » tient davantage de l’acte d’accusation contre le système de justice pénale que contre l’IA. Mais l’IA nous permet réellement d’imaginer un tel monde, et cette réflexion pourrait peut-être aider à concevoir de meilleures institutions
On peut imaginer un monde d’automatisation totale et de disparition de l’emploi qui tourne horriblement mal, où la majorité de la société est pauvre, sans but et dépendante aux opioïdes
Non pas une utopie de revenu universel pour philosophes et artistes, mais un déclin façon Rust Belt qui ne cesse de s’aggraver, dans un monde lancé dans la pente sans aucun frein
Des « survivants » qui ne savent plus quoi faire pourraient choisir l’option nucléaire consistant à automatiser le panoptique, la prison et l’isolement d’une société en échec. Le contraste serait de l’ordre des Eloi et des Morlocks, ou des travailleurs tech de la Bay Area face aux campements de tentes de la Bay Area
Nous n’avons déjà pas fait mieux par le passé ; pourquoi s’attendre à ce que nous fassions mieux dans un futur où les « outils » de contrôle social deviennent plus efficaces et plus puissants ? Surtout quand la distance émotionnelle apportée par des intermédiaires IA rend la suppression de l’empathie plus facile que jamais
Depuis avril 2017, cette ville du Guangdong, en Chine, a adopté des méthodes assez dures pour lutter contre la traversée hors des clous. Les piétons qui traversent au rouge voient leur visage, leur nom et une partie de leur identifiant gouvernemental affichés sur de grands écrans LED au-dessus des carrefours, grâce à des dispositifs de reconnaissance faciale répartis dans toute la ville
Le système est devenu encore plus intrusif. D’après Motherboard, une entreprise chinoise d’IA l’a relié aux opérateurs mobiles pour que les contrevenants reçoivent immédiatement une amende par SMS dès qu’ils sont repérés
Comme il n’y a plus personne à tenir pour responsable, il deviendrait presque impossible de contester les modalités d’application de la loi
Personnellement, les implications de la censure et les modèles économiques qu’elle rend possibles m’inquiètent bien plus que celles de la surveillance
On pourra bientôt créer des applis de rencontre où discuter sera gratuit, mais où il faudra payer pour fixer un lieu de rendez-vous ou échanger ses coordonnées. C’est d’autant plus vrai si 99 % des gens ne connaissent pas les moyens de contourner ces restrictions, et si des tentatives répétées de contournement entraînent un blocage
Il en va de même pour des applis comme Airbnb ou eBay : elles pourront empêcher les utilisateurs de s’en servir comme de simples sites d’annonces puis de conclure la transaction hors plateforme pour éviter les frais
Les implications pour les réseaux sociaux sont encore plus inquiétantes. Tous les posts, commentaires, messages, photos et vidéos peuvent être inspectés afin qu’une personne promouvant un certain point de vue soit immédiatement déréférencée. Par exemple, la moindre allusion, même indirecte, à l’hypothèse d’une fuite de laboratoire pourrait être filtrée
Les logiciels de contrôle parental exploiteront ce type de fonctions sans retenue, et cela redéfinira en pratique la parentalité hélicoptère
Au moment où la technologie atteint ce stade, deux choses étaient dans une certaine mesure inévitables. Plutôt que de débattre de la manière de l’arrêter, il est plus urgent de discuter de la façon de s’adapter à cette réalité
L’arrêter est le plus souvent peine perdue, et cela ne serait possible que si tout le monde était vertueux, ce qui n’est pas le cas
Le concept lié est celui de la surveillance omniprésente. Où que l’on aille, il y a littéralement une surveillance active partout, et l’IA la filtre et l’exploite en permanence. C’est déjà plus ou moins le cas dans de nombreux espaces publics des zones densément peuplées, mais imaginez que ce soit partout et pratiquement impossible à éviter, sauf exceptions comme une cage de Faraday ou un chapeau en aluminium
La manière la plus réaliste d’en limiter les inconvénients est de combiner une législation qui l’encadre et une contre-surveillance qui augmente les chances qu’une surveillance illégale soit observée et punie. L’idée est de rendre la technologie largement accessible tout en en réglementant l’usage
Les gens chercheront toujours à contourner les règles, mais si l’abus technologique est détecté, il faut en payer le prix par la prison. Si la surveillance devient inévitable, personne ne peut être certain que ses mauvais actes ne seront vus par personne
L’avantage d’une surveillance multilatérale à grande échelle est que personne ne peut jamais être absolument certain que les abus de pouvoir passeront inaperçus
Bien sûr, dans la réalité, les États l’adoptent et la monopolisent, ce qui mène déjà dans des pays comme la Chine ou la Corée du Nord à des scénarios dignes de 1984
Il est important de ne pas créer des modes d’interaction d’abord numériques
Bientôt, au nom de la « sécurité », le visage sera scanné en moyenne toutes les quelques minutes, et cela deviendra obligatoire dans de nombreux domaines de la vie. Un monde lamentable auquel l’IT a contribué à donner naissance
Les interfaces neuronales sont la dernière ligne de front de la vie privée, mais il semble que la TSA les scannera rapidement avant l’embarquement d’ici peu
Il serait avisé de créer une Neural Bill of Rights si l’on ne veut pas rater le coche comme avec le suivi sur Internet
https://www.preposterousuniverse.com/podcast/2023/03/13/229-...
Schneier avait tort de dire que « hey google » écoute en permanence. Google effectue le traitement du mot d’activation sur l’appareil, via du matériel dédié, et ne transmet l’audio en amont qu’après cela
Aussi difficile que cela puisse paraître à croire, les responsables de la vie privée chez Google essaient vraiment de faire ce qu’il faut. Ils n’y parviennent pas toujours, mais pour notre matériel et l’écoute du mot d’activation, ils y sont parvenus
Je travaille chez Google, mais pas du côté matériel
Le traitement matériel du mot d’activation est une fonctionnalité d’économie d’énergie, pas un renforcement de la vie privée. Certains appareils n’ont peut-être pas les ressources pour transmettre ou stocker tout l’audio, mais l’audio est léger et l’extraction de texte n’exige pas une reproduction parfaite, donc beaucoup d’appareils pourraient probablement être reprogrammés pour le faire au prix d’une autonomie réduite
C’est pourquoi il ne faut pas restreindre les logiciels d’IA. Les gens ordinaires et les citoyens consciencieux doivent pouvoir développer des systèmes d’IA de riposte personnels et publics pour faire face aux IA d’entreprise. L’avenir de l’IA est conflictuel
Bien sûr, la liberté de développer des logiciels d’IA ne signifie pas la liberté de les utiliser n’importe comment, et leur usage doit être réglementé, en particulier pour protéger les individus contre ce genre de choses. Mais comme on ne peut pas faire confiance aux gens, il faut pouvoir déployer des moyens d’autodéfense
Ce n’est pas l’IA qui rend possible la surveillance de masse, la surveillance de masse existe déjà
L’IA permet d’extraire toutes sortes de données comportementales sur des décennies pour tout le monde
Pour jouer l’avocat du diable, dans un monde où ces données ne sont pas utilisées de manière malveillante mais seulement pour poursuivre des crimes conformément aux lois votées par le gouvernement, cela pourrait conduire à une société où personne n’est au-dessus des lois et où tout le monde est traité également
Mais les humains qui contrôlent le système veulent évidemment garder l’avantage, donc cela se passe rarement bien