Un nouveau livre montre comment le pouvoir des entreprises déstabilise la gouvernance

• Coup d’État technologique : comment sauver la démocratie de la Silicon Valley

  • La chercheuse en politiques publiques du Stanford HAI, Marietje Schaake, avertit que le pouvoir sans limites des entreprises technologiques menace l’État de droit démocratique.
  • Elle explique que les entreprises technologiques empiètent sur le rôle des gouvernements et jouent un rôle excessif dans la cybersécurité, les systèmes policiers, les élections et les politiques de défense militaire.

• Comment les entreprises privées assument de plus en plus le rôle de l’État

  • Des entreprises dotées du contrôle de l’information et d’une liberté d’action illimitée se substituent au rôle des gouvernements.
  • Des entreprises comme NSO Group Technologies vendent la capacité de pirater des appareils personnels via le logiciel espion Pegasus.
  • Ces technologies offrent la possibilité de pirater des informations sensibles appartenant à des opposants politiques, des juges, des journalistes et d’autres personnes.

• Comment les institutions démocratiques peuvent reprendre l’initiative

  • Il faut une prise de conscience et une compréhension de l’influence des entreprises sur les gouvernements, la démocratie et le droit international.
  • Il faut aussi de la clarté juridique, des mécanismes de responsabilité et des mesures de transparence dans l’espace numérique.
  • Il faut appliquer les lois et réglementations traditionnelles à l’espace numérique, et renforcer le droit international et la régulation en phase avec les évolutions technologiques.

• Réinventer un nouveau gouvernement démocratique pour répondre aux défis de la numérisation

  • Les législateurs doivent pouvoir s’appuyer sur l’aide d’experts techniques indépendants pour comprendre l’impact des technologies.
  • Il faut renforcer la responsabilité publique en l’étendant aux processus par lesquels les gouvernements externalisent vers les entreprises technologiques.

• Les tensions liées à la consommation d’énergie des entreprises technologiques

  • Il existe un manque de transparence sur la consommation énergétique des data centers, ce qui nuit à la transparence dans l’usage des ressources et à une bonne gouvernance.
  • Des exigences standardisées en matière de transparence et de reporting sont nécessaires pour évaluer l’impact des grands projets de data centers sur les communautés locales.

• Le principe de précaution et l’IA

  • Le principe de précaution appelle à une suspension temporaire afin d’évaluer l’impact des innovations sur la société.
  • Il faut appliquer ce principe aux innovations technologiques telles que l’IA afin de prévenir des problèmes imprévus.

• Pourquoi les Américains tardent à comprendre la menace des entreprises technologiques

  • Partout dans le monde, les abus de pouvoir des entreprises technologiques causent des dommages, mais les Américains y voient un problème lointain.
  • Des cas comme l’affaire Cambridge Analytica se produisent aussi aux États-Unis, et les abus de pouvoir des entreprises technologiques affectent la démocratie américaine.

• Le rôle des citoyens dans une démocratie

  • Les consommateurs peuvent faire des choix dans leur usage des technologies, mais cela ne suffit pas.
  • Une surveillance indépendante et un contre-pouvoir sont nécessaires face aux abus de pouvoir des entreprises technologiques.
  • Les citoyens doivent façonner l’agenda politique et exiger davantage de leurs dirigeants.

Résumé de GN⁺

• Le livre de Marietje Schaake alerte sur l’impact du pouvoir sans limites des entreprises technologiques sur la démocratie et propose diverses pistes pour y remédier.
• Le contrôle de l’information et la liberté d’action illimitée des entreprises technologiques se substituent au rôle des gouvernements, ce qui menace l’État de droit démocratique.
• L’espace numérique a lui aussi besoin de clarté juridique, de mécanismes de responsabilité et de mesures de transparence, et le principe de précaution doit servir à évaluer l’impact social des innovations technologiques.
• Les citoyens doivent exiger une surveillance indépendante et un contre-pouvoir face aux abus de pouvoir des entreprises technologiques, et contribuer à façonner l’agenda politique.

[GN⁺]

Avis Hacker News

• Certains estiment qu'aux États-Unis, il est important que les citoyens fassent les lois, et pas seulement le gouvernement ou les entreprises. Mais en pratique, ce n'est pas le cas. Il est important de se demander à qui profite une loi. Par exemple, il faut se demander si des lois favorables aux laboratoires pharmaceutiques rendent les médicaments plus chers, ou si elles permettent au contraire d'en contrôler le prix.

  • Avec un salaire minimum fédéral de 7,25 $, ceux qui en profitent ne sont pas les gens ordinaires.
  • Certains estiment que les citoyens devraient faire adopter des lois qui leur sont bénéfiques, et qu'il est particulièrement important d'annuler l'arrêt Citizens United v. Federal Election Commission.
  • Les médias dépendent des annonceurs privés, ce qui rend difficile de s'opposer aux excès des entreprises.

• Certains estiment que le logiciel porte atteinte aux droits de propriété, et appellent cela le "techno-féodalisme". Les entreprises possèdent le logiciel et les gens ne font que le louer.

• Internet relie tout le monde et permet la libre circulation de l'information, mais cela affaiblit aussi la confiance entre les personnes.

  • La liberté d'expression est importante, mais certains peuvent l'utiliser pour tromper ou contraindre.
  • Dans "Reflections on Trusting Trust", Ken Thompson conclut qu'on ne peut pas construire la confiance en s'appuyant sur les ordinateurs.
  • La société a besoin de confiance, mais la désinformation se propage rapidement en ligne, et les gens perdent ainsi leur confiance spontanée.

• Certains estiment que le gouvernement et les entreprises s'opposent aux citoyens.

  • Le gouvernement exerce des pressions sur les entreprises pour leur faire accomplir ce qu'il ne peut pas faire lui-même.
  • Si les entreprises ne coopèrent pas, elles risquent d'être menacées de démantèlement.

• Dans les débats sur la régulation technologique, la nécessité d'experts techniques indépendants est soulignée.

  • Le Congrès américain a autrefois disposé d'un Office of Technology Assessment, supprimé en 1995.
  • Les monopoles sont le problème, et certains estiment qu'une application vigoureuse du Sherman Act est nécessaire.

• Il est question des moyens de redonner le contrôle aux institutions démocratiques.

  • La nécessité d'experts indépendants est évoquée, ainsi que la question de savoir comment garantir leur indépendance.
  • La question se pose de savoir si les entreprises devraient être tenues de divulguer leur consommation d'énergie ou d'eau.

• Il existe des inquiétudes quant au fait que le réseau électrique américain approche de ses limites et qu'une augmentation du nombre de data centers pourrait provoquer une catastrophe.

• Certains estiment que le modèle géographique de l'État n'est pas adapté à l'ère d'Internet.

  • Autrefois, les gouvernements pouvaient faire appliquer les lois à l'intérieur de leurs frontières, mais sur Internet, les produits et services traversent les frontières.

• Certains s'inquiètent du fait que les smartphones prennent le contrôle de la sécurité.

  • L'accès aux services publics a été entièrement privatisé, au nom de la commodité.
  • Certains estiment qu'en abandonnant la sécurité au profit de la commodité, les citoyens ont laissé les entreprises se substituer à l'État.