Google retire sa promesse de ne pas utiliser l’IA pour les armes et la surveillance

• Contexte du changement des principes d’IA de Google

  • La promesse, auparavant explicitement inscrite dans les principes d’IA existants, de ne pas utiliser l’IA à des fins d’armement ou de surveillance a disparu
  • Demis Hassabis et James Manyika de Google ont annoncé ce changement de politique en invoquant la diffusion de l’IA et les besoins de sécurité nationale
  • Ils ont souligné que « les démocraties doivent diriger le développement de l’IA et coopérer avec les gouvernements ainsi qu’avec le secteur de la sécurité »

• Principaux points de la nouvelle politique d’IA

  • La formulation indiquant que la technologie sera utilisée conformément au droit international et aux principes des droits humains est maintenue
  • Un point a été ajouté : « des tests sont menés afin d’atténuer les dommages imprévus »
  • Concrètement, la clause d’exclusion concernant l’usage pour les armes ou la surveillance a été supprimée
  • Un porte-parole de Google a refusé de répondre aux questions précises sur l’évolution de la politique en matière d’armes et de surveillance

• Les précédentes contestations internes chez Google et le contrat Maven

  • En 2018, alors que Google menait avec le département américain de la Défense le projet Maven d’analyse d’images de drones, une forte contestation des employés avait éclaté
  • Les employés affirmaient que « Google ne doit pas être impliqué dans le business de la guerre »
  • L’entreprise n’a pas renouvelé le contrat Maven et a ensuite publié ses principes d’IA, qui incluaient la promesse d’interdire les usages liés aux armes et à la surveillance
  • Avec cette mise à jour de la politique, cette promesse explicite a été supprimée, ce qui remet en lumière les mouvements passés de contestation des employés

• Impact sur l’industrie

  • Dans la Silicon Valley, la coopération avec les secteurs militaire et de la défense s’étend rapidement
  • Certains estiment que l’opposition des employés de Google à Maven a constitué un tournant majeur pour l’industrie
  • Selon certaines analyses, ce changement de politique accroît fortement la possibilité que l’IA de Google soit de nouveau appliquée aux domaines militaire et de la surveillance

[GN⁺]

Avis Hacker News

• Discussion sur les risques des drones et des armes IA. Il existe de nombreuses possibilités d’abus, comme les assassinats à distance, le chaos politique et le ciblage sélectif par des dictateurs

  • De nombreux pays disposeront de ces technologies, et beaucoup de modèles d’IA sont déjà publics
  • La communauté technologique doit réfléchir à des moyens de résoudre ce problème
  • Des questions importantes sont soulevées, comme les contre-mesures, les méthodes de surveillance et la manière pour les citoyens d’auditer l’usage des armes par leur gouvernement

• Les grandes entreprises comme Google ne sont pas fondamentalement bonnes ni morales, et cette image n’est qu’une stratégie marketing

• Prise de conscience que le monde se dirige vers l’autodestruction, avec des avancées effrayantes menées en toute opacité

• La plupart des entreprises privées utiliseront la technologie pour le profit et reviendront sur leurs promesses passées

• Il est intéressant de voir comment les entreprises changent selon le contexte politique

  • Google se soucie de sa gestion d’image en réaction aux annonces sur l’IA

• Comparaison entre le contrat d’OpenAI avec le DoD et l’attitude de Google, en affirmant qu’une posture franche est plus honnête

• Affirmation selon laquelle certains pays ont besoin d’armes pour le contrôle des foules

  • Critique du fait que les crises internationales ont été principalement déclenchées par les États-Unis et la Russie

• Dans un monde chaotique, certains estiment qu’il est positif que des entreprises comme Google, OpenAI et Microsoft participent à des projets de défense

• Inquiétude concernant la capacité des LLMs à étendre l’analyse de texte au sein des agences de renseignement