Google retire sa promesse de ne pas utiliser l’IA pour les armes et la surveillance
(washingtonpost.com)- Mardi, Google a modifié ses lignes directrices éthiques sur l’IA et a supprimé son engagement public à ne pas appliquer l’IA aux domaines des armes et de la surveillance
- Les principes de l’IA de 2018 comportaient une clause de limitation excluant les usages de l’IA « qui causent ou sont susceptibles de causer un préjudice global »
- Dans le document précédent, la section « Applications we will not pursue » plaçait dans les catégories interdites les armes, la surveillance, les technologies à fort risque de préjudice, ainsi que les cas d’usage contraires au droit international et aux principes des droits humains
- Une copie conservée par Internet Archive, consultable jeudi, contenait encore cette section d’interdiction et ses quatre catégories
- Avec ce changement, la formulation qui excluait explicitement certains usages à haut risque a disparu des principes publics de Google sur l’IA
La promesse d’interdiction disparue des principes de l’IA
- Google a mis à jour mardi ses lignes directrices éthiques sur l’IA
- Dans la nouvelle version, la formulation existante indiquant que l’entreprise n’appliquerait pas l’IA aux armes ou à la surveillance a été supprimée
La clause de limitation de la politique de 2018
- Google avait introduit en 2018 une politique limitant le champ d’application de l’IA
- Cette politique incluait l’engagement de ne pas appliquer l’IA d’une manière « qui cause ou est susceptible de causer un préjudice global »
La section « Applications we will not pursue » supprimée
- Les anciens principes de l’IA comportaient une section intitulée « Applications we will not pursue »
- Dans la copie archivée par Internet Archive et consultable jeudi, cette section figurait encore
- Cette section listait quatre catégories que Google disait ne pas poursuivre
- armes
- surveillance
- technologies « qui causent ou sont susceptibles de causer un préjudice global »
- cas d’usage contraires au droit international et aux principes des droits humains
Ce qui change dans les principes publics
- Avant la modification, les principes de l’IA excluaient explicitement certains usages
- Après la modification, les principes publics ne contiennent plus la formulation indiquant que Google ne poursuivra pas les usages liés aux armes, à la surveillance, au préjudice global ou aux violations du droit international et des principes des droits humains
1 commentaires
Commentaires sur Hacker News
https://archive.ph/hfrKY
Au début, j’ai cru qu’il s’agissait d’un nouvel engagement, et je me suis dit : « ils l’oublieront dès que ça les arrangera ». Puis j’ai lu l’article et je me suis dit : « ah, en fait, la situation les arrange déjà ».
Google est une immense entreprise, et une immense entreprise n’est pas nécessairement « maléfique » par essence, mais elle ne s’intéresse fondamentalement ni au bien ni à la morale.
Si elle donne parfois cette impression, c’est uniquement du marketing.
Il peut y avoir une différence entre le mal façon flic corrompu et le mal façon tueur en série, mais être prêt à tout pour l’argent a historiquement toujours été classé parmi les comportements mauvais.
Cela dit, la question de savoir si une société sans grandes entreprises serait meilleure ou pire est autre chose, mais un monde où les entreprises paieraient des impôts bien plus élevés à mesure qu’elles grossissent serait intéressant.
Ils les distribuaient toujours gratuitement, et leur qualité était correcte.
Ensuite, quand l’État a interdit cela aussi, Walmart s’est mis, avec une régularité d’horloge, à distribuer gratuitement des sacs en papier, qui étaient eux aussi plutôt corrects.
Ça m’a fait comprendre que les entreprises ne feront jamais quoi que ce soit d’un tout petit peu meilleur pour l’environnement à moins d’y être contraintes.
Toutes les actions des entreprises, y compris les mauvaises, reviennent simplement à suivre l’argent, et c’est au gouvernement d’apporter le cadre éthique.
Si Google ne le fait pas, quelqu’un d’autre le fera, donc autant que ce soit Google qui gagne cet argent pour les actionnaires.
Techniquement, des actionnaires activistes pourraient même se regrouper et dire : « si vous n’allez pas sur ce marché, il faut remplacer la direction ».
Au final, comme si le seul indicateur qui comptait était le cours de l’action.
Les ordres viennent d’en haut et sont acceptés en bas.
C’est pour ça qu’elles paraissent mauvaises par nature.
Le cœur du problème, à mon avis, c’est l’anonymat créé par les chiffres et la complexité.
Des milliers de personnes veulent chacune voir les chiffres monter, et c’est ce désir qui finit par orienter ce genre de décision.
Si cette affaire avait fait baisser l’action Google, Google ne l’aurait pas fait.
Mais le comportement humain collectif soutient le cours de l’action.
Les grandes entreprises ne sont qu’un bouc émissaire ; en réalité, elles ressemblent davantage à un ensemble de règles démocratiques.
Les entreprises sont une fenêtre sur la vraie nature humaine.
J’ai envie de me mettre en colère contre tout ça avec une frustration un peu naïve du genre « pourquoi est-ce qu’on ne peut pas tous bien s’entendre ? ».
Je sais à quoi ressemblerait le monde que je voudrais, mais en tant qu’espèce, moi y compris, nous continuons à décevoir les attentes face à une autodestruction presque garantie.
J’ai envie d’être en colère, mais en même temps j’en viens tristement à accepter la réalité de pourquoi personne n’est surpris.
Il existe déjà des concurrents dans ce domaine qui le feront, et qui feront pire encore.
On a déjà vu des avancées assez terribles de ce côté-là, et si on y pense, ce sont celles qu’on a jugé acceptables à montrer publiquement.
Les choses vraiment intéressantes se passent hors des réseaux sociaux, derrière des portes closes.
Je pourrais changer d’avis si on me présentait une arme précise à laquelle seules des armes IA permettraient de répondre, mais pour l’instant je n’arrive pas à imaginer une raison pour laquelle des robots devraient décider qui tuer.
Quand des gens disent que l’IA est dangereuse ou qu’elle pourrait provoquer la fin du monde, je suis généralement sceptique, mais les armes IA sont manifestement dangereuses et peuvent facilement devenir incontrôlables.
Puisque, dès le départ, leur but est précisément d’échapper au contrôle.
Le problème des armes IA n’est pas qu’elles sont « mauvaises », mais que l’alignement des valeurs n’est pas un problème résolu, et que des armes IA pourraient tuer des gens que nous ne voulons pas voir mourir.
Le mensonge fait tourner la planète, et c’est écœurant.
Quoi qu’on en pense, nous vivons sur une planète aux ressources limitées, ce qui signifie qu’il y a de la concurrence, et la concurrence engendre l’innovation dans les armes.
Cela dit, nous avons aussi collectivement choisi pendant des décennies de ne pas utiliser les armes nucléaires malgré leur existence, donc il reste un peu de place pour l’optimisme.
Il n’y a aucune raison de devenir complaisant, et cette voie ne ferait qu’accélérer la destruction.
Il n’est pas inévitable que cela se passe ainsi.
Est-ce plus ou moins éthique que le fait qu’OpenAI, moins d’un an après avoir dit que « cela n’arriverait jamais », ait décroché un contrat avec le DoD pour déployer des modèles sur le champ de bataille ?
Leur excuse ressemblait à : « ce que nous voulions dire, c’était seulement certains types précis de guerre ou d’usages militaires ».
Au fond, la question est de savoir s’il n’est pas plus honnête, comme Google, de renverser publiquement sa ligne, plutôt que de maintenir la fiction selon laquelle on essaie toujours de faire ce qui est juste.
C’est un peu comme demander : « d’accord, ça ressemble à une capitulation devant un tyran étranger, mais est-ce plus ou moins éthique que l’époque où Vidkun Quisling dirigeait la Norvège ? »
OpenAI me paraît sournois, glissant, et dirigé par un narcissique dérangé.
À côté, Pichai a l’air d’un adulte.
Sur le plan éthique, c’est peut-être la même chose, mais si quelqu’un me braquait une arme dessus, je préférerais quelqu’un avec un minimum d’empathie derrière la détente plutôt qu’une personnification d’entreprise où les cadres supérieurs s’éclipsent les uns après les autres.
L’un des aspects les plus préoccupants des grands modèles de langage pour les services de renseignement est leur capacité à faire passer l’analyse de texte à l’échelle supérieure
Avant, il fallait au moins qu’un agent s’intéresse à moi, mais désormais, en théorie, un LLM peut lire tous les textes auxquels j’ai été exposé et signaler n’importe quoi, des infractions à la loi jusqu’aux opinions politiques
À l’échelle du filtrage de dizaines de milliards de messages, les coûts grimpent très vite, donc on peut aussi douter que les LLM soient le meilleur outil pour ce travail
J’ai l’impression qu’on est dans Downton Abbey, à l’époque où tout le monde attend que la Première Guerre mondiale commence
Tout le monde sent que ça arrive, mais personne ne peut l’empêcher
Dans la réalité, dans une guerre entre l’Occident et la Russie/l’Iran/la Corée du Nord/la Chine, ou quiconque avec qui nous finirons par nous battre, on fera tout ce qui est possible pour que la civilisation occidentale et les soldats occidentaux survivent et gagnent
Au fond, Google est une entreprise occidentale, et si une guerre éclate, refuser de soutenir notre civilisation et nos armées serait extrêmement impopulaire et ferait de Google un paria
L’inverse avait de toute façon peu de chances de se produire
Les États-Unis s’isolent eux-mêmes et maltraitent leurs alliés
Il n’y a jamais eu de meilleur moment pour des puissances alternatives cherchant à s’étendre
Il n’y avait pas de guerre qui approchait entre un Occident uni et d’autres grandes puissances
Si la guerre arrive, c’est parce que l’Occident n’existe plus
Il n’y a pas « notre » civilisation et « leur » civilisation, il n’y en a qu’une seule
Il y a quelques siècles, cette idée avait peut-être un certain fondement, mais aujourd’hui, penser que « nous » sommes très différents de « eux » est une illusion dangereuse pour la plupart des gens
Si l’on parle maintenant d’un pays qui menace d’annexer le Groenland et affirme qu’il faut déplacer de force tous les Palestiniens vers la Jordanie et l’Égypte, alors il lui faudra sûrement des armes de contrôle des foules
Quand les gens comprendront que les deux partis les exploitent en permanence, ces armes pourront aussi être utiles à l’intérieur du pays
Je ne vois pas en quoi la Chine constitue une menace en dehors du plan économique
La Chine a-t-elle déjà essayé d’envahir les États-Unis ? La Russie a-t-elle déjà essayé d’envahir l’UE ? La réponse est non
La seule menace actuelle contre l’UE vient de l’homme orange
C’est lui aussi qui a mis fin au traité INF
Les États-Unis vont désormais déployer des missiles nucléaires à portée intermédiaire en Europe, et la Russie en déploie en Biélorussie
Les deux grandes puissances auront donc des victimes sacrificielles commodes pour encaisser une frappe nucléaire en premier, avant de se remettre à réfléchir
Alors que toutes les crises internationales des 40 dernières années ont commencé chez l’un des deux, il est vraiment absurde que les États-Unis et la Russie continuent à prétendre qu’ils sont en danger
La Russie a clairement envahi des pays européens, notamment l’Ukraine
La seule raison pour laquelle elle n’a pas envahi l’UE elle-même est qu’une telle guerre déclencherait l’alliance de l’OTAN, avec d’énormes pertes humaines et, au final, une défaite
Ce qui a protégé l’UE, c’est la puissance militaire, et les pays qui n’en ont pas assez continuent de se faire frapper au gré des appétits de pouvoir
L’Ukraine s’est retrouvée dans cette situation après avoir naïvement renoncé à ses armes nucléaires dans les années 1990, en échange de promesses de non-invasion de la part de la Russie
Il est difficile d’appeler cela une menace imaginaire
Sa politique économique est aussi très prédatrice : au lieu d’aider d’autres pays, elle obtient d’eux des choses irréversibles
Pourquoi envahir quand on peut simplement prendre ce dont on a besoin ?
L’homme orange est totalement incapable sur les deux fronts
Il ne dépensera pas pour l’armée, et il n’est pas non plus assez compétent pour conclure des accords qui ne soient pas perdants à long terme
Il est intéressant de voir comment ces entreprises suivent les vents politiques
Comme Meta avait annoncé plusieurs changements autour de l’investiture, la direction de Google aura sans doute remarqué les annonces liées à l’IA et voudra éviter que l’administration actuelle la voie d’une certaine manière
À mon avis, la vérité se situe quelque part entre les deux
Il doit y avoir d’énormes désaccords en interne, mais bien sûr qu’ils se soucient de l’image qu’ils renvoient à ceux qui détiennent le pouvoir
Une entreprise dispose d’un pouvoir disproportionné sur le plan technique
Il vaut donc mieux qu’elle agisse selon la volonté des citoyens
L’alternative, à savoir qu’elle agisse selon sa propre volonté, pourrait être bien pire
Le seul moteur d’une entreprise, ce n’est pas cette mise en scène corporate maladroite du type « rendre le monde meilleur », mais la recherche du profit
Les entreprises sont créées pour cela, et elles s’y conforment toujours
Je ne sais pas à quoi on s’attendait après que Google a supprimé le slogan Don’t be evil
Des systèmes autonomes bien conçus pourraient au contraire être très utiles pour améliorer la précision du ciblage et réduire les pertes civiles
Si c’est l’existence même des armes qui vous met en colère, il faut revoir le dilemme du prisonnier
À petite échelle, on gère la trahison par les gouvernements, mais supposons que les grandes puissances mondiales n’accepteront pas la juridiction d’un gouvernement mondial unique capable d’empêcher la trahison par la force
En particulier, des puissances fortes et prospères comme les nôtres l’accepteraient encore moins, puisqu’elles auraient généralement beaucoup à y perdre
L’ancien CEO de Google, Schmidt, développe en Estonie des drones IA pour l’Ukraine
S’il a besoin d’un bon fournisseur d’IA de base, on peut s’attendre à ce que Google fasse partie des fournisseurs privilégiés
Bien sûr, l’Ukraine n’est qu’un début, et le marché potentiel pour des produits, surtout éprouvés sur le champ de bataille, et d’autant plus face à la Russie et indirectement aux technologies chinoises, sera immense
Seule une partie a encore été déployée sur un véritable champ de bataille, mais l’intérêt pour les plateformes terrestres téléopérées et autonomes est énorme
Google est en tête sur les plateformes autonomes civiles, et le passage de cette technologie à des systèmes militaires semble relativement facile