Pourquoi je n’ai pas d’autre choix que de dire adieu : la direction de Google a perdu sa boussole morale
(mayrhofer.eu.org)- Le responsable de la sécurité d’Android a décidé de démissionner et a envoyé une lettre d’adieu à ses collègues, invoquant la perte d’orientation éthique de la direction de Google
- Il a accepté en 2017 le poste de Director of Android Platform Security ; à l’époque, Google était une entreprise animée par une culture tournée vers l’intérêt public, avec des objectifs de neutralité carbone, l’annulation d’un contrat avec le Pentagone et des principes encadrant l’IA
- Pendant son mandat, il a contribué à des avancées de protection des utilisateurs comme le chiffrement complet de l’appareil activé par défaut, les sauvegardes chiffrées de bout en bout et l’Insider Attack Resistance
- La cause directe de sa démission est que Google a récemment abandonné son objectif de neutralité carbone et conclu un contrat d’IA avec le ministère américain de la Guerre, une décision prise par la haute direction sans discussion interne
- Pacifiste et universitaire européen, il explique ne pas pouvoir participer à des travaux destinés à une armée menant des guerres d’agression et souligne son inquiétude face au fait que ce contrat puisse conduire à une surveillance de lui-même et des citoyens de l’UE
Contexte de son arrivée et les débuts chez Google
- En 2017, il lui était impossible de refuser l’offre de poste de Director of Android Platform Security ; Trump était déjà président, mais semblait encore pouvoir être contenu, et surtout Google n’était pas la même entreprise qu’aujourd’hui, neuf ans plus tôt
- Android suivait une approche open source first et venait de dépasser les 2 milliards d’utilisateurs
- Il étudiait la sécurité d’Android de l’extérieur depuis 2009, mais même si le code source était public, il était très difficile d’avoir un contact direct avec les équipes Android en interne
- C’était l’occasion de piloter de l’intérieur le système d’exploitation open source basé sur Linux le plus utilisé au monde ; il remercie Dave Kleidermacher et Nick Kralevich pour leur confiance
- En tant qu’universitaire et professeur titulaire en sécurité informatique, c’était selon lui le poste de la Silicon Valley le plus conforme à l’esprit académique et aux principes éthiques au service de l’intérêt public
- À son arrivée, les Googlers étaient encouragés, et même attendus, à apporter leur identité et leurs valeurs dans leur travail ; la culture interne était transparente et ouverte à la diversité des points de vue
Les anciennes valeurs de Google tournées vers l’intérêt public
- L’objectif de l’entreprise était d’atteindre une neutralité carbone complète, et après la contestation des employés, le contrat avec le Pentagone a été annulé (il avait signé la lettre ouverte de 2018)
- Les principes de l’IA annoncés en 2018 par Sundar Pichai définissaient explicitement les domaines à ne pas poursuivre
- Les armes et technologies qui blessent des personnes ou facilitent directement de telles blessures
- Les technologies de collecte et d’utilisation d’informations à des fins de surveillance en violation des normes internationales
- Les technologies contraires au droit international et aux principes des droits humains
- "Don't Be Evil" n’était pas qu’un slogan, mais une véritable étoile polaire (north star) pour prendre les décisions difficiles
- La devise de l’équipe Android Security était : « que l’appareil coûte 1 000 dollars ou 100 dollars, que l’utilisateur soit une célébrité ou un réfugié, nous le rendons assez sûr pour que nous-mêmes ne puissions pas le compromettre »
- L’équipe protégeait les intérêts des utilisateurs en priorité absolue, même lorsque cela pouvait entrer en conflit avec les intérêts commerciaux d’autres applications ou services de Google
Réalisations en matière de sécurité pendant son mandat
- Avec Android 10, il a fait avancer tout le secteur en activant par défaut le chiffrement complet de l’appareil même sur les appareils les moins chers
- Alors que l’attention se concentrait sur Apple, Google a discrètement introduit les sauvegardes Android chiffrées de bout en bout, établissant un standard de fait toujours pertinent dans les débats actuels entre forces de l’ordre et vie privée des utilisateurs
- Insider Attack Resistance, ARM MTE et les identifiants numériques conçus avec la vie privée comme priorité sont le fruit de collaborations visant aussi à protéger les utilisateurs contre les composantes malveillantes au sein même de Google
- Dès ses débuts, il a rencontré des experts de tout premier plan comme Dianne Hackborn, considérée comme une légende d’Android, et souligne que tous se sont montrés bienveillants avec les nouveaux venus et généreux dans le partage des connaissances
Le Google d’aujourd’hui et la décision de démissionner
- La direction de Google a discrètement abandonné l’objectif de neutralité carbone à cause de la consommation énergétique des modèles d’IA
- Plus grave encore, la direction a signé un contrat d’IA avec le ministère américain de la Guerre
- Le "any lawful purpose" du gouvernement américain actuel a déjà été démontré à plusieurs reprises comme contraire au droit international
- Ce changement n’a fait l’objet ni de discussions ni de communication en interne ; il a été décidé unilatéralement par la haute direction, alors même qu’il se trouvait auparavant dans la ligne hiérarchique managériale sans en avoir été informé par les canaux internes
- Estimant ne pouvoir soutenir sous aucune forme — explicite, implicite, directe ou indirecte — les agissements du ministère américain de la Guerre, résumé par le slogan "Maximum lethality, not tepid legality", il a conclu qu’il n’avait pas d’autre choix que de démissionner
Les deux faces de cette décision
- D’un côté, c’est une décision extrêmement difficile
- Il regrettera les personnes qui veulent encore faire le bien, les occasions de changement positif, les ingénieurs brillants, ainsi que la culture mature des blameless post-mortems et la manière dont l’entreprise traitait les échecs
- D’un autre côté, c’est devenu une décision facile car inévitable
- En tant que pacifiste, il avait depuis longtemps décidé de ne pas travailler pour une armée menant des guerres d’agression, qu’il distingue clairement d’actions purement défensives
- En tant qu’universitaire européen, il estime que le gouvernement américain actuel lui est devenu hostile et que le "any lawful purpose" inclut aussi la surveillance de masse des citoyens de l’UE
- À ses yeux, ce contrat signifie que des produits Google (IA) pourraient être directement utilisés contre lui et son entourage
La suite
- La période de préavis contractuelle est de 3 mois à compter du dernier jour du mois de dépôt de sa démission ; il restera joignable via les canaux internes pendant un temps limité jusqu’au 2026-08-31 et prévoit de finaliser et transmettre les projets en cours
- Il se retire immédiatement de tout travail sur des systèmes d’IA susceptibles de relever du contrat DoW (à sa connaissance, il n’y a pas participé jusqu’à présent)
- Ensuite, il restera joignable par divers canaux externes et prévoit de continuer à travailler sur les protocoles de communication et de stockage chiffrés de bout en bout, l’identité numérique préservant la vie privée, la sécurité des systèmes embarqués, ainsi que la sécurité des OS et de la supply chain
- Le point commun entre ces sujets reste la sécurité et la vie privée d’Android (en particulier AOSP)
- Il dit espérer sincèrement que la direction de Google retrouvera sa boussole morale
Addendum (2026-06-12)
- Sa lettre d’adieu a été rendue publique bien plus largement qu’il ne l’avait anticipé
- Il réaffirme qu’Android reste, à ses yeux, le meilleur OS mobile actuel par son équilibre entre ouverture, flexibilité et sécurité
- Il reconnaît que certaines limitations et irritations subsistent, mais dit ne pas connaître de meilleure alternative
- Les équipes Android Security et Privacy restent engagées dans une amélioration continue et cohérente de la protection des utilisateurs
- Sa décision de quitter Google ne constitue pas un jugement sur les membres de ces équipes, et il dit avoir confiance dans le fait que les équipes restantes continueront à prendre les bonnes décisions
1 commentaires
Commentaires sur Hacker News
Je n’y attache pas particulièrement d’importance, mais dire que Google a seulement maintenant perdu sa boussole morale, c’est le genre d’affirmation que seul quelqu’un assez riche pour prendre sa retraite, plutôt que simplement démissionner, peut se permettre
Google est littéralement la plus grande et la plus structurée entreprise de traçage et de profilage au monde, et avec la montée des LLM, cette ampleur ne fait qu’augmenter
Fermer les yeux là-dessus pendant tout ce temps, que ce soit par opportunisme ou autre, puis dire seulement maintenant qu’ils ont perdu leur boussole morale, ça ressemble à de l’hypocrisie
L’entreprise a continué à changer, tout en ne changeant pas tant que ça, et elle a toujours aimé tenir de grands discours sur la manière dont les autres devraient se comporter, sans presque jamais vouloir renoncer à de vrais revenus pour faire ce qui est juste
La justification habituelle était que, si Google ne le faisait pas, quelqu’un d’autre le ferait, et que cette autre personne serait évidemment moins morale que les Googlers
Si vous avez un peu d’âge, vous vous souvenez sans doute de l’époque où Google s’opposait publiquement aux publicités display intrusives et attentatoires à la vie privée. C’était au cœur de son image, avant qu’ils ne réalisent qu’ils pouvaient gagner énormément d’argent avec l’acquisition de DoubleClick
Google avait perdu sa boussole morale bien avant l’arrivée de cette personne dans l’entreprise. Ça ne veut pas dire qu’elle soit particulièrement maléfique, mais simplement qu’elle a rejoint les rangs des entreprises cotées en bourse ordinaires
Je ne comprends pas pourquoi certains agissent comme si le suivi et le ciblage publicitaires et le développement d’armes létales autonomes relevaient du même plan moral
Je ne sais pas si les remarques sarcastiques sont vraiment justifiées. Tout le monde sait que les gens chez Google n’étaient pas des bienfaiteurs parfaitement purs, mais dire qu’on peut l’accepter jusqu’à un certain point tout en refusant certains usages de l’IA dans la guerre ne me paraît pas incohérent
En d’autres termes, toutes mes actions sont enfin acquises, et comme personne ne pouvait savoir en 2017 que Google n’était pas un bastion d’espoir éthique, je suis maintenant devenu suffisamment riche et indépendant pour envoyer le signal que je démissionne uniquement pour des raisons morales
Cela dit, l’expression « Google a perdu sa boussole morale » n’a en réalité jamais vraiment été juste
À ce stade, il est assez clair que les entreprises ne réagissent qu’aux flux économiques, et que ces flux sont déterminés par ce que les gens veulent réellement. En général, je dirais que ce sont les gens qui ont perdu leur boussole morale. Pas dans ce qu’ils disent, mais dans leurs votes politiques et dans leurs choix de consommation
Personnellement, je ne comprends pas très bien pourquoi les gens refusent par principe toute collaboration avec l’armée. Je comprends le pacifisme, mais j’ai quand même du mal à l’admettre
L’histoire regorge de tragédies causées par la faiblesse. Par exemple, l’Allemagne et l’Union soviétique ont toutes deux pu envahir la Pologne, et le massacre de Katyń reste une blessure nationale. Qui ne voudrait pas repousser un envahisseur comme Gengis Khan ? Avez-vous déjà entendu parler du massacre de Yangzhou ou des trois massacres de Jiading ? Pourquoi faudrait-il laisser la civilisation céder devant la barbarie ?
Ne vous méprenez pas. Je déteste la guerre. Je suis sans fin en colère contre les guerres sans fin comme celle d’Irak, et je pense que G.W. Bush et son cabinet étaient vraiment maléfiques. Bien sûr, le danger est réel. Même une armée créée pour la défense peut facilement devenir un outil de tyrannie ou d’impérialisme si elle n’est pas contrôlée. C’est pourquoi il faut maintenir un strict contrôle civil ainsi que des contre-pouvoirs et un équilibre des pouvoirs. Mais cela ne veut pas dire que l’armée est, par nature, toujours mauvaise, non ?
Ils n’ont pas besoin d’affronter pleinement ce fait fondamental de leur existence : ils bénéficient de manière disproportionnée de la prospérité mondiale, à un degré qui aurait été impossible sans une puissance militaire écrasante. Je doute que les gens vivant en Ukraine parlent ainsi
En vieillissant, je me surprends à être de plus en plus d’accord avec le colonel Jessup : https://www.youtube.com/watch?v=9FnO3igOkOk
Ce pays devient de plus en plus hostile à ses alliés et fait sur la scène internationale des choses étranges qu’il est difficile de justifier
Tous les choix de politique étrangère sont alignés sur la prévention d’un affrontement militaire et d’une guerre nucléaire. Cela crée donc une tendance excessive à vouloir résoudre les conflits par la diplomatie
Mais la plupart des gens ne le comprennent pas et supposent que la paix d’aujourd’hui, soutenue par les armes nucléaires, est réelle et permanente. Ils ne tiennent pas compte des armes nucléaires enfouies sous terre et défendent des politiques comme le pacifisme qui ne reflètent pas la réalité
La situation actuelle se résume à cette phrase : les temps difficiles font des hommes forts, les hommes forts créent les temps prospères, les temps prospères font des hommes faibles, et les hommes faibles créent les temps difficiles
Je suis écrivain, et la semaine dernière, en relisant un de mes livres écrit plusieurs années avant l’arrivée des LLM, j’ai tiqué en voyant que j’avais moi-même utilisé une structure du type « X n’est pas Y, c’est Z »
Maintenant, ça me pose un dilemme moral. Ça ressemble tellement à cette voix robotique de LLM insupportable que j’ai envie de corriger la phrase dans la prochaine édition. Mais en même temps, c’est bien moi qui l’ai écrite, pas un LLM, donc j’ai aussi envie de la laisser. Voilà le genre de dilemme moral auquel les humains doivent faire face !
Ça m’arrive aussi parfois de déverser mes idées dans un LLM, de le laisser les organiser, puis de retravailler plusieurs fois ce que je veux vraiment dire
J’ai lu Zen and the Art of Motorcycle Maintenance il y a une vingtaine d’années, et ce qui m’est resté, c’est l’idée qu’écrire devient difficile si l’on essaie de décider en même temps quoi dire et comment le dire. Déverser ses idées dans un LLM est une façon d’obtenir de l’élan
En revanche, le schéma de parallélisme négatif que les LLM surutilisent me rend vraiment dingue, et je dois toujours l’effacer à la main. Je me demande même si cette manière de penser a un avantage en programmation. Par exemple, en code, la négation défensive peut améliorer la qualité, mais en écriture, quand on en abuse, ça dilue un bon texte
Mais que fera-t-on si l’on perd même cette impression qu’on peut encore déterminer avec une assez forte probabilité si quelque chose a été produit avec l’aide d’un LLM ?
Vous considérerez que ce n’est pas grave puisqu’on ne peut de toute façon plus faire la différence, ou bien vous ne lirez plus rien par peur de consommer une production assistée par LLM ?
Moi, ça me va tant que ce n’est pas bourré de signaux typiques. Sinon, c’est juste de la mauvaise écriture et je n’ai pas envie de la lire
« Regarde ce que j’ai fait avec Claude, les LLM vont changer le monde ! »
« Bof, l’auteur a utilisé un LLM pour écrire son billet de blog »
Ce qui m’étonne, c’est qu’il ait fallu 8 ans à l’auteur pour adopter une position éthique. Pendant ce temps, l’action Google a pris 600 %
En tant qu’ancien employé de Google, affirmer que Google n’aurait perdu sa boussole morale que dans les années 2020 est complètement ridicule
Et laisser entendre qu’en 2017, quand cette personne a rejoint l’entreprise, Google avait encore une boussole morale, c’est absurde
C’est une blague totale, il faudrait un peu d’introspection
Je ne comprends pas l’ambiance négative ici
C’est un expert de tout premier plan en sécurité, et diriger la sécurité de la plateforme Android était une occasion d’avoir un impact extrêmement positif sur beaucoup de gens. Et c’est effectivement ce qu’il a fait pendant 10 ans
Les gens arbitrent entre plusieurs facteurs contradictoires. Au départ, il avait peut-être une ambition élevée, intéressante et tournée vers la recherche : appliquer à Android des idées nouvelles ; et aujourd’hui, il a peut-être réalisé une grande partie de cela. Il considère donc peut-être maintenant d’autres facteurs
C’est affreux de supposer que les gens ne sont mus que par l’argent, ou qu’ils ont pris cette décision parce que leur patrimoine personnel a dépassé un certain seuil. C’est encore pire si vous ne connaissez pas la personne
Presque tous les universitaires que je connais sont motivés par la curiosité personnelle, l’ambition intellectuelle, le besoin de trouver et résoudre des problèmes, et un fort désir de contribuer positivement. Moi aussi, je suis universitaire, je connais Rene, et je pense que cela s’applique aussi à lui
S’il a gagné de l’argent grâce à son travail, tant mieux
J’ai l’impression de ne plus être dans la minorité. L’attitude générale de ce fil est peut-être « négative », mais elle est bien plus réaliste et exprime une vérité plus directe
Comme toujours, j’ajouterai que cette personne devrait rendre tout l’argent que Google lui a versé. Bien sûr, dans toute l’histoire de ces textes vertueux, cela n’est encore jamais arrivé une seule fois, et donc le mème continue
On dirait que chacun avance une date arbitraire, selon sa propre boussole morale, pour le moment où Google a perdu la sienne
Dans cette logique, j’ai l’impression que Google est devenu maléfique au moment où Brin et Page ont publié un article expliquant que PageRank ne pourrait jamais bénéficier aux consommateurs s’il était combiné à la publicité, puis ont lancé ensuite une entreprise publicitaire fondée sur PageRank
L’ensemble du business de Google repose sur l’abandon de toute boussole morale par ses dirigeants
Sergey Brin et Larry Page ont écrit : « un moteur de recherche financé par la publicité sera intrinsèquement biaisé en faveur des annonceurs et s’éloignera des besoins des consommateurs ». Et malgré cela, ils se sont finalement lancés dans la publicité