Le micro de détection de tirs de Flock commence désormais à détecter aussi les voix humaines

• Le nouveau micro de détection de Flock intègre désormais une fonction capable d’entendre aussi les voix humaines et les signaux de détresse
• Cet appareil était jusqu’ici utilisé pour la détection de coups de feu, mais il tente désormais aussi de détecter les situations d’urgence touchant les citoyens
• Des risques de problèmes juridiques émergent, notamment autour de l’atteinte à la vie privée et de la controverse sur l’écoute illégale
• Dans certaines villes, la résiliation des contrats avec Flock et les ordres de retrait ont déjà commencé, avec des tensions aggravées par des réinstallations répétées
• Les inquiétudes grandissent quant à une hausse des risques pour les citoyens innocents et à une atteinte aux libertés civiles

---

Le micro de détection de tirs de Flock ajoute la détection de la voix humaine

Présentation de Flock Safety et de la nouvelle fonction

• Flock Safety est une entreprise de technologie policière qui exploite à l’échelle des États-Unis un réseau de lecteurs automatiques de plaques d’immatriculation (ALPR)
• Le nouveau produit présenté est la série de micros Raven, qui affirme utiliser la détection acoustique dans les espaces publics pour identifier des signaux de « détresse humaine »
• Jusqu’ici, ces appareils étaient utilisés pour la détection de coups de feu et l’alerte à la police, mais ils sont désormais aussi promus pour la détection de « situations d’urgence (comme des cris) »

Incertitudes et inquiétudes autour de la nouvelle fonction

• Dans les supports promotionnels de Flock, on voit des alertes envoyées à la police lorsqu’une voix de détresse, comme un « cri », est détectée
• Mais la méthode réelle de détection et de classification des voix n’est pas clairement rendue publique, ce qui laisse son fonctionnement opaque
• Les systèmes existants de détection acoustique de tirs déclenchaient déjà fréquemment de faux positifs à cause d’explosions de voitures, de feux d’artifice, etc.
• Il existe un risque de conflit juridique avec les lois interdisant les écoutes clandestines et l’enregistrement de conversations privées (dites eavesdropping law)

Problèmes juridiques et ratés déjà survenus

• Par le passé, dans l’Illinois, Flock a été poursuivie pour violation du droit de l’État et pour partage de données de véhicules avec l’ICE
• En 2023, en Caroline du Nord, une interdiction d’installation a été prononcée parce que l’entreprise exploitait l’équipement sans licence
• Dans la ville d’Evanston, même après la résiliation du contrat avec Flock, l’entreprise a réinstallé l’équipement de sa propre initiative ; des bandes noires temporaires ont été apposées sur ces appareils

Des doutes sur l’utilité réelle de la technologie

• Selon un rapport d’un comité citoyen de surveillance de l’Illinois, plus de 99 % des alertes Flock ne débouchent sur aucune intervention policière réelle
• Le risque pour des citoyens innocents lors d’interventions de police déclenchées par de fausses alertes de tirs est déjà devenu une réalité (ex. : l’affaire ShotSpotter à Chicago)
• L’extension vers la fonction de « détection de détresse » pourrait accroître des risques juridiques, liés aux droits humains et physiques inattendus

Résumé général

• L’extension de la technologie de détection audio de Flock Safety est l’une des principales causes d’une montée des atteintes involontaires à la vie privée et des controverses sociales
• En raison de problèmes juridiques et éthiques, certaines collectivités ont commencé à résilier leurs contrats et à retirer les équipements
• Les demandes augmentent aussi pour obtenir une explication technique claire de cette nouvelle fonction et davantage de transparence
• Un climat de réexamen critique se diffuse quant à l’utilité du produit et à sa contribution réelle à la prévention de la criminalité

[GN⁺]

Avis Hacker News

• Il est profondément déprimant de voir que tout est désormais remplacé par un utilitarisme centré sur le profit, au détriment des valeurs américaines d’autrefois ; dans l’industrie technologique, il n’y a presque plus de débat sur les valeurs ni sur le type de société que nous voulons construire, on dirait que tout se résume à « améliorer un peu un problème et gagner de l’argent », et c’est donc le monde qui nous attend
  • J’ai parlé d’utilitarisme centré sur le profit, mais ça ne mérite même pas ce nom ; à mes yeux, on est presque dans la corruption criminelle. Ces entreprises n’arrivent même pas vraiment à gagner de l’argent, alors elles survivent artificiellement grâce à des contrats publics ; si elles devaient affronter le marché privé, elles feraient peut-être faillite avant la fin de l’année. Il y a aussi une direction très claire derrière ce mouvement ; ils ont une vision précise et sont prêts à tout pour la réaliser. C’est pour ça que l’application du droit antitrust me paraît essentielle. Désormais, les entreprises « trop grosses pour faire faillite » sont devenues la norme
  • Ça me fait penser aux « détecteurs de vapotage » utilisés dans les écoles : on peut les configurer pour détecter le bruit ou certains mots, mais en pratique on fait passer ça en expliquant qu’il ne s’agit que de reconnaissance de motifs à partir d’audio brièvement stocké en mémoire, ce qui permet d’esquiver discrètement les questions de violation des lois sur les écoutes
  • J’ai l’impression qu’une fois qu’une chose est effectivement déployée, il n’y a plus d’espace pour la polémique ou la discussion ; le débat ne commence vraiment qu’une fois les conséquences déjà visibles
  • Je me demande si tu as lu <i>The Technological Republic</i>, parce que ce que tu viens de dire ressemble presque exactement à ce que défend le CEO de Palantir dans ce livre ; il y dit qu’il faut discuter de ce qu’est une « bonne vie », même si paradoxalement il semble arriver à une conclusion assez différente sur la surveillance
• J’ai lu la déclaration de Garry Tan (CEO de YC) sur X disant en substance « vous pensez sans doute à une surveillance à la chinoise, mais une surveillance à l’américaine peut aider les victimes » ; j’ai du respect pour Garry, mais je ne comprends pas pourquoi il pense que la ligne qu’il franchit sur la question centrale est une ligne sur laquelle tout le monde devrait être d’accord ; au fond, toutes les armes ont servi à blesser l’humanité
  • J’ai passé des années à essayer d’empêcher l’arrivée de Flock dans notre communauté, et les avis y sont extrêmement divisés. L’endroit où je vis fait pourtant partie des rares collectivités les plus progressistes des États-Unis, mais le débat autour de Flock ne se résume pas à un simple tracé de ligne idéologique ; en réalité, les gens s’affrontent très durement sur cette technologie
  • J’ai vu la publicité exagérée affirmant que « Flock Safety résout 10 % des crimes dans tout le pays ». Il n’y a aucune donnée pour l’étayer. J’ai moi-même reçu un PV pour excès de vitesse à cause de ce système, donc je me demande si ça compte aussi comme crime résolu. Il est vrai que la surveillance peut aider les victimes, mais elle peut aussi menacer les libertés civiles. Au bout du compte, nous devons avoir le droit de décider nous-mêmes jusqu’où nous sommes prêts à céder nos libertés. J’ai l’impression d’avoir trop regardé Person of Interest lien
  • Je ne sais pas trop qui est Garry et ça m’intéresse peu, mais ce genre d’argument est sophistique ; c’est une controverse qui vient de la contradiction fondamentale du business auquel il appartient. S’il était vraiment avisé, il se tairait tout simplement
  • Tu disais respecter Garry, mais en entendant ce type de rhétorique, ça devient de plus en plus difficile à dire ; l’argument du « ma bombe ne tue que les méchants » est fondamentalement soit ignorant, soit malveillant
  • Cet argument peut fonctionner dans les deux sens. Il y a l’exemple de la dissuasion nucléaire (MAD), qui a fortement réduit la guerre elle-même et a au contraire sauvé davantage de vies. Je reconnais le risque de fat tail lié à la violence, mais je ne pense pas que l’argument de Tan soit irrationnel. On voit bien, en regardant le Royaume-Uni saturé de caméras CCTV, qu’une société peut conserver une certaine rationalité tout en vivant sous un certain niveau de surveillance
• Comme dans la formule « aujourd’hui la souffrance humaine, demain tout ce qui est humain », Flock finira par tout surveiller dès que ses limites techniques seront levées ; cette entreprise n’a que l’argent pour objectif et son sens moral est éteint, elle est prête à vendre n’importe quoi à la police et au gouvernement. Chaque fois que je vois ce genre de nouvelles, je donne systématiquement 20 $ à l’EFF ou à l’ACLU
  • Le problème, c’est aussi que « le gouvernement nous impose ce fardeau, puis finit par acheter ça avec notre propre argent » ; on nous transfère de force le coût
  • Je m’attends à ce qu’on entende bientôt l’excuse selon laquelle « écouter les conversations ordinaires permet d’empêcher des crimes graves » ; ce genre de choses commence toujours modestement, par étapes
• La pente vers l’enfer est extrêmement raide, et j’ai l’impression que des temps plus sombres nous attendent. J’aimerais demander aux défenseurs de la technologie : si la NSA et Palantir nous surveillent déjà tous les deux, pourquoi le taux de terrorisme aléatoire a-t-il au contraire augmenté ? Le but principal de ces systèmes de surveillance n’était-il pas justement de l’empêcher à l’avance ?
  • Je me demande si c’est vraiment vrai que « le taux de terrorisme aléatoire a augmenté après la surveillance de la NSA et de Palantir ». À mon avis, de les années 1990 jusqu’avant 2020, la criminalité a plutôt reculé. Depuis 2020, le monde a tellement changé que la comparaison devient difficile
  • J’aimerais connaître le scénario contrefactuel ; tant qu’on ne sait pas combien d’attaques ces outils ont empêchées en amont, on ne peut même pas connaître la ligne de base
  • Il n’est pas raisonnable d’attendre de la vie privée dans l’espace public, que ce soit pour la vidéo ou pour l’enregistrement audio
  • Je trouve que l’expression « terrorisme aléatoire » (stochastic terrorism) est elle-même un peu étrange ; au fond, le terrorisme est déjà une violence aléatoire par nature
• Précision : il s’agit de Flock (YC 2017)
  • On ne met presque plus la promo YC dans les titres des soumissions maintenant, sauf pour Launch HN
  • Il y a beaucoup d’idées qui sont mauvaises pour la société dans son ensemble mais bonnes pour les entreprises ; chez YC, le business passe toujours d’abord
• Comparé à ce qui vient, l’État de surveillance de 1984 semblerait presque modéré ; si la technologie continue de progresser, il ne faudra pas longtemps avant que chacun de nos faits et gestes soit surveillé en temps réel. La vraie question, désormais, est de savoir qui aura accès à ces données et qui les contrôlera
• Je trouve fascinant que quelqu’un puisse croire qu’une technologie comme celle-ci ne sera absolument jamais détournée
  • Ils l’ont vraiment promis. Peut-être même juré petit doigt en l’air. (Et les hackers aussi ont promis de ne jamais voler les données)
• L’étape logique suivante, c’est de remplacer ça par le micro de poche que nous transportons tous chaque jour lien YouTube
  • En 1960, tout le monde disait qu’il était impossible de proposer « que chaque citoyen porte sur lui un traceur radio », et en 2012 c’était devenu réalité avec « deux iPhone, c’est bon ? »
• « Maintenant que tout le monde est surveillé et enregistré en permanence, tout le monde aura forcément un comportement exemplaire » lien YouTube
• Nous sommes filmés dans la rue, aux feux rouges, par les voitures de police et les drones, dans les parcs, et même par les caméras de sonnette. Je ne dis pas ça comme une plaisanterie, mais l’époque où les grands écrans de 1984 nous observaient ne me semble plus très lointaine
  • Maintenant qu’il existe des LLM vraiment très performants, il n’est même plus nécessaire qu’un humain surveille ou écoute directement ; les flux de données peuvent être automatiquement analysés et résumés pour détecter des comportements indésirables, certains mots, des signes suspects ou même des hallucinations. À une époque où des agents masqués enlèvent de force des citoyens dans le pays et où, à l’étranger, des drones autonomes bombardent, l’avenir ne paraît pas radieux. Pour l’instant, c’est encore du semi-autonome
  • Au moins, on peut se consoler en se disant qu’il n’y a pas de dispositif d’écoute à l’intérieur de nos maisons
  • J’ai le sentiment qu’il nous faut des outils de défense citoyenne plus pacifiques
  • Divers magnats de la tech, dont Larry Ellison, défendent cette logique d’État de surveillance selon laquelle « si tous les comportements sont toujours enregistrés et surveillés, alors tout le monde se conduira de manière exemplaire ». Ellison, Vance, Musk, Thiel, Luckey, Zuckerberg et d’autres veulent construire leur propre État de surveillance, et ils ont déjà bien avancé. Reste à savoir ce que nous allons faire pour l’empêcher article connexe
  • Nous entrons même dans une époque où l’on peut détecter le rythme cardiaque rien qu’avec le signal Wi‑Fi, si bien que les primes d’assurance pourraient bientôt évoluer à la seconde près. « Quand l’État et les grandes entreprises vous surveillent ensemble par traçage intrusif, voilà la dystopie positive ! » (à moitié une blague, à moitié sérieux) article sur la mesure du rythme cardiaque via Wi‑Fi