Tesla a dissimulé des données et induit la police en erreur pour éviter d'assumer la responsabilité d'un accident d'Autopilot

 (electrek.co)
1 points par GN⁺ 2025-08-05 | 1 commentaires | Partager sur WhatsApp
  • Tesla a tenté, dans un accident lié à l'Autopilot, d'éluder sa responsabilité en dissimulant des données essentielles et en faisant de fausses déclarations
  • Peu après l'accident, elle a caché les données de « snapshot de collision » téléchargées du véhicule vers le serveur et a soutenu auprès de la police et du demandeur qu'elles n'existaient pas
  • Tout au long des procédures judiciaires et d'enquête, Tesla a poursuivi une stratégie de fourniture d'informations délibérément inexactes aux demandes de données et de déformation de preuves clés
  • Grâce à l'analyse d'experts forensiques externes et aux mesures coercitives du tribunal, les données dissimulées ont finalement été rendues publiques, et l'analyse interne de Tesla a également confirmé le fonctionnement de l'Autopilot
  • Le jury a attribué 33 % de la responsabilité de l'accident à Tesla, et il a été établi que le geofencing et la surveillance insuffisante du conducteur de l'Autopilot ont été l'un des facteurs ayant empêché la prévention de l'accident

Introduction

Les détails complets d'une affaire dans laquelle Tesla a dissimulé des données et induit en erreur, pendant plusieurs années, la police, le tribunal et le demandeur après un accident mortel de voiture lié à l'Autopilot en 2019 ont été rendus publics par les pièces du procès. Ce résumé présente, de manière chronologique, le processus d'effacement et de manipulation des preuves orchestré par Tesla après l'accident et ses conséquences.

Accident et dissimulation des données

1 | 25 avril 2019 – Survenue de l'accident et upload immédiat des données

  • Dans les 3 minutes suivant l'accident, les données de la vidéo des capteurs du véhicule, du bus CAN, de l'EDR, etc. ont été transmises au serveur dans le fichier « snapshot_collision_airbag-deployment.tar »
  • Une copie locale du véhicule a été supprimée ; en pratique, ces données n'étaient accessibles qu'à Tesla
  • Un ingénieur d'analyse forensique a confirmé l'existence de ces données en analysant l'ordinateur embarqué du véhicule
  • Tesla a déposé une fausse réponse aux demandes de preuve légales en affirmant que ces données n'existaient pas

2 | 23 mai 2019 – L'avocat de Tesla pousse à la rédaction directe d'une demande officielle de la police

  • Le sergent Riso des routes de Floride a demandé à Tesla les données de collision
  • En dictant directement le contenu d'un document officiel, l'avocat de Tesla a exclu les véritables données de collision (en ne fournissant que des données secondaires, comme des logs de divertissement)
  • Bien que Tesla disposât déjà de ces données, elle a caché ce fait à la police et au demandeur

3 | Juin 2019 – Un processus d'extraction de données à la coopération douteuse

  • La police a saisi directement l'ECU et le MCU de l'Autopilot du véhicule
  • Tesla a tenté d'extraire les données dans un centre de service ; pourtant un technicien interne a déclaré qu'il n'était pas familier avec la procédure et a invoqué une « altération des données »
  • Par la suite, un ingénieur forensique a réussi à accéder aux données depuis cet ordinateur, prouvant qu'elles existaient réellement

4 | 2019–2024 – Dissimulation et mensonges répétés concernant les données

  • Pendant plusieurs années, malgré le fait que Tesla avait déjà récupéré les données, elle a systématiquement soutenu, face aux demandes de la police et du tribunal, qu'elles étaient absentes ou endommagées
  • Elle a avancé l'argument de l'existence d'une fonction de suppression automatique des données
  • Les données n'ont été partiellement admises qu'après leur existence confirmée par des preuves forensiques ou par la contrainte judiciaire

5 | Fin 2024 – Extraction forcée des données par le tribunal

  • Par ordre du tribunal, l'expert du demandeur a réalisé l'image complète de la mémoire NAND flash de l'ECU Autopilot
  • Une tâche que Tesla prétendait impossible a été effectuée avec succès par un expert externe, avec récupération complète des données

6 | Février–mars 2025 – Preuves décisives obtenues via l'analyse forensique

  • Ont été récupérées des métadonnées clés du nom de fichier « snapshot_collision_airbag-deployment.tar », des checksums et des chemins serveur
  • Contrairement aux données précédemment fournies par Tesla, celles-ci comprenaient de nombreux journaux décisifs, notamment le fonctionnement de l'Autopilot juste avant et après la collision, les signaux d'alerte, ainsi que les données de carte/vision
  • Bien que le drapeau cartographique indiquait cette zone comme une « restriced Autosteer zone », l'Autopilot a continué de fonctionner sans désembulement ni alerte

7 | Mai 2025 – Tesla se retrouve acculé par la production des logs serveur et des preuves

  • La partie demanderesse a confirmé, via la convocation des logs AWS, que le fichier avait été stocké sur le serveur dès le 25 avril 2019 à 18:16 (PDT)
  • L'analyse interne de Tesla a clairement confirmé l'utilisation de ce fichier, le fonctionnement de l'Autopilot et que le conducteur avait retiré les mains du volant
  • Aucune donnée n'a été fournie ni à la police ni à la famille de la victime

8 | Juillet 2025 – Examen du verdict du jury

  • Le jury a constaté la publication des données d'accident et la tentative systématique de dissimulation de Tesla
  • Contenu réel des données : Autopilot/Autosteer pleinement opérationnels, aucune intervention manuelle du conducteur
  • Aucune alerte ; le système a réagi de manière insuffisante à l'entrée en zone restreinte (Autopilot activé sur une route hors zone conçue pour les autoroutes)
  • Le NTSB avait déjà recommandé à Tesla de renforcer le geofencing et la surveillance du conducteur pour prévenir les usages abusifs du système
  • La négligence du conducteur était la cause directe, mais le jury a attribué à Tesla une part minimale de responsabilité (33 %) en raison de failles systémiques

Commentaire d'Electrek

  • Les critiques minimisent ce cas comme une demande d'indemnisation indue de la part du demandeur, tandis que du point de vue des familles, il met en avant la légitimité de faire la lumière sur les faits et d'éviter la répétition
  • La responsabilité directe incombe au conducteur, mais Tesla partage une partie importante des responsabilités en raison de l'absence de limitations suffisantes d'utilisation de l'Autopilot, du manque d'alertes de danger et de la tentative de se défausser de ses responsabilités
  • Après examen de toutes les preuves, les 12 jurés ont attribué 33 % de la responsabilité à Tesla, ce qui peut être considéré comme une décision équitable
  • Cette décision de jurisprudence confirme l'importance de la confiance dans les systèmes Autopilot, de la transparence des données et de la clarification des responsabilités

À lire aussi

1 commentaires

 
GN⁺ 2025-08-05
Avis de Hacker News
  • Il est incompréhensible que Tesla conserve les données d'un accident et les analyse en interne sans les fournir aux enquêteurs. Je peux comprendre la non-conservation de données pour protéger la vie privée, mais si elles sont détenues et qu'une assignation légale existe, elles doivent absolument être remises. Pour mémoire, dans cet accident, le conducteur allait trop vite, utilisait l'Autopilot 2019 (pas de conduite totalement autonome) sur route urbaine (pas un environnement prévu à l’origine), et, en ramassant un téléphone tombé au sol, a appuyé sur la pédale d'accélération au point d'ignorer même le freinage automatique. Dit autrement, cet accident n'est pas dû à une faute de Tesla, ce qui rend son occultation de données étrange. Il est plus probable qu’il s’agisse d’incompétence que d’intention.
    • Selon le snapshot de l'accident, le conducteur n'avait pas les mains sur le volant (il les avait retirées), l'autosteer contrôlait la direction malgré un avertissement de géo-fence, et l'approche d'un carrefour en T à grande vitesse s'est faite sans message d'alerte. Permettre l'utilisation de l'Autopilot dans de telles conditions, c'est de la négligence de Tesla. Au vu du marketing de Tesla, 33 % de responsabilité dans le verdict me semblent parfaitement justifiés. Le simple fait d'avoir caché les données dit déjà beaucoup sur sa vision de la sécurité. Vu les propos souvent trompeurs de Musk sur les systèmes de conduite autonome, ce n'est pas vraiment surprenant.
    • Le rasoir de Hanlon (le mème « l'incompétence plutôt que la malveillance ») doit désormais disparaître. L'incompétence d'un acteur en position de pouvoir, c'est de la malveillance pure et simple.
    • En tant que propriétaire de Tesla, ce que je vois surtout comme principal problème logiciel, c'est que la plupart des consommateurs ne comprennent pas bien la différence entre « Autopilot » et « FSD ». FSD s'arrête aux feux et aux intersections, alors que l'Autopilot est en pratique un cruise control autoroutier. Les deux modes s'activent de la même manière et leur comportement dépend d'un abonnement/mise à niveau FSD, ce qui n'est pas évident pour le grand public. Un proche qui avait loué une Tesla ne savait même pas que seul l'Autopilot était activé et s'attendait à ce qu'elle s'arrête au carrefour, et a paniqué. J'aimerais que Tesla supprime totalement l'AP de 2019 et fournisse à tous un FSD limité, ou qu'elle limite l'usage de l'AP aux autoroutes.
    • https://electrek.co/2025/08/… Tesla soutient que le verdict est erroné et que l'appel ne ferait que freiner la sécurité automobile, au lieu de soutenir une technologie censée sauver des vies. Le jugement a attribué la plupart de la responsabilité au conducteur, mais, selon les preuves, il était entièrement responsable par sa vitesse excessive, son mépris de l'Autopilot et sa distraction; en 2019 comme aujourd'hui, il n'y avait pas de moyen de prévenir ce type d'accident. Tesla affirme que la partie civile a déformé les faits. Ce qui m'échappe, c’est que DJI aurait supprimé la géo-fence vers 2025 avec l’aval de la FAA, car celle-ci soutenait le principe que l’opérateur du matériel en répondait. Avec ce type de jurisprudence sur la responsabilité des fabricants, on se retrouve avec une technologie de mauvaise qualité. C’est ainsi que des dispositifs radio, voire des bootloaders, deviennent difficiles à utiliser car verrouillés sans code source ouvert. Je pense que Tesla ressent le besoin de poursuivre cette bataille; sinon on pourrait voir arriver un scénario où les fabricants de téléphones désactiveraient automatiquement le smartphone dès qu'on circule sur le bord d'une route.
    • Le problème fondamental de ce dossier est que le système de Tesla a généré une confiance dans une manière que le conducteur n'attendait pas. Les jurés ont critiqué le surpromoteur de Tesla et sa volonté de cacher les preuves.
  • À propos du verdict indiquant que Tesla a « supprimé localement » les données de collision, je me demande quelle justification on peut donner à une telle décision. Le flux semble être: agréger en tar les données capteurs, vidéo, CAN-bus, EDR dans les 3 minutes, les uploader sur le serveur, puis supprimer la copie locale. C'est comme si la boîte noire d’un avion uploadait vers les serveurs FAA puis supprimait les données, j’ai du mal à voir l’intérêt d’introduire une complexité qui réduit la fiabilité.
  • Sans responsabilité pénale pour ce type d’actes, les choses ne changeront pas. Depuis 2019, la valeur boursière de Tesla a fortement grimpé, et l’amende de 329 millions de dollars est une somme minime à l’échelle de l’entreprise.
    • Le point clé, c’est de comparer cela au coût de prévention, pas à la valeur de marché totale. Ces 329 millions sont bien supérieurs au coût des systèmes d’alerte supplémentaires et de l’application de la géo-fence. Et il ne s’agit que d’un seul accident, avec 756 incidents supplémentaires ensuite. Si l’on devait indemniser de la même façon, on perdrait 80 % de la capitalisation actuelle. Avec un coût moyen d’accident de 56 millions de dollars (règlement, litige, perte de chiffre d’affaires, etc.), le bénéfice net disparaîtrait entièrement. Un tel risque n’est pas tenable.
    • Les 329 millions de dollars ne sont pas une somme négligeable pour n'importe quelle entreprise; c’est une somme énorme pour Tesla aussi.
  • Cacher des données de cette façon est une erreur monumentale de la part de Tesla. Même indépendamment de la conclusion sur la faute de l'accident, la tentative de destruction de preuve est déjà le problème. Si l’on considère qu'Autopilot est un « cruise control », dire que Tesla a fauté ne va pas dans les standards habituels des aides à la conduite. Le fait de bloquer cette fonction est une chose, l’avoir la possibilité de le faire n’en est pas une. L’essentiel se joue sur l'interprétation du discours marketing. Si vous pensez que « Autopilot » est une source de confusion, vous validerez le verdict des jurés; sinon, l’inverse. Pour ma part, je ne suis pas un avocat qui maîtrise toutes les réglementations. Même si le réel problème est qu’un conducteur imprudent a ignoré les alertes Tesla sans être tenu responsable, je trouve le verdict injuste. Les alertes étaient nettement plus claires et détaillées que celles des autres marques. Franchement, je pense aussi que l’atmosphère politique a joué. J’aimerais entendre des contre-arguments. Pour l’anecdote, je conduis aussi une Tesla.
  • L’exemple de Vitaminwater me revient en tête. Le Center for Science in the Public Interest a intenté une class action contre Vitaminwater pour marketing trompeur sur une « boisson santé », et Coca-Cola a répondu que personne de normal ne croit acheter une boisson santé.
  • Faut-il croire que Tesla a mieux travaillé la conception des messages d’alerte ou son marketing? Quand une entreprise vend « cette voiture roule toute seule » et affiche ensuite « gardez les yeux sur la route en permanence », le consommateur fera naturellement confiance au premier message. Les autres marques ont aussi des conducteurs qui ignorent les avertissements, mais personne ne pousse autant le public à ignorer ces messages que Tesla, avec un marketing aussi agressif et aussi efficace. C’est la vraie différence.
    • Sur l’argument « Autopilot est un cruise control », la promesse de Tesla est bien plus large. Définition de l’Autopilot: « un dispositif qui maintient la trajectoire d’un avion/véhicule sans intervention du conducteur »; un cruise control: « un dispositif électronique qui maintient une vitesse constante sans pédale d’accélération ».
    • L’affirmation selon laquelle le conducteur ne peut être exonéré que s’il ignore de nombreuses alertes est contradictoire avec l’article, qui indique qu’aucune alerte n’est apparue avant l’accident. Je me demande donc lesquelles ont été ignorées.
    • L’idée que l’Autopilot équivaut à un cruise control ne colle pas à la réalité. Tesla cible depuis des années activement des clients qui ne comprennent pas bien les limites et le naming du système qu’elle promeut. Ceux qui connaissent bien les limites d’un système privilégient au contraire des marques qui communiquent plus franchement. Le marché s'est peut-être orienté vers une clientèle plus extrême, mais Tesla continue de provoquer volontairement la confusion chez les consommateurs et doit en répondre.
  • En réalité, Tesla collecte presque toutes les données d’accident et les conserve privées quand elles lui sont défavorables, alors qu’elle relaie volontairement vers les médias les cas où la faute semble être au conducteur. C'est pour ça que je ne veux presque qu'une raison pour ne pas acheter de Tesla. Je veux une auto d’un constructeur qui ne collecte pas de données, ou qui ne met pas les conducteurs en difficulté avec elles.
  • Il est vraiment positif que ce sujet devienne public. Tesla a montré depuis longtemps ce comportement, et ne ressent vraiment la pression que récemment en concluant sur certains procès. C’est typiquement un comportement criminel. Intéressant aussi: cet article n’apparaît pas en page principale sur HN. Quand le secteur verra qu’un acteur phare de l’IA, de la robotique et de la tech fait ça au grand jour, on comprendra que l’écosystème est surtout une façade et d'autres absurdités sortiront. J’attends avec impatience l’éclatement de cette bulle de « carte sur carte ».
  • Je veux comprendre comment on a pu justifier la mise en place d’une suppression automatique des snapshots embarqués.
    • https://en.wikipedia.org/wiki/Tampering_with_evidence
    • Les fichiers supprimés étaient ceux empaquetés pour livraison au serveur, pas l’intégralité des données brutes. C’est moins une action malveillante qu’un comportement de code simple pour éviter les fichiers jetables.
    • L’article seul ne permet pas de connaître toute l’architecture, mais dans un système embarqué, il est naturel de générer/charger des fichiers temporaires à des fins de diagnostic puis de les supprimer pour éviter de saturer le stockage. Si les données sources avaient été supprimées, ce serait grave; ce n’est pas le cas ici, donc je ne pense pas qu'il faille y voir quelque chose de majeur.
  • La terminologie de l’article est confuse, et il est difficile de déterminer si c'était le FSD ou l’autosteer qui contrôlait la voiture au moment de l’accident. D’après mon expérience, l’autosteer peut ignorer feux et lignes d’arrêt. Et théoriquement, le simple fait de pouvoir utiliser la télémétrie dans un accident de voiture est déjà remarquable; les accidents de voitures classiques ne laissent quasiment aucune donnée. C’est là que Tesla reste particulier.
    • C’est bien une fonction Autopilot. La distinction des termes compte.
    • En 2019, le FSD n’existait pas.
  • Ce que dit l’article sur le fait que « l’enquêteur pensait que Tesla coopérait » montre aussi un échec de l’organisme enquêteur.
    • Pas du tout. Les enquêteurs cherchent d’abord une coopération de bonne foi sur les données; ce n’est que s'ils estiment une rupture de bonne foi qu’ils interviennent de manière contraignante.
  • Les entrants tardifs de l’industrie des voitures autonomes semblent miser sur la fatigue des autorités pour faire baisser, par inertie, les standards de sécurité. C’est un pari sur la capture réglementaire par les clivages politiques pour déclarer une voiture sûre.
    • Aux États-Unis, il n’y a pratiquement pas de régulation de performance réelle. La plupart des États, la Californie incluse, imposent surtout quelques certifications formelles, mais l’autorisation passe indépendamment des performances du système. Les régulateurs réagissent surtout quand la presse s’emballe, sans attention réelle aux performances techniques. Même la réglementation californienne est assez souple pour laisser passer le Tesla Semi truck.