Une femme du Tennessee arrêtée à tort pour des accusations criminelles dans le Dakota du Nord à cause d’une erreur de reconnaissance faciale par IA

• Angela Lipps (50 ans), originaire du Tennessee, a été arrêtée comme suspecte dans une affaire de fraude bancaire dans le Dakota du Nord, un État qu’elle n’avait jamais visité, à cause d’une technologie de reconnaissance faciale par IA, et détenue pendant plus de 5 mois
• Le système Clearview AI a identifié à tort une personne ressemblante comme étant Lipps, et la police de Fargo s’est appuyée sur cette information pour obtenir un mandat d’arrêt
• Par la suite, des relevés bancaires montrant que Lipps se trouvait dans le Tennessee au moment des faits ont été confirmés, les poursuites ont été rejetées pour absence de charges et elle a été libérée
• La police de Fargo a reconnu des erreurs dans la transmission des informations issues de l’IA et l’absence de remise des vidéos de surveillance, et a annoncé un renforcement de ses procédures d’utilisation des données issues de l’IA
• Cette affaire est considérée comme un cas mettant en lumière la fiabilité des technologies d’enquête par IA et la nécessité de procédures de vérification humaine

---

Affaire d’arrestation erronée d’une femme du Tennessee à cause d’une erreur de reconnaissance faciale par IA

• Angela Lipps (50 ans), résidente du Tennessee, a été arrêtée comme suspecte dans une affaire de fraude bancaire dans l’État du Dakota du Nord, où elle n’était jamais allée, à cause d’une technologie de reconnaissance faciale par IA, et détenue pendant plus de 5 mois
  • La police de Fargo a reconnu qu’il y avait eu « quelques erreurs » dans le traitement de l’affaire, sans toutefois présenter d’excuses officielles
  • L’arrestation a eu lieu le 14 juillet au domicile de Lipps dans le Tennessee, alors qu’un mandat d’arrêt délivré quelques semaines plus tôt à Fargo existait déjà

• Déroulement de l’affaire

  • Dans le cadre de l’enquête sur une affaire de fraude bancaire survenue dans la région de Fargo, la police a utilisé une « technologie de reconnaissance faciale d’une agence partenaire » pour identifier la suspecte
  • La police de West Fargo a utilisé le système Clearview AI, et ce système a inclus dans son rapport une personne identifiée comme ressemblant à Lipps
  • La police de Fargo a considéré Lipps comme suspecte sur la base de cette information et a transmis un rapport au parquet du comté de Cass
  • La police de Fargo a ensuite indiqué que l’utilisation du système d’IA de West Fargo n’avait pas été signalée à la hiérarchie et qu’elle est désormais interdite

• Détention et libération

  • Le 1er juillet, un juge du Dakota du Nord a délivré un mandat d’arrêt autorisant une extradition à l’échelle nationale
  • Lipps a été arrêtée le 14 juillet, incarcérée plus de 3 mois dans une prison du Tennessee, puis extradée vers le Dakota du Nord
  • Après son transfert, son avocat a obtenu des relevés bancaires montrant que Lipps se trouvait dans le Tennessee au moment de l’infraction
  • Le 23 décembre, après concertation entre la police de Fargo, le parquet de l’État et un juge, il a été décidé de rejeter les poursuites pour absence de charges, et Lipps a été libérée le 24 décembre
  • Ses avocats ont critiqué le fait que « malgré l’existence de preuves évidentes l’innocentant, la détention s’est prolongée inutilement pendant longtemps »

• Résultats de l’enquête interne et réponse de la police de Fargo

  • La police a désigné comme principales erreurs une confusion dans la transmission des informations issues du système d’IA et la non-remise des vidéos de surveillance
  • La police de Fargo a indiqué qu’à l’avenir elle n’utiliserait plus les données d’IA de West Fargo et qu’elle coopérerait avec les centres d’information de l’État et fédéraux
  • Les procédures ont été renforcées afin que tous les résultats de reconnaissance faciale soient signalés chaque mois au directeur des enquêtes
  • Des lacunes dans le système de notification concernant les personnes arrêtées entre le comté de Cass et le parquet de l’État ont également été pointées, et des mesures correctives sont à l’étude
  • La police examine si des sanctions disciplinaires doivent être prises à l’encontre des enquêteurs concernés et a déclaré que « personne ne souhaite des arrestations inutiles »

• Victime et réponse juridique

  • Lipps, grand-mère de trois enfants et de cinq petits-enfants, affirme n’être jamais allée dans le Dakota du Nord
  • Pendant sa détention, elle a écrit sur sa page GoFundMe avoir ressenti « peur, fatigue et honte »
  • Ses avocats ont critiqué le fait que « la reconnaissance faciale par IA a été utilisée comme un raccourci remplaçant l’enquête de base » et examinent la possibilité d’une action en justice pour atteinte aux droits civiques

• Critiques à l’égard des technologies d’enquête par IA

  • Les forces de l’ordre à travers les États-Unis adoptent rapidement les technologies d’IA, mais certains soulignent que les preuves de leur efficacité restent insuffisantes
  • Ian Adams, professeur à l’université de Caroline du Sud, estime que « la plupart des erreurs liées à l’IA sont des problèmes combinant technologie et facteurs humains »
  • Il a insisté sur le fait que « les enquêteurs ne doivent pas faire aveuglément confiance aux résultats des algorithmes et doivent impérativement passer par une procédure de vérification humaine »
  • Des cas d’erreurs d’identification par IA se sont déjà produits auparavant, notamment lorsqu’un système de sécurité basé sur l’IA a confondu un sachet de chips vide avec une arme et provoqué l’arrestation d’un étudiant

• État actuel de l’affaire

  • La police de Fargo a déclaré que l’affaire « est toujours en cours et que des poursuites pourraient être relancées en fonction des résultats d’enquête supplémentaires »
  • Les avocats de Lipps ont salué les promesses d’amélioration futures de la police, tout en estimant que « l’absence de procédures d’enquête élémentaires reste problématique »