La FTC affirme qu’OkCupid a fourni 3 millions de photos d’une application de rencontre à une entreprise de reconnaissance faciale

• La FTC affirme qu’OkCupid a fourni environ 3 millions de photos d’utilisateurs à l’entreprise de reconnaissance faciale Clarifai, et souligne des déclarations mensongères sur la manière dont ces données étaient utilisées
• En 2014, Clarifai a envoyé un e-mail au cofondateur d’OkCupid pour demander l’accès à un vaste volume de données photo, tandis que les fondateurs d’OkCupid étaient également investisseurs dans Clarifai
• La société exploitant OkCupid, Humor Rainbow, a transmis à Clarifai, sans contrat formel, les photos ainsi que des données démographiques et de localisation
• Clarifai a utilisé ces données pour développer un service capable d’identifier l’âge, le sexe et l’origine ethnique à partir des visages, et son CEO a indiqué qu’il pourrait être vendu à des organismes gouvernementaux, militaires et policiers
• La FTC a annoncé qu’OkCupid et sa maison mère Match étaient parvenus à un accord sans amende, sans divulguer les détails des conditions de cet accord

---

Enquête de la FTC sur le partage des photos des utilisateurs d’OkCupid

• La FTC (Federal Trade Commission des États-Unis) a annoncé qu’OkCupid avait fourni environ 3 millions de photos d’utilisateurs de l’application de rencontre à l’entreprise de reconnaissance faciale Clarifai
  • OkCupid a continué d’opérer sous la raison sociale Humor Rainbow après son acquisition par Match.com en 2011
  • La FTC indique explicitement qu’OkCupid a fait des déclarations fausses et trompeuses sur l’utilisation des données de ses clients
• Les origines de la relation avec Clarifai remontent à 2014
  • Le CEO de Clarifai a envoyé un e-mail au cofondateur d’OkCupid pour demander l’accès à un vaste jeu de données de photos d’utilisateurs
  • Les fondateurs d’OkCupid participaient à Clarifai en tant qu’investisseurs financiers
  • Humor Rainbow a fourni à Clarifai, sans contrat formel, environ 3 millions de photos d’utilisateurs ainsi que des données démographiques et de localisation

• Utilisation des données par Clarifai

  • Clarifai a utilisé les images d’OkCupid pour construire un service d’identification de l’âge, du sexe et de l’origine ethnique à partir des visages
  • Le CEO de Clarifai, Zeiler, a indiqué que cette technologie pourrait être vendue à des gouvernements étrangers, des forces armées et des services de police

• Position d’OkCupid

  • Un porte-parole a expliqué qu’en 2014, Clarifai avait proposé une coopération pour développer une IA non biaisée et des technologies de reconnaissance faciale, mais qu’aucun contrat commercial n’avait été conclu et qu’il n’existe plus de relation aujourd’hui
  • Il ne précise pas si Clarifai a accédé sans autorisation aux photos d’OkCupid
  • Selon les documents de la FTC, Humor Rainbow a répondu aux demandes des utilisateurs que « toute insinuation selon laquelle OkCupid a fourni des informations à cette entreprise est fausse »

• Contenu de l’accord avec la FTC

  • La FTC a annoncé qu’OkCupid et Match étaient parvenus à un accord sans sanction financière
  • Les détails des conditions de l’accord figurent dans les documents de la FTC, mais l’article n’apporte pas d’explication supplémentaire

[runableapp]

On a l’impression qu’il n’existe presque plus de produits ou d’entreprises qui ne monétisent pas les données des utilisateurs.

J’ai l’impression que le plus utilisé, Gmail, n’est-il pas aussi le plus dangereux ? C’est une organisation énorme qui n’a même pas besoin de vendre à des tiers, donc elle n’apparaîtra sans doute jamais dans ce genre d’actualités.

[GN⁺]

Commentaires de Hacker News

• De nos jours, il faut considérer presque tous les services en ligne comme des adversaires potentiels
  Dès qu’il y a le moindre profit à tirer, ils risquent de vendre vos données personnelles ou votre attention
  Il y a bien sûr des exceptions, mais être prudent n’est pas excessif
  Le problème, c’est qu’en pratique il n’existe presque aucune alternative aujourd’hui

  • Avec la course à l’entraînement des LLM et la pression croissante des gouvernements pour la vérification d’identité, l’anonymat est en train de disparaître
    C’est une période sombre pour ceux qui accordent de l’importance à la souveraineté numérique
  • Mon conseil est simple — supprimez tous les comptes que vous avez créés jusqu’à présent
    Avec le temps, la probabilité d’une fuite de données se rapproche quasiment de 100 %
    Le cloud d’entreprise est un espace dangereux, et bâtir une culture dessus revient à construire sur des fondations instables
  • Je me demande depuis longtemps quelle est la taille du marché des apps centrées sur la vie privée
    S’il existait suffisamment d’apps qui ne cherchent pas à dominer le monde et ne vendent pas les données des utilisateurs,
    on pourrait peut-être créer des services dignes de confiance, hébergés sur des serveurs bon marché
    Parfois je me demande si je ne suis pas trop idéaliste
  • Je recommande de rejoindre la communauté tech de confiance trustworthy.technology
  • L’expression « tous les services en ligne » mérite une précision
    Il faut surtout se méfier des modèles gratuits (free/freemium), ou des structures en boîte noire dont les clients ne peuvent pas s’échapper
    La culture qui consiste à ignorer les services payants fondés sur le FOSS est aussi un problème

• « Donc la sanction pour avoir enfreint la loi, c’est de promettre qu’à l’avenir on la respectera »
  Ce genre d’accord avec la FTC équivaut en réalité à l’absence totale de sanction

  • Oui, mais cette fois c’est une promesse permanente, quel hilarant raffinement
  • Je pense pareil, c’est une sanction de pure façade

• Si vous deviez choisir un seul moyen de vérification d’identité, lequel prendriez-vous ?

  • Paiement par carte bancaire (hors cartes prépayées)
  • Photo d’une pièce d’identité officielle ou d’un passeport
  • Enregistrement vidéo en direct

• Cette affaire rappelle la vente des données ADN de 23andMe
  Article lié : article de NPR

  • Dans ce cas, 23andMe se vendait en fait les données à elle-même
  • J’avais averti à l’époque, quand 23andMe était au bord de la faillite, que les données seraient vendues
    Les gens m’ont répondu « la politique de confidentialité l’empêchera »
    mais une politique de confidentialité n’a pas de force juridique contraignante et peut changer à tout moment
    Au final, l’entreprise peut vendre les données si elle le souhaite
  • Cela dit, dans les faits, cette vente n’a finalement pas eu lieu

• Les avocats de tout Chicago doivent probablement faire sauter le champagne
  Loi concernée : Biometric Information Privacy Act

  • L’amende est de 1 000 dollars par infraction, ou 5 000 dollars en cas d’intentionnalité ou de faute lourde
    Le point clé, c’est le « par infraction » — on peut arriver à des montants énormes

• Cette affaire remonte à 2014
  On peut se demander s’il reste encore aujourd’hui des employés ou des actionnaires de l’époque
  Si les responsables sont déjà partis, je ne vois pas très bien quel est le sens d’une sanction contre l’entreprise

  • En pratique, ils se sont simplement engagés à « respecter la loi » et il n’y a eu aucune amende
    D’après l’accord conclu avec la FTC, OkCupid et Match n’ont ni reconnu ni nié les accusations

• Je pense qu’OkCupid n’a probablement pas « donné » les photos à l’entreprise de reconnaissance faciale, mais plutôt qu’il les a vendues
  Après tout, leurs seuls actifs étaient les photos des utilisateurs et leurs données PII

  • D’après l’article, le CEO de Clarifai a envoyé directement un e-mail au fondateur d’OkCupid
    pour demander l’accès à un vaste ensemble de photos, au nom de leur relation d’investissement
    Il n’y avait pas de contrat formel, mais c’était possible parce que les fondateurs avaient investi dans Clarifai
  • À en croire l’article, certains soutiennent aussi qu’il ne s’agissait pas simplement de « donner » les données
  • Comme un membre du conseil d’administration d’OkCupid dirigeait Clarifai, il est très probable qu’elles aient été fournies en interne

• OkCupid et Match ont clos l’affaire sans aucune amende financière

• Dans un marché libre, les entreprises qui maximisent le profit disposent d’un avantage de survie
  Avec le temps, il ne reste qu’elles, tandis que les autres disparaissent
  La seule force capable de contrebalancer cela, c’est la régulation, mais comme les États-Unis vénèrent la dérégulation, on aboutit à ce résultat

  • Cela dit, « donner gratuitement des données » ne cadre pas vraiment avec cette logique
    Même sans échange d’argent, une entreprise peut toujours tirer profit des données