Facebook commence à demander l’autorisation d’utiliser Meta AI sur des photos pas encore partagées
(theverge.com)- Facebook commence à demander l’accès à des photos personnelles que les utilisateurs n’ont pas encore partagées pour les fonctionnalités de Meta AI
- Cette fonctionnalité vise à améliorer les performances de l’intelligence artificielle en analysant les photos privées des utilisateurs
- Des questions se posent concernant la vie privée et la sécurité des données des utilisateurs
- Meta accorde aux utilisateurs un choix d’adhésion explicite tout en mettant aussi en avant les avantages de cette fonctionnalité
- Dans le secteur, l’attention se porte sur l’évolution plus large des modes d’utilisation des données personnelles
Facebook demande à utiliser des photos pour Meta AI
Facebook demande désormais l’accès et l’analyse de photos privées que les utilisateurs n’ont pas encore mises en ligne sur la plateforme sociale afin d’améliorer les performances de Meta AI
- Meta AI cherche à collecter davantage de données utilisateurs afin d’améliorer les performances de ses algorithmes de reconnaissance et de génération d’images
- Facebook demande explicitement le consentement pour utiliser cette fonctionnalité, et les utilisateurs peuvent la refuser (opt-out) ou l’autoriser (opt-in)
- Dans ce processus, les photos privées pourraient être utilisées pour l’entraînement de l’IA, ce qui pourrait accroître les risques pour la vie privée
- Meta invoque officiellement « l’avancement de l’IA et l’amélioration de l’expérience utilisateur » et met en avant une procédure transparente ainsi que le libre choix
- Mais des utilisateurs et des experts expriment des inquiétudes quant à la protection des données personnelles et aux risques potentiels de mésusage
Polémique sur la vie privée et l’usage des données
Ce changement marque une évolution majeure dans la manière dont les plateformes de réseaux sociaux utilisent les données personnelles
- La politique de Facebook sur l’utilisation d’images privées pourrait aussi entrer en conflit avec les réglementations mondiales de protection des données et les lois locales
- À l’avenir, les discussions sur la transparence de la collecte de données et l’utilisation des données d’entraînement de l’IA devraient encore s’intensifier dans l’ensemble du secteur
1 commentaires
Commentaires sur Hacker News
Partage d’une expérience montrant à quel point la manière dont Meta utilise ses systèmes pour étiqueter et classer les photos est profondément défaillante. Une page professionnelle que je gérais, avec plus de 150 000 abonnés, a été bloquée pour violation de la politique « interdiction de la pornographie ». La photo incriminée était pourtant une image de Saturne fournie par la NASA, mais l’IA l’a interprétée comme une « couleur chair » et l’a prise pour de la peau. J’avais utilisé une image de stock de la NASA et je l’ai signalé, mais la restauration a pris plusieurs semaines, une expérience extrêmement frustrante
Réaction mi-sérieuse, mi-humoristique : on comprendrait s’il s’agissait d’une photo nue de Vénus, mais qu’une telle chose arrive avec une photo de Saturne, c’est vraiment incompréhensible
Blague disant qu’au moins, heureusement, ce n’était pas une photo d’Uranus
Quand on voit des cas aussi absurdes, cela suscite une profonde hostilité envers l’idée de confier à des bots IA la gestion de services sociaux ou du support client. Conclusion : avec le niveau actuel de l’IA, il ne faut absolument pas lui confier seule le filtrage des réclamations humaines. Les entreprises qui déploient de tels systèmes devraient être sanctionnées par le marché
Ce système ressemble probablement à un mauvais usage d’une technique du type filtre de Bloom côté backend
Nostalgie de l’époque où Facebook permettait encore de reprendre contact, de façon amusante, avec des amis ou de la famille vivant loin. Aujourd’hui, on a l’impression d’un système devenu excessivement complexe, qui ne fait que collecter des données tout en menaçant la santé mentale des utilisateurs
Facebook a toujours donné l’impression d’être une IA portant le visage de ses amis. Maintenant, le grand public commence à s’en rendre compte
Je suis en train de créer moi-même un nouveau réseau social qui ne propose qu’un fil chronologique et aucun profil public, avec une liste d’invitations et des explications sur le design de l’interface. C’est une plateforme volontairement très simple. Si cela vous intéresse, je recommande de consulter la waitlist
Opinion selon laquelle il est évident que Facebook et Instagram sont nuisibles pour les gens. Certains parviennent peut-être à l’encaisser naturellement, mais la plupart ont besoin de repères pour protéger leur santé mentale essentielle dans leur usage de ces plateformes
Même sentiment ici. Les débuts de Facebook ressemblaient à un petit coin douillet d’Internet, où il était agréable de suivre la vie d’amis éloignés ou de voir la photo du dîner d’un proche. Aujourd’hui, dès qu’on l’ouvre, on a l’impression d’être manipulé par l’algorithme, poussé par habitude à cliquer et regarder sans pouvoir s’arrêter. Le système est devenu plus intelligent, mais il a perdu tout intérêt pour les personnes
Souvenir de l’époque où Facebook insistait déjà lourdement pour que tout le carnet d’adresses soit importé. C’était une entreprise affamée de données depuis le début. Sans cette éthique grise, elle n’aurait probablement jamais pu croître aussi vite
La joie ressentie en supprimant Facebook en 2021 est indescriptible. C’est vu comme l’exemple type d’une entreprise qui rend ses utilisateurs captifs avec le même pouvoir addictif que le jeu ou le tabac
Cela fait longtemps que je n’utilise plus Facebook et je n’ai aucune intention d’y revenir. Mais dire « il suffit d’arrêter Facebook » n’est, en pratique, pas un conseil du tout convaincant pour beaucoup de gens. Pour de nombreuses communautés locales — sport, bricolage, groupes de parents, activités de plein air — Facebook est l’unique canal en ligne pour organiser des activités hors ligne. Instagram est le principal canal de musiciens et de petits commerces, et WhatsApp est un outil de communication indispensable en Amérique latine et en Europe. Pour beaucoup, Facebook n’est pas un simple choix, mais une condition de participation à la vie communautaire. Ce problème ne peut pas être résolu en demandant à chacun d’assumer seul le coût social du départ ; il faut une approche collective, via la régulation ou le développement de meilleures alternatives. Comme pour le tabac ou les jeux d’argent, la réponse doit passer par la régulation et des solutions de remplacement
Je ne garde un compte Facebook que pour Messenger. Je n’utilise pas du tout l’application principale. Je ne comprends pas l’ambiance qui consiste à considérer la suppression du compte comme un motif de fierté. Si on ne l’utilise pas, l’effet et le ressenti sont les mêmes que si on n’avait pas de compte
Le meilleur moment pour supprimer Facebook, c’était il y a longtemps ; le deuxième meilleur moment, c’est maintenant
Facebook est, à mon avis, le pire. J’ai supprimé l’application il y a 10 ans et je consulte seulement de temps en temps les nouvelles de mes amis via le navigateur mobile. Si Zuckerberg poursuit vraiment sa logique de couper tous les liens, les rétablir serait tellement pénible que je supprimerai sans doute mon compte pour de bon. Témoignage d’un utilisateur de la première heure, présent depuis l’expansion au-delà de Harvard
Depuis des années, je n’utilise plus les applications meta·twitter·reddit. Mais je conserve malgré tout un compte Facebook grâce à Marketplace. J’y ai trouvé mes deux derniers appartements à louer, dans de meilleures conditions que sur les sites spécialisés, ce dont je suis très satisfait. Garder un compte juste pour utiliser Marketplace sur PC me semble un compromis acceptable
C’est pour cela que j’ai demandé à ma famille de ne pas publier de photos de mes enfants sur Facebook. Je veux qu’ils puissent décider eux-mêmes, plus tard, de l’usage de leur visage. L’idée que leurs données faciales servent à entraîner des modèles alors qu’ils n’ont même pas encore réellement commencé à exister sur les réseaux sociaux me paraît extrêmement dure
Dans certaines cultures, on a longtemps évité de se faire photographier parce qu’un appareil photo volerait l’âme. Je commence à comprendre pourquoi
Dans certains pays, notamment la Pologne, Facebook est tellement ancré dans les habitudes que refuser la publication de photos vous fait passer pour un original. De la maternelle au lycée, tout le monde semble vouloir publier des photos
Des enfants qui voudront peut-être un jour devenir espions ou policiers infiltrés sont déjà identifiables par reconnaissance faciale. Pendant plusieurs générations, il pourrait devenir très difficile, voire impossible, de former des personnes capables d’opérer sous couverture sans exposition préalable de leur identité
Facebook récupère directement des photos depuis la pellicule du téléphone, si bien que ne pas les publier ne constitue pas vraiment une protection suffisante
J’ai moi aussi demandé qu’on ne partage pas de photos de famille, mais ma belle-mère a ignoré la demande, ce qui a mis mes parents en colère. Finalement, j’ai abandonné
On continue à vendre aux responsables politiques l’argument de la « nécessité de contenir l’hégémonie chinoise dans l’IA ». En réalité, des dispositions favorisant l’exploitation des consommateurs sont discrètement glissées dans d’énormes textes de loi afin d’éviter toute régulation, sans rapport concret avec un usage militaire. L’idée serait de laisser la Chine dominer l’exploitation des consommateurs en ligne tout en bloquant seulement ses entreprises Internet. Si l’on s’inquiète vraiment de la suprématie américaine, il vaudrait mieux investir 500 milliards de dollars dans des réacteurs à fusion
C’est une réalité vraiment grave. Facebook et Instagram sont préinstallés sur beaucoup de téléphones Android, et il est impossible de les supprimer complètement. Même lorsqu’on demande le consentement, la structure pousse les gens à faire des choix nuisibles par erreur ou par ignorance. Il est inquiétant qu’on ne parvienne même pas à imposer à ces entreprises un minimum de standards éthiques. L’idée que, si l’on ne sait pas, on subira seul le préjudice contribue aussi à maintenir leur pouvoir de marché. En fin de compte, ce système ne vise pas seulement les gens indifférents à leur vie privée, mais embarque aussi ceux qui sont mal informés ou qui n’en veulent pas
C’est exactement pour cette raison que j’ai passé plusieurs semaines à chercher un appareil récent dont le bootloader puisse vraiment être déverrouillé. Les nouveaux OnePlus ne peuvent plus l’être, et sur le marché de l’occasion, beaucoup d’appareils sont vendus comme déverrouillables alors qu’ils ne le sont pas. Je ne veux utiliser aucune application de constructeur, et Google Play ne m’enchante pas non plus, mais la combinaison LineageOS + MindTheGapps me semble être le moindre mal. Si possible, j’aimerais aussi explorer des systèmes mobiles Linux comme postmarketOS ou Mobian
Avec ADB (Android Debug Bridge), on peut désactiver complètement les applications préinstallées Facebook et Instagram sans root. Astuce partagée : utiliser la commande
pm disable-userpour bloquer la collecte de donnéesSi vous avez choisi d’acheter un téléphone reposant sur de telles pratiques commerciales, cela relève aussi, au final, de la responsabilité du consommateur. Certaines bonnes marques permettent tout à fait de supprimer toutes les applications
Quelques-unes des meilleures décisions de ma vie :
Même indépendamment du caractère opt-in, le simple fait que Meta ose faire ce genre de proposition est déjà dérangeant. Il est rappelé que, même sans IA, Meta a tenté à plusieurs reprises de sortir des limites normales d’une application mobile, par exemple avec Onavo VPN ou le suivi via localhost
Rappel qu’en cas de besoin, on peut toujours supprimer son compte Meta et couper complètement les liens
Faire disparaître son compte Meta signifie aussi, dans la réalité, perdre des liens sociaux. Meta contrôle tellement les canaux de communication communautaires qu’on peut se retrouver, par exemple, avec un entraîneur d’équipe de natation qui n’utilise que WhatsApp. Il est très difficile de convaincre plus de 50 personnes de changer de plateforme, et ceux qui participent à plusieurs communautés résistent encore davantage au changement. Comme la plupart utilisent déjà WhatsApp ailleurs, adopter une alternative devient une charge excessive en pratique
Récit amer d’une tentative récente de créer un compte pour utiliser Facebook Marketplace : le processus d’inscription demandait une vérification par selfie vidéo. J’ai immédiatement abandonné, et je suppose que je ne communiquerai désormais avec personne via Marketplace
Même si l’on supprime son compte, Meta continue à collecter des données et à construire des profils d’utilisateurs ; ce n’est donc pas une coupure totale
Impression que zuck devrait devenir de plus en plus insignifiant. Il n’a rien fait de particulièrement intéressant ces dernières années et s’est contenté de répéter, à intervalles réguliers, des tentatives d’exploitation de données privées