Facebook commence à demander l’autorisation d’utiliser Meta AI sur les photos avant leur partage

• Facebook teste, lors de la publication d’une Story, une demande d’autorisation pour le traitement cloud de la pellicule, afin que Meta AI puisse créer des collages, résumés, changements de style par IA et suggestions de thèmes à partir de photos qui n’ont pas encore été partagées
• En cas de consentement, Meta AI peut analyser les médias et caractéristiques faciales des photos non publiées, ainsi que la date de prise de vue et la présence de personnes ou d’objets, tandis que Meta obtient le droit de conserver et d’utiliser ces informations personnelles
• Meta affirme que ce test n’est actuellement pas utilisé pour améliorer ou entraîner des modèles d’IA, mais ne répond pas clairement sur une possible utilisation future pour l’entraînement ni sur les droits relatifs aux images de la pellicule
• La fonctionnalité est opt-in et les suggestions avant partage ne sont visibles que par l’utilisateur et peuvent être désactivées, mais Meta peut récupérer jusqu’aux 30 derniers jours de pellicule non publiée à la fois
• En cas de désactivation dans les paramètres, les photos non publiées commencent à être supprimées du cloud après 30 jours, mais le changement central est que même des photos privées, avant toute publication publique, entrent dans le flux de suggestions IA

---

Le traitement de la pellicule intégré au processus de publication des Stories

• Lorsqu’un utilisateur Facebook tente de publier dans une Story, il peut voir une fenêtre contextuelle lui demandant s’il accepte le traitement cloud
• S’il accepte, Facebook peut sélectionner régulièrement des médias dans sa pellicule et les téléverser dans le cloud
• Les médias téléversés sont utilisés pour générer des suggestions de contenus plus faciles à partager
  • Collages
  • Résumés
  • Changements de style par IA
  • Thèmes comme les anniversaires ou les remises de diplôme

Les informations que Meta AI peut voir en cas de consentement

• En autorisant la fonctionnalité, l’utilisateur est également considéré comme ayant accepté les conditions de Meta AI
• Meta AI peut analyser les médias et caractéristiques faciales dans les photos non publiées
• L’analyse inclut aussi la date de prise de vue, la présence d’autres personnes et la présence d’objets
• L’utilisateur accorde aussi à Meta le droit de conserver et utiliser (retain and use) ces informations personnelles

La position actuelle de Meta et les points restés sans réponse

• Meta affirme ne pas utiliser actuellement les photos non publiées via cette nouvelle fonctionnalité pour entraîner des modèles d’IA
• Ryan Daniels, public affairs manager chez Meta, a déclaré que ce test n’utilisait pas les photos des personnes pour améliorer ou entraîner des modèles d’IA
• Maria Cubeta, comms manager chez Meta, a indiqué que la fonctionnalité en était à un stade très précoce et qu’elle était uniquement opt-in
  • Les suggestions ne sont affichées qu’à l’utilisateur jusqu’à ce qu’il les partage
  • Elle peut être désactivée à tout moment
  • Les médias de la pellicule peuvent être utilisés pour améliorer les suggestions
  • Dans ce test, ils ne sont pas utilisés pour améliorer les modèles d’IA
• Meta ne répond toutefois pas clairement sur la possibilité d’utiliser à l’avenir des photos non publiées pour l’entraînement, ni sur les droits qu’elle détient sur les images de la pellicule

Précédents d’entraînement sur des données publiques et zones floues des conditions

• Meta a déjà reconnu avoir utilisé des données de contenus publiés sur Facebook et Instagram depuis 2007 pour entraîner des modèles d’IA générative
• L’entreprise a déclaré n’avoir utilisé que des publications publiques mises en ligne par des utilisateurs adultes de 18 ans et plus, mais le périmètre de « public » et celui d’« utilisateur adulte » en 2007 n’étaient pas clairement définis
• Les conditions d’utilisation actuelles de Meta AI sont en vigueur depuis le 23 juin 2024
• Ces conditions ne précisent pas clairement si les photos non publiées auxquelles il est accédé via le traitement cloud sont exclues de l’utilisation comme données d’entraînement
• Google Photos peut proposer des retouches d’images par IA après l’opt-in à Google Gemini, mais Google précise qu’il n’entraîne pas de modèles d’IA générative avec les données personnelles obtenues depuis Google Photos

Périmètre d’accès sur 30 jours et médias plus anciens

• Selon Daniels et Cubeta, l’opt-in autorise Meta à récupérer à la fois les 30 derniers jours de pellicule non publiée
• Certaines formulations de Meta semblent toutefois indiquer que certaines données pourraient être conservées plus longtemps
• Meta indique que les suggestions issues de la pellicule autour de thèmes comme les animaux de compagnie, les mariages ou les remises de diplôme peuvent inclure des médias plus anciens que 30 jours

Désactivation et impact pour les utilisateurs

• Les utilisateurs Facebook peuvent désactiver le camera roll cloud processing dans les paramètres
• Lorsque la fonctionnalité est désactivée, les photos non publiées commencent à être supprimées du cloud après 30 jours
• Cette fonctionnalité inclut dans le flux de suggestions IA des données personnelles situées à une étape antérieure à la décision consciente de l’utilisateur de publier ou non une photo pour une consommation publique

Cas connexes et correction

• TechCrunch rapporte que des utilisateurs Facebook ont vu une fenêtre contextuelle de traitement cloud dans la fonctionnalité Stories
• Selon un post Reddit trouvé par TechCrunch, Meta a déjà proposé des changements de style par IA sur des photos téléversées auparavant, alors même que l’utilisateur n’avait pas conscience de la fonctionnalité
• Un utilisateur Reddit a rapporté que Facebook avait Studio Ghiblified ses photos de mariage à son insu
• D’après la correction de l’article, une version précédente laissait entendre que Meta entraînait déjà l’IA sur ces photos, mais Meta affirme que le test actuel ne le fait pas encore