- Reuven Lerner, formateur indépendant à temps plein en Python/Pandas, avait diffusé par le passé des publicités pour ses cours sur Facebook, puis son compte publicitaire Meta a été suspendu et, après appel, il s’est retrouvé banni à vie de la publicité sur les plateformes Meta
- La seule raison fournie pour la suspension était une violation des règles publicitaires de Meta, sans explication précise sur la règle enfreinte
- Une connaissance sur LinkedIn lui a indiqué qu’il y avait déjà eu des cas où Meta avait confondu des publicités pour des formations Python avec du commerce d’animaux vivants, le cœur du problème étant que Python et Pandas sont respectivement un langage de programmation et une bibliothèque d’analyse de données
- Trois connaissances travaillant ou ayant travaillé chez Meta ont tenté de vérifier la situation, mais plus d’un an après la suspension, la politique de conservation des données sur 180 jours faisait que les éléments de preuve avaient disparu, rendant toute restauration impossible
- Comme la décision initiale et l’appel semblent tous deux avoir été traités par une IA, même s’il relance un jour la publicité pour ses cours, il dépensera son budget sur d’autres canaux comme Google plutôt que chez Meta
Comment une publicité pour des cours Python/Pandas a conduit à une interdiction permanente chez Meta
- Reuven Lerner est un formateur indépendant à temps plein qui enseigne Python et Pandas, donne des formations en présentiel dans des entreprises du monde entier et propose aussi des produits en ligne
- Ses produits en ligne comprennent des video courses et une newsletter payante hebdomadaire d’exercices Pandas
- Il a déjà donné des formations pour des entreprises comme Apple et Cisco
- Il y a quelques années, il avait lancé des publicités pour certains produits sur Facebook, sans grands résultats, puis le compte publicitaire a été pratiquement laissé à l’abandon
- Lorsqu’il est retourné sur la page publicitaire il y a environ un an, il a découvert un message indiquant que son compte avait été suspendu pour violation des règles publicitaires de Meta
- Il a revérifié la page de gestion des publicités il y a quelques mois, mais les publicités restaient toujours interdites
- La règle enfreinte n’était pas indiquée
- Il précise n’avoir jamais fait la publicité d’autre chose que de cours Python et Pandas
- Il a fait appel via le bouton « Click here to appeal », mais environ 30 minutes plus tard, Meta lui a envoyé un e-mail confirmant la violation de sa politique et lui annonçant une interdiction à vie de publicité sur les plateformes Meta
Une possible confusion entre Python et le commerce d’animaux, puis un échec de la restauration
- Une connaissance sur LinkedIn lui a indiqué avoir elle aussi eu des problèmes en faisant la publicité d’une formation Python sur les plateformes Meta, Meta l’ayant considérée comme du commerce d’animaux vivants
- Lerner estime que le système d’IA de Meta a interprété Python et Pandas non comme des termes techniques, mais comme des animaux, ce qui a conduit à la décision d’interdiction
- Python est un langage de programmation
- Pandas est une bibliothèque d’analyse de données pour Python
- Il pense aussi que l’appel a été traité non par un humain, mais par une IA, aboutissant à une décision similaire
- Trois connaissances travaillant ou ayant travaillé chez Meta ont tenté de vérifier la situation, sans parvenir à une restauration
- La première a confirmé qu’en raison de la politique de conservation des données de 180 jours de Meta, les preuves liées au dossier avaient disparu et qu’après plus d’un an depuis la suspension du compte, la restauration n’était plus possible
- Les deuxième et troisième connaissances n’ont pas non plus obtenu de résultat plus concret
- Lerner estime que l’IA de Meta a commis une grosse erreur et juge « assez absurde » que la décision initiale comme l’appel aient tous deux été traités par une IA
- Comme il n’a pas réagi dans les délais, l’interdiction est devenue irréversible, et lorsqu’il reprendra éventuellement la publicité, ce ne sera pas Meta qui recevra son budget publicitaire, mais des entreprises comme Google
1 commentaires
Avis de Hacker News
Quand une procédure opaque de type IA prend une décision, c’est vraiment frustrant
J’ai créé au Japon une Godo Kaisha, l’équivalent d’une LLC, et mon activité d’abonnement à du thé vert https://tomotcha.com, qui fonctionnait auparavant sans problème en entreprise individuelle, a été refusée par Stripe
Au moment du refus, mon compte Stripe d’entrepreneur individuel continuait pourtant de fonctionner ; si c’était vraiment une violation des conditions, un humain l’aurait vu et aurait d’abord bloqué ce compte, donc il me semble très probable que ce soit une IA qui ait rejeté la demande
Je sais que la réglementation financière est stricte et que les prestataires de paiement ne peuvent pas toujours donner de raisons détaillées, mais au final je me retrouve coincé avec PayPal pour un moment
Comme l’offre de produits est en train de changer, elle pourrait maintenant respecter les conditions de Stripe, et je me demande si je peux réessayer d’ouvrir un compte Stripe
Par exemple : « Notre système d’IA automatisé a déterminé qu’il n’était pas dans notre intérêt de faire affaire avec vous. Nous ne pouvons pas expliquer les raisons, car cela pourrait donner des indices pour contourner nos filtres anti-spam. En revanche, pour 15 $, un humain peut examiner votre dossier, et vous pourrez fournir des preuves de vente légale, des informations sur la société enregistrée, etc. Ce montant ne sera pas remboursé en cas de refus, et l’examen humain n’est pas une occasion de repousser les limites de nos conditions »
Même lorsque nous expliquons que nous ne vendons ni esketamine ni aucun autre médicament, la réponse de Stripe, prétendument issue d’un échange avec un humain, ne change pas
Nulle part, y compris sur notre site web, il n’est écrit que nous en vendons, et nous ne traitons même pas les paiements des patients via Stripe puisque nous acceptons les assurances
Les seules réponses que nous recevons sont du type « nous avons suspendu votre compte car vous vendez des médicaments » ou « nous examinons les informations fournies », et nos propositions de réunion ou de soumission de documents sont ignorées
Stripe est un excellent service, mais du côté de la vérification des clients, quelque chose dysfonctionne gravement en interne
Je ne dirais pas que mon expérience avec le support Stripe a été bonne, mais j’ai fini par résoudre le problème
Stripe semble avoir beaucoup de mal avec les situations où un étranger résidant au Japon possède une société à l’étranger
J’ai appelé mon opérateur via le numéro habituel, mais l’appel a été coupé à cause d’un problème de téléphone portable ou d’antenne-relais ; au bout d’environ cinq tentatives, le répondeur robotisé a qualifié ça d’« abus » et m’a définitivement interdit d’utiliser l’assistance téléphonique
Pour contester, il fallait utiliser l’assistance téléphonique, et le robot de chat du site web m’avait déjà bloqué aussi
J’ai fini par fouiller leur page Facebook en espérant qu’elle soit gérée par un humain, et heureusement j’ai réussi à joindre un conseiller humain qui a levé le blocage
Depuis quelques années, je ne publie plus rien sur Facebook et je garde seulement mon compte comme moyen de secours pour contacter des grandes entreprises stupides
Le plus frustrant, c’est qu’ils mentent ouvertement
En réalité, ils n’examinent même pas les comptes, et le blocage n’est pas permanent
Dans ce genre de situation, dès qu’on arrive à joindre quelqu’un qui a l’autorité nécessaire, le blocage est levé ; au final, tout est donc une question de coût, d’efficacité et de commodité pour Facebook/Meta
À mon avis, ce problème nécessite une loi
Il est évident que le marché n’a pas la capacité de corriger ce type de comportement, et qu’on le veuille ou non, être banni à vie de services en ligne pratiquement indispensables peut être dévastateur pour un individu
Simplement, comme tout le monde se bouche les oreilles en criant « les big tech ne sont pas des monopoles », les lois existantes ne sont pas appliquées
Dans un environnement réellement concurrentiel, il suffirait d’aller chez le voisin, qui ne vous bannirait pas arbitrairement et disposerait d’un vrai support client humain
Ne pourraient-ils pas faire payer à l’utilisateur le coût de l’examen humain ? Combien cela coûterait-il en temps humain, peut-être autour de 20 $ ?
Il existe plusieurs cas similaires
Le problème de Scunthorpe est un exemple classique : AOL empêchait les utilisateurs de définir leur ville d’origine comme Scunthorpe à cause de la sous-chaîne « cunt »
Amazon a bloqué la vente de produits Guns N' Roses à cause de « guns », et une personne nommée Miranda a aussi rencontré des problèmes de virement bancaire à cause de la sous-chaîne « Iran »
Certains jeux affichaient le surnom Nasser sous la forme « N*er », comme si c’était le N-word, et Alexa n’arrive toujours pas à prononcer correctement « pussycat »
Des logiciels de contrôle parental filtraient « anal » dans les URL et bloquaient même « analysis », tandis qu’un autre logiciel supprimait les fichiers dont le nom contenait « sex », effaçant donc aussi « sysext »
Dans une école, tout le labo informatique s’est retrouvé inutilisable à cause de ce bug, et c’était aussi dû au fait que le responsable IT avait mis à jour tous les PC vers Windows 10 d’un seul coup, sans vérifier la compatibilité logicielle
Le politicien britannique Dominic Cummings n’a pas non plus pu créer de compte Twitter
Cela reste un filtrage assez précipité
En y regardant de nouveau, le nom modifié est encore pire, une situation à la fois drôle et triste
Je n’arrivais pas à trouver le sujet inoffensif que je cherchais, mais en jouant un peu avec les mots-clés, il était facile de trouver du porno que le filtre ne détectait pas
Bien sûr, cela a aussi bloqué des vins de Bourgogne contenant « gun »
Le déploiement avait été tellement précipité qu’ils n’avaient même pas réussi à faire un filtre correct
J’ai essayé plusieurs fois de créer un compte vendeur sur Ebay, et deux minutes après la création et la vérification du compte, il était bloqué pour violation des conditions
À ce moment-là, je n’avais même pas ajouté de photo de profil et je n’avais rien fait avec le compte
La suite de la procédure était identique : la contestation était traitée par un bot qui répondait seulement « nous avons raison, vous avez violé les conditions, le compte est bloqué et la décision est définitive »
L’époque où les organisations embauchaient un support client humain pour des clients susceptibles de leur rapporter beaucoup d’argent me manque
Aujourd’hui, la publicité ou la vente dépend souvent d’un petit nombre de plateformes, et c’est effrayant de se dire qu’un seul bot peut à tout moment tuer mon activité et mon entreprise
Était-ce une connexion résidentielle, mobile, professionnelle/de bureau, ou de datacenter ?
À cause de mon nom de famille, j’ai été banni à vie des services de Facebook, à l’exception de WhatsApp
Facebook croit que mon nom est faux ou trop controversé, et même l’envoi d’une copie de mon passeport ne les a pas fait changer d’avis
J’avais un compte Facebook il y a environ 13 ans, avant l’application de la politique de nom réel, mais je l’ai fermé parce que c’était gênant de refuser ou d’accepter des demandes d’amis de personnes d’un passé lointain
Aujourd’hui, le seul canal pour obtenir des informations importantes sur l’immeuble où j’habite est un groupe Facebook, mais je ne peux pas y accéder, ce qui est pénible
Ma femme y a accès, donc ce n’est pas un énorme problème, mais pour contourner la politique de nom réel de Facebook, j’ai l’impression qu’il faudrait au contraire utiliser un faux nom
Cela dit, il deviendrait sans doute difficile d’utiliser les publicités Facebook ou les fonctionnalités liées aux développeurs
La seule façon dont j’ai pu le faire a été d’être embauché chez Meta, à l’époque Facebook, car il me fallait un compte pour l’onboarding
Dans plusieurs groupes centrés sur la photo dont je fais partie, plus de la moitié des publications viennent de personnes utilisant des noms faux, voire parfois insultants, et même quand je sais qu’elles ont été signalées plusieurs fois, rien n’est fait
Une mauvaise politique devient généralement encore pire quand elle est appliquée de façon incohérente
Dire que « Meta n’aura pas mon argent, et qu’il ira à une entreprise comme Google, qui semble au moins avoir quelques personnes dans son service publicitaire », c’est finalement une manière compliquée de dire qu’on fera affaire avec l’entreprise qui accepte mon activité
Google est aussi réputé pour pratiquer des blocages entièrement automatisés, non seulement sur sa branche publicité mais sur l’ensemble des comptes
Je n’y avais jamais pensé, mais cela pourrait expliquer pourquoi j’ai l’impression que la qualité des publicités se dégrade avec le temps
Google a aussi beaucoup de systèmes automatisés, et je sais que beaucoup de gens ont été très frustrés par le passé
Malgré tout, les amis qui ont été bloqués par les systèmes automatisés de Google ont fini par trouver quelqu’un capable de corriger le problème
Chez Meta, il ne semble pas exister ce genre de voie pour les clients, et même trois employés qui étaient d’accord pour dire que la situation était absurde et qui pouvaient se porter garants de moi n’ont pas réussi à faire revenir sur la décision
Le logiciel ne fonctionnait que sur Mac, mais Google n’autorisait pas l’usage de mots comme Apple ou Mac au motif qu’il s’agissait de marques
Je les employais comme description contextuelle, du type « logiciel de comptage de widgets pour Mac », pas dans une formulation comme « logiciel Apple authentique »
J’ai fait appel, mais il a été rejeté et, de mémoire, il n’y avait pas d’autre recours
Au final, il n’y avait pratiquement aucun moyen de faire de la publicité pour un logiciel exclusivement destiné au Mac
J’ai rencontré un problème similaire avec Facebook/Meta, et j’ai fini par renoncer à acheter leurs services publicitaires
À mon avis, la solution serait d’imposer par la loi 1) d’informer l’utilisateur lorsqu’il n’a affaire qu’à un algorithme, et 2) de permettre obligatoirement de contacter un humain dans un délai défini
J’espère au moins que l’UE adoptera bientôt une loi de ce genre
Le fait de perdre énormément de temps dans des interactions avec une IA qui n’apporte aucune compensation est déjà un problème, mais ce qui m’inquiète davantage, c’est une « assistance client » par IA qui soit incapable de faire quoi que ce soit de concret, ou au contraire qui ait le pouvoir d’apporter des changements importants aux paramètres utilisateur, à la facturation, etc.
Dans le premier cas, l’entreprise trompe ses clients ; dans le second, les conséquences peuvent être très mauvaises
Cela dit, cela ne semble pas avoir beaucoup d’effet sur Meta
Les entreprises comme Meta, Google et Amazon qui s’en remettent uniquement à l’IA pour le support client devraient recevoir des amendes assez lourdes pour les mettre en faillite
Si l’on étend ce genre d’« incident malheureux » à la santé, à la finance, à l’assurance, au maintien de l’ordre, à l’éducation, au recrutement en entreprise, etc., cela pousse à réfléchir au type de société vers lequel nous allons, au nom de l’automatisation et de « l’IA » censées réduire les coûts et améliorer l’efficacité
Que la technologie aide les humains, ici les employés de Meta, à traiter l’information plus efficacement, ce n’est pas un problème
Mais retirer l’humain de la procédure dans des décisions qui ont un impact, grand ou petit, sur d’autres personnes est une orientation désastreuse
Par coïncidence, la une du Financial Times publie aujourd’hui aussi un article intitulé « Yann LeCun de Meta s’oppose à une réglementation précipitée de l’IA »
Mais si l’on continue malgré tout à ne pas réglementer la censure par IA, le problème s’aggravera
https://erinkissane.com/meta-in-myanmar-part-i-the-setup
Bienvenue dans le futur
D’ici peu, ce genre d’absurdité arrivera presque tous les jours à la plupart des personnes qui doivent interagir sur Internet avec des entreprises ou des institutions
Des procédures très automatisées et opaques, une logique qui bloque immédiatement au moindre signal, des voies de recours qui n’atteignent jamais un humain deviendront la norme
Parce que les humains qui auront survécu à l’automatisation seront trop occupés à nourrir les algorithmes pour avoir le temps de parler aux clients
Comme la plupart des gens n’ont pas les ressources pour se battre contre l’État, ils ont toujours privilégié la quantité à la qualité
À mon avis, « l’IA » guidée par la cupidité et l’ignorance est une étape vers la dégradation et l’effondrement des services publics dans plusieurs pays occidentaux
Seules les personnes qui savent naviguer dans le système, ou qui sont qualifiées pour s’interfacer avec le protocole requis, ont un espoir d’obtenir un résultat
Les très grandes entreprises descendent maintenant d’un cran, en imitant les habitudes des pouvoirs supérieurs sans en assumer la responsabilité
Je n’ai jamais vu les boutons physiques d’une voiture de plus de 15 ans ne pas fonctionner, sauf sur un véhicule accidenté
À l’inverse, une entreprise premium qui facture un prix premium fait répondre de vraies personnes
Ce sera sans doute plus lent, mais on peut espérer de l’empathie et des solutions non standard
Dans ce genre de cas, la seule solution pourrait être de mettre en place une procédure de petits litiges ou d’arbitrage indépendant, non seulement pour Meta, mais pour l’ensemble des acteurs de type FAANG
Il suffit d’imaginer un employé d’une Big Tech devoir dire devant un juge ou un arbitre : « Le système a bloqué automatiquement l’utilisateur, le recours a lui aussi été rejeté automatiquement, et comme toutes les preuves et données d’assistance ont été supprimées, nous n’avons aucun moyen de savoir pourquoi »
Toute forme d’arbitrage ou d’examen juridique conduirait immédiatement, face à une telle réponse, à la défaite du géant technologique
En général, je défends le droit des entreprises à choisir avec qui elles font affaire, mais à partir du moment où une entreprise occupe une position quasi monopolistique et devient le gardien de l’accès au marché, ce type de décision doit s’accompagner d’une voie de recours raisonnable
Des obligations comme celles du Digital Markets Act de l’UE, qui imposent par exemple de « permettre aux utilisateurs professionnels d’accéder aux utilisateurs finaux », pourraient être pertinentes ; reste à voir si ce type de loi fera évoluer le comportement des entreprises