La FCC déclare illégales les voix générées par IA dans les robocalls

 (fcc.gov)
1 points par GN⁺ 2024-02-09 | 1 commentaires | Partager sur WhatsApp
  • Face à la multiplication des appels automatisés utilisant des voix IA qui semblent humaines, la FCC les considère comme des appels « artificial » au sens du TCPA et les intègre au cadre existant de protection des consommateurs par téléphone
  • Ce Declaratory Ruling confirme que le Telephone Consumer Protection Act (TCPA) s’applique aussi aux appels utilisant des voix humaines générées par IA
  • La décision de la FCC a été adoptée à l’unanimité et vise directement l’usage de voix générées par IA dans les robocalls
  • Le News Release et le texte du Declaratory Ruling sont disponibles aux formats docx, pdf et txt, ce qui permet de consulter directement la décision
  • Les liens vers de l’audio et de la vidéo deepfake rendent les robocalls et SMS frauduleux plus difficiles à distinguer, renforçant la nécessité pratique d’encadrer les voix IA

Application du TCPA aux robocalls avec voix générées par IA

  • La FCC a adopté à l’unanimité un Declaratory Ruling reconnaissant que les appels créés avec des voix générées par IA relèvent des appels « artificial » au sens du Telephone Consumer Protection Act (TCPA)
  • Le champ d’application concerne les appels créés avec des AI-generated voices
  • Cette décision vise directement les cas d’utilisation de voix générées par IA dans les robocalls et confirme que le TCPA s’applique aussi aux technologies d’IA générant des voix humaines

Documents publiés par la FCC

Information aux consommateurs sur les deepfakes

À lire aussi

1 commentaires

 
GN⁺ 2024-02-09
Avis sur Hacker News

  • Une fois, j’ai reçu un appel d’un numéro inconnu et, quand j’ai décroché, un enregistrement de la voix de ma femme a dit « Hello? »
    Depuis, quand je ne connais pas l’appelant, je ne dis plus Hello en premier en décrochant.

    • Pour aller un cran plus loin et réduire la gêne et les faux positifs, je mets toutes les personnes que je connais dans les contacts de mon téléphone.
      Si l’appel s’affiche avec un numéro plutôt qu’un nom, je ne réponds tout simplement pas ; si ce n’est pas du spam, je pars du principe qu’ils laisseront un message vocal ou un SMS.
      S’ils ne font ni l’un ni l’autre, il y a de fortes chances que ce soit du spam/une arnaque, ou que ce n’était pas très important au départ. Je fais ça depuis plus de 10 ans et je n’ai encore jamais eu de problème.
    • Même dans les rares cas où je décroche, je ne donne aucune information.
      Si je réponds, je garde le silence pendant 3 à 5 secondes, pour laisser à un humain la possibilité de parler en premier si ce n’est pas un bot.
    • Je reçois des appels où personne ne dit rien pendant environ 3 minutes, puis quelqu’un finit par dire Hello.
      Dans une optique parano, je me demande si ce n’est pas pour enregistrer ma voix et l’utiliser pour une usurpation par IA.
    • Je suis désolé d’enfreindre l’étiquette téléphonique, mais je pense pareil.
      Il faut que l’appelant parle en premier pour savoir si c’est une vraie personne ; et si c’est un système automatisé, je préfère rester silencieux en espérant qu’il ne remarque pas que mon numéro n’est pas, lui aussi, un autre système automatisé.

  • Le principe juridique qui permet à la FCC de prendre ce genre de décision s’appelle le Chevron Deference, et il me semble important de noter qu’il est actuellement attaqué.
    https://www.scotusblog.com/2024/01/supreme-court-likely-to-d...

    • Ce fil comprend très mal le Chevron Deference.
      Le supprimer ne plongerait pas les agences dans une anarchie à la Mad Max où elles ne pourraient plus rien faire ; il a toujours existé des critères autorisant l’édiction de règles administratives.
      L’étendue de la marge d’appréciation est une autre question, mais préciser que des voix générées par IA relèvent de l’« artificiel » au sens de la loi ne nécessite quasiment pas de réglementation, pas plus que dire que « frapper quelqu’un à la tête avec un ordinateur » relève d’une « agression ».
    • Je n’ai lu que le lien, mais cette explication me semble un peu erronée.
      Le principe Chevron ne permet pas aux agences comme la FCC de prendre ce type de décision ; il empêche les tribunaux de l’annuler.
      Autrement dit, même si les juges de la Cour suprême pensent tous, à titre personnel, que l’interprétation de l’agence pose problème, ils doivent la respecter ; sans Chevron, ils pourraient l’annuler dans un tel cas.
      Ici, considérer les voix générées par IA comme « artificielles » pour l’application de la loi est tellement évident qu’à mon avis le principe Chevron n’aurait même pas à s’appliquer.
    • Je suis d’accord sur l’importance du Chevron Deference, mais dans cette décision, je ne pense pas qu’un tribunal irait jusqu’à la deuxième étape de Chevron.
      La loi interdit les « voix artificielles ou préenregistrées », et un agent IA étant par définition artificiel, aucune déférence particulière ne semble nécessaire.
    • Chevron est absurde, même à première vue.
      Une agence dit que tu as enfreint la loi ; tu poursuis cette agence ; le tribunal s’aligne sur l’agence.
      Au final, on te prive de la possibilité de contester réellement l’affaire devant un tribunal.
    • Je crains qu’à une époque où les choses évoluent aussi vite qu’aujourd’hui, on se retrouve à devoir attendre une législation explicite pour chaque détail mineur.

  • Plus précisément, il faut plutôt voir cela comme une interprétation officielle, par la FCC, de la loi existante, le Telephone Consumer Protection Act, clarifiant que les voix générées par IA dans les robocalls enfreignent cette loi ; cela paraît raisonnable.

    • Le titre devrait être : « La FCC juge illégales les voix générées par IA dans les robocalls ».
    • Cette décision va mettre fin à plusieurs entreprises et startups, y compris une startup fondée par des fondateurs de Stanford.
    • Je ne vois pas d’où la FCC tirerait le pouvoir d’établir un précédent juridique.

  • Il aurait fallu imposer un libellé d’identification dans l’identification de l’appelant pour les robocalls.
    Par exemple, quelque chose comme « Police Officers Benevolent Association [Robocall] ».

    • Pour cela, il faudrait littéralement moderniser 50 à 70 ans d’infrastructure télécom déployée dans tout le pays, et cela n’arrivera pas.
    • Ce qu’il faut faire est complètement différent.
      Apple et Google devraient fournir des robots téléphoniques personnels intégrés à leurs logiciels par défaut.
      Quand on achète un nouveau téléphone, on enregistre plusieurs phrases pendant environ 15 minutes, puis le robot répond aux appels à notre place.
      Ce robot chercherait à retenir les spammeurs et télévendeurs en ligne le plus longtemps possible.
      Une minute, c’est bien ; dix minutes, c’est encore mieux.
      Si les spammeurs essaient de l’éviter, Apple et Google peuvent améliorer leurs robots pour riposter.
      En quelques mois, ce secteur serait mort.
      Ils n’ont pas les moyens de passer 30 minutes par appel pour déterminer si c’est un pigeon prêt à envoyer du vrai argent à un prince nigérian, ou un mauvais logiciel qui trompe un opérateur dont l’anglais n’est pas la langue maternelle.
      Les marges s’effondreraient, et le besoin d’une IA plus sophistiquée pour distinguer les vrais humains exploserait, rendant le modèle économiquement intenable.
    • Qui sont « ils », et comment savoir quels appels sont légaux ou non ?

  • Cela veut dire que la FCC a adopté à l’unanimité une décision déclaratoire selon laquelle les appels passés avec des voix générées par IA relèvent de l’« artificiel » au sens du TCPA.
    Ils sont donc illégaux au sens où les robocalls artificiels l’étaient déjà.

    • Les appels frauduleux sont déjà illégaux eux aussi, mais c’est un peu pareil : il ne se passe pas grand-chose.
    • Je ne pense pas que la FCC puisse rendre quelque chose illégal.
      Des titres comme celui-ci n’aideront pas les vraies affaires judiciaires en cours.
    • « La FCC annonce qu’une voix artificielle est bien une voix artificielle »

  • On dirait qu’on cible le symptôme plutôt que le problème lui-même
    L’un des gros problèmes des appels automatisés, c’est qu’il est pratiquement impossible de savoir qui a appelé, et que les outils de signalement de spam n’ont pas vraiment d’effet
    Quand un appel arrive, on devrait voir qui est responsable de cet appel
    Par exemple, afficher quelque chose comme « [numéro de téléphone] est enregistré auprès de [personne physique ou morale] », et si les signalements de spam s’accumulent, la capacité de cette partie à utiliser le réseau téléphonique devrait être restreinte

    • Tant que plus de 1 % des électeurs de Pennsylvanie continueront à voter en fonction de la dernière personne qui leur a parlé, et que les Super PAC pourront continuer à recevoir des fonds anonymes illimités, aucun canal média ne sera légalement limité dans sa capacité à spammer les gens
      Le spam téléphonique est politiquement trop efficace
    • Je pense pareil
      Cibler ce genre d’arnaques est un bon premier pas, mais je doute que les opérateurs étrangers les utilisent moins
      La plupart des appels de spam que je reçois ne respectent même pas la liste Do Not Call ; pourquoi respecteraient-ils ceci ?
      La FCC devrait fixer des échéances strictes pour STIR/SHAKEN et infliger des amendes aux opérateurs qui ne s’y conforment pas
      C’est comme ça que les opérateurs VoIP le prendront au sérieux
    • À long terme, je crois que SHAKEN/STIR est censé résoudre ce problème
      Je ne sais pas pourquoi ça prend autant de temps, mais les téléphones mobiles devraient déjà pouvoir indiquer si l’identification de l’appelant a été vérifiée
      L’étape suivante sera probablement de bloquer purement et simplement les appelants non vérifiés
      À mon avis, il reste beaucoup de travail de migration
      https://www.fcc.gov/call-authentication
    • Il est déjà possible de rechercher l’opérateur associé à un numéro, et ce serait bien de l’afficher sous la localisation sur l’écran d’appel entrant
      Ce n’est pas du tout la même chose selon que l’appel vient de T-Mobile ou d’une société dont on n’a jamais entendu parler
    • Cela me semble être exactement à l’opposé du point de vue vie privée partagé par beaucoup de gens sur cette plateforme

  • Avec cette décision, les systèmes IVR deviennent-ils aussi illégaux ?
    Je salue l’effort, car cela pourrait réduire beaucoup de spam, mais je me pose la question, puisque les voix générées par IA dans les appels téléphoniques sont déjà omniprésentes depuis des décennies
    Tracent-ils une ligne précise sur la qualité de la voix ?

    • Cette décision s’applique spécifiquement à l’entité qui passe l’appel
      Les IVR ne sont pas concernés
      Les appels automatisés sont également autorisés s’il y a consentement
      C’est le cas, par exemple, lorsqu’on s’inscrit pour être prévenu qu’un médicament préparé est prêt ou qu’un livre réservé est disponible
      Cela n’a rien à voir avec la qualité de la voix, et les voix préenregistrées sont aussi visées par l’interdiction

  • Quel manque de bon sens faut-il pour rendre illégale l’utilisation d’une voix robotique tout en continuant à laisser les appels robotisés tranquilles ?
    Ça n’a aucun sens

    • Cette décision vise à traiter les appels contenant une voix générée par IA de la même manière que les autres appels automatisés déjà illégaux

  • Les voix « artificielles » dans les appels téléphoniques existent depuis 1971
    À l’époque, une entreprise appelée Federal Screw Works avait développé le premier synthétiseur vocal Votrax, avec Richard Gagnon à l’ingénierie

  • Comment peut-on faire appliquer ça ?
    Ont-ils interdit tous les messages vocaux automatisés ?
    Comment « IA » est-elle définie ici ?

    • L’application est difficile, mais en général cela consiste à retracer un signalement jusqu’à l’opérateur émetteur ou au client émetteur, puis à porter l’affaire devant un tribunal
      Les messages vocaux automatisés étaient déjà restreints, et cette décision ne fait que confirmer que les voix générées par IA entrent dans la catégorie des messages vocaux automatisés
      Voici un extrait de la décision correspondante

      II. BACKGROUND
      3. The TCPA protects consumers from unwanted calls made using an artificial or prerecorded voice. See 47 U.S.C. § 227(b)(1).
      In relevant part, the TCPA prohibits initiating “any telephone call to any residential telephone line using an artificial or prerecorded voice to deliver a message without the prior express consent of the called party” unless a statutory exception applies or the call is “exempted by rule or order by the Commission under [section 227(b)(2)(B)].” 47 U.S.C. § 227(b)(1)(B). The TCPA does not define the terms “artificial” or “prerecorded voice.”

      Puis plus loin :

      III. DISCUSSION
      5. Consistent with our statements in the AI NOI, we confirm that the TCPA’s restrictions on the use of “artificial or prerecorded voice” encompass current AI technologies that resemble human voices and/or generate call content using a prerecorded voice.

    • Le PDF est ici : https://docs.fcc.gov/public/attachments/FCC-24-17A1.pdf

    • Certaines personnes enregistrent les appels
      Les entreprises doivent souvent les enregistrer pour des raisons de conformité dans les situations de vente directe aux consommateurs
      S’il existe un enregistrement, même sans algorithme, un tribunal devrait pouvoir déterminer facilement au cas par cas s’il s’agit d’une voix IA