Une femme souffrant de schizophrénie a confondu une publicité d’un réfrigérateur intelligent avec une hallucination
(old.reddit.com)- Une femme souffrant de schizophrénie a eu un incident en prenant la fonction publicitaire d’un réfrigérateur intelligent pour des hallucinations, puis s’est auto-hospitalisée.
- En voyant apparaître sur le réfrigérateur des messages vocaux et des publicités personnalisées, elle a interprété ces contenus comme faisant référence à sa condition, selon des informations disponibles.
- La famille a consulté un avocat pour vérifier la configuration de l’appareil et les questions de confidentialité des données personnelles.
- Une discussion s’est poursuivie dans les communautés en ligne sur l’automatisation excessive des appareils intelligents et ses effets sur la santé mentale.
- La conception de l’expérience utilisateur et la sécurité des appareils électroménagers basés sur l’IA sont devenues une préoccupation sociale de premier plan.
Aperçu de l’incident
- La femme atteinte d’un trouble psychique a confondu une phrase affichée sur l’écran de son réfrigérateur intelligent avec un message qui lui était destiné et s’est rendue à l’hôpital de son plein gré pour être observée pendant 2 jours.
- La patiente avait déjà été hospitalisée lors d’épisodes psychotiques bimensuels, ce qui avait conduit à un ajustement de son traitement médicamenteux.
- La famille n’a pas compris la situation au départ et a d’abord pensé que ses symptômes s’aggravaient.
- Ce n’est qu’après vérification tardive par la famille qu’il est apparu que le texte affiché sur l’écran du réfrigérateur était une image de promotion TV intitulée « WE’RE SORRY WE UPSET YOU, CAROL » et que le prénom réel de la patiente était Carol, ce qui a provoqué la confusion.
- Le fait que la publicité soit placée dans une position atypique ressemblant à une interface d’équipement domestique l’a rendue difficile à identifier comme publicité pour un utilisateur moyen, et il a été relevé que cela peut provoquer une confusion grave chez des publics vulnérables.
Réactions sociales
- En ligne, il a été souligné que les interfaces vocale et visuelle des appareils électroménagers IA peuvent désorienter les personnes souffrant de troubles psychiques.
- Un consensus a émergé selon lequel le progrès technologique doit tenir compte de la sécurité et de la charge cognitive des personnes vulnérables sur le plan de la santé mentale.
- Le débat se poursuit sur la nécessité de normes d’accessibilité et de sécurité pour les technologies de maison connectée.
1 commentaires
Avis Hacker News
Il est temps d’interdire totalement toutes les publicités
Je n’en vois presque jamais grâce aux technologies de blocage des pubs sur mon navigateur et mon smartphone
Quand le blocage échoue de temps en temps et que j’en vois une, je suis stupéfait de voir comment les utilisateurs ordinaires, sans bloqueur, supportent ce bombardement
Avant, on parlait de trouver un « juste milieu », mais ce genre de compromis n’a plus de sens aujourd’hui
Si quelqu’un veut voir des pubs, on ne devrait autoriser que des formats que l’utilisateur va chercher lui-même, comme les Pages Jaunes
Le secteur publicitaire est incapable de se contrôler et empêche toute régulation par le lobbying. La seule solution est d’éradiquer la publicité elle-même
J’ai acheté une TV pour mon grand-père, qui était en maison de soins à cause d’Alzheimer, et tous les modèles étaient des smart TV
Il y avait des pubs injectées partout dans les menus, et un bloc pouvait en enchaîner 8 d’affilée. C’était aussi agressif que des machines à sous
On dépasse largement le simple désagrément : c’est une cruauté envers les personnes âgées, et à mon avis cela devrait entraîner des amendes, voire des sanctions pénales
Le fait d’acheter et de vendre l’attention des gens empoisonne l’ensemble de la société
Les pubs que l’utilisateur va chercher volontairement ne posent pas de problème, mais mélanger circuits de récompense et recherche d’information devient toxique
Quand j’essaie d’utiliser une app et qu’une bannière fait la promo d’autre chose, c’est une confiscation de mon intention d’usage
Faire de la distraction de l’attention humaine un moteur central de l’économie ne devrait pas être acceptable
Au Canada, on voit partout des pubs rotatives au bord des routes, juste à côté de panneaux disant de ne pas se laisser distraire au volant
Ironiquement, ce sont justement ces panneaux qui distraient le conducteur
Un catalogue est utile parce que l’utilisateur ne le consulte que lorsqu’il en a envie
Les pubs liées à la position de l’utilisateur ou à sa recherche en cours peuvent passer, mais pas celles fondées sur son historique sur d’autres sites ou l’endroit où il a déjeuné hier
La frontière entre pub contextuelle et pub personnalisée est certes floue, mais c’est le rôle du législateur et des juges de la définir
Personnellement, je voudrais des interdictions bien plus strictes, mais cela me semble être un compromis acceptable à la fois pour l’industrie et pour les consommateurs
Voir des pubs sur un réfrigérateur est horrible, mais je doute de la véracité de ce cas
Il y avait déjà une histoire similaire dans un ancien post Reddit
Aujourd’hui, YouTube déborde aussi de vidéos qui adaptent des récits Reddit. C’est divertissant, mais la plupart semblent inventés
Donc, avec les grands espaces communautaires, mieux vaut toujours garder une certaine réserve
Le monde est plein de coïncidences qui tombent juste
Selon un article de 9to5Google, Samsung affirme ne pas afficher de pubs en plein écran
L’image postée sur Reddit semble montrer une pub d’un site tiers dans l’application navigateur du réfrigérateur
La formule « publicité affichée naturellement » me paraît être une interprétation bien trop généreuse
Il faudrait interdire par la loi que les fabricants prennent le contrôle des appareils que nous avons achetés
Qu’un utilisateur installe une app publicitaire contre rémunération, pourquoi pas, mais imposer des pubs par défaut est injustifiable
Parce que ce type de choix affaiblit le pouvoir de négociation des autres consommateurs
Et ce phénomène paraît encore pire en fin d’année
Mais le fait de devoir compter sur une « entreprise gentille » pour trouver une alternative sans pub est lui-même problématique
Si le fabricant vend en réalité l’appareil sous une forme quasi locative, le consommateur devrait pouvoir résilier à tout moment et obtenir un remboursement selon l’amortissement
Les mécanismes juridiques existent déjà, donc le marché pourrait en régler les détails
Voir des pubs sur un produit acheté ne devrait jamais être toléré
Pour les personnes souffrant de troubles psychiques en particulier, une pub inattendue peut être dangereuse
Même les panneaux numériques d’arrêt de bus qui se mettent soudain à bouger ou à parler devraient faire l’objet d’un avertissement préalable
En ce moment, les publicités liées à la peur, aux médicaments ou au sexe sont beaucoup trop agressives
Google TV affiche des pubs de films d’horreur qui couvrent tout le mur, ce qui met la famille mal à l’aise
Même pendant les repas, on se retrouve avec des pubs pour des maladies répugnantes, et certains contenus sexuels ne sont pas adaptés à un visionnage en famille
Avant, nous contrôlions nos appareils, mais désormais du contenu horrible peut être diffusé à distance
Elles cachent la souffrance réelle des maladies et ne montrent que des personnes âgées faisant du canoë
J’ai dû acheter un boîtier supplémentaire pour utiliser les mêmes apps, mais au moins il n’y a pas de publicité
Cette histoire de pub sur le réfrigérateur ressemble à un cas fabriqué
La même image circulait déjà depuis une semaine
Il m’est déjà arrivé de voir une affiche de campagne anti-dépôts sauvages disant « HEY TOSSER! » et de croire qu’il s’agissait d’un message dirigé contre moi
On peut consulter le concept associé et l’image de l’affiche
Notre communauté devrait être plus critique face à ce genre de désinformation
Voir ces tweets exemple 1, exemple 2
Pendant 100 ans, les fabricants se sont concentrés sur la fonction de réfrigération, mais dès qu’on y a ajouté une connexion Internet, ils se sont mis à obséder sur la monétisation du consommateur
L’écosystème publicitaire infecte tous les appareils connectés comme un virus
Comme les marges d’innovation se réduisent dans l’électroménager, les entreprises cherchent de nouvelles sources de revenus avec la « connectivité » et la publicité
Les réductions de coûts de main-d’œuvre ont déjà atteint leurs limites
La forme change, mais la publicité a toujours existé
Le réfrigérateur Samsung dont j’ai hérité en emménageant était horrible
La machine à glaçons est tombée en panne et fuyait, et les charnières de porte cassaient sans arrêt
J’ai fini par abandonner et en acheter un nouveau
Sur Reddit aussi, on lit souvent « tout sauf Samsung »
On dirait une stratégie consistant à fabriquer à bas coût puis à se rattraper avec la pub
Et je ne comprends toujours pas pourquoi un réfrigérateur doit être connecté à Internet
J’ai lu la nouvelle « Unauthorized Bread » de Doctorow, et c’était une œuvre intéressante sur le problème du contrôle des appareils IoT
J’hésite à la glisser discrètement dans la liste de lecture de ma mère
Mais j’ai eu l’impression qu’elle visait un lectorat plus jeune que moi
Si vous pouvez contrôler directement votre routeur, vous pouvez bloquer l’accès Internet de l’appareil
Par exemple, les routeurs Asus permettent, dans l’interface, de couper uniquement les connexions externes d’un appareil donné
On peut conserver le réseau local tout en bloquant les communications vers l’extérieur, ce qui est pratique pour des équipements comme les TV ou les caméras
Il faut simplement faire attention dans le cas d’appareils comme les caméras de sécurité, qui ont besoin d’un accès distant
On peut gérer ça en ne réactivant Internet que temporairement pour les mises à jour ou la configuration initiale