- Une femme souffrant de schizophrénie a eu un incident en prenant la fonction publicitaire d’un réfrigérateur intelligent pour des hallucinations, puis s’est auto-hospitalisée.
- En voyant apparaître sur le réfrigérateur des messages vocaux et des publicités personnalisées, elle a interprété ces contenus comme faisant référence à sa condition, selon des informations disponibles.
- La famille a consulté un avocat pour vérifier la configuration de l’appareil et les questions de confidentialité des données personnelles.
- Une discussion s’est poursuivie dans les communautés en ligne sur l’automatisation excessive des appareils intelligents et ses effets sur la santé mentale.
- La conception de l’expérience utilisateur et la sécurité des appareils électroménagers basés sur l’IA sont devenues une préoccupation sociale de premier plan.
Aperçu de l’incident
- La femme atteinte d’un trouble psychique a confondu une phrase affichée sur l’écran de son réfrigérateur intelligent avec un message qui lui était destiné et s’est rendue à l’hôpital de son plein gré pour être observée pendant 2 jours.
- La patiente avait déjà été hospitalisée lors d’épisodes psychotiques bimensuels, ce qui avait conduit à un ajustement de son traitement médicamenteux.
- La famille n’a pas compris la situation au départ et a d’abord pensé que ses symptômes s’aggravaient.
- Ce n’est qu’après vérification tardive par la famille qu’il est apparu que le texte affiché sur l’écran du réfrigérateur était une image de promotion TV intitulée « WE’RE SORRY WE UPSET YOU, CAROL » et que le prénom réel de la patiente était Carol, ce qui a provoqué la confusion.
- Le fait que la publicité soit placée dans une position atypique ressemblant à une interface d’équipement domestique l’a rendue difficile à identifier comme publicité pour un utilisateur moyen, et il a été relevé que cela peut provoquer une confusion grave chez des publics vulnérables.
Réactions sociales
- En ligne, il a été souligné que les interfaces vocale et visuelle des appareils électroménagers IA peuvent désorienter les personnes souffrant de troubles psychiques.
- Un consensus a émergé selon lequel le progrès technologique doit tenir compte de la sécurité et de la charge cognitive des personnes vulnérables sur le plan de la santé mentale.
- Le débat se poursuit sur la nécessité de normes d’accessibilité et de sécurité pour les technologies de maison connectée.
Aucun commentaire pour le moment.