Un jugement allemand déclare que Google est responsable des erreurs de ses AI Overviews
(the-decoder.com)- AI Overviews est classé non pas comme une liste de résultats de recherche, mais comme un contenu généré par Google avec sa propre structure et ses propres formulations, ce qui engage la responsabilité directe de Google en cas d’affirmations mensongères
- Le tribunal régional de Munich a estimé qu’un résumé IA associait à tort deux éditeurs à une fraude, à des pièges à l’abonnement et à des pratiques commerciales douteuses, alors qu’aucune des sources liées ne contenait un tel lien
- La doctrine de responsabilité limitée appliquée jusqu’ici aux moteurs de recherche et à l’autocomplétion, conçue pour des fonctions orientant vers des sites externes, ne s’applique pas aux résumés IA
- L’argument de Google selon lequel l’utilisateur peut vérifier lui-même les sources a été rejeté, un résumé IA compréhensible de manière autonome n’étant pas exonéré de responsabilité par la seule possibilité d’effectuer des recherches supplémentaires
- Même si une analyse a attribué 91 % de précision à Google AI Overviews basé sur Gemini 3, à l’échelle de Google cela pourrait encore représenter des millions de mauvaises réponses par heure, avec un risque juridique pour l’ensemble des services IA similaires
Les points clés de la décision du tribunal allemand
- Le tribunal régional de Munich, en Allemagne, a jugé que Google est directement responsable du contenu de ses résumés de recherche générés par IA
- L’ordonnance de référé interdit à Google de diffuser, via des résumés de recherche générés par IA, de fausses affirmations concernant deux éditeurs basés à Munich
- Le tribunal a qualifié l’« AI overview » non comme une simple liste de résultats de recherche, mais comme un contenu propre à Google
- Pour certaines requêtes, le résumé IA de Google associait à tort les deux éditeurs à une fraude, à des pièges à l’abonnement et à des pratiques commerciales douteuses
- Le tribunal a estimé que l’IA avait en réalité confondu les plaignants avec des informations concernant d’autres entreprises effectivement douteuses, et que les sources liées ne contenaient pas de tels rapprochements
AI Overview n’est pas un résultat de recherche
- AI Overviews ne fonctionne pas comme un résultat de recherche traditionnel : il réécrit et évalue les résultats avec ses propres phrases et sa propre structure
- Dans le cas en cause, le résumé IA commençait par une phrase affirmative du type : « Oui, [entreprise] est connue pour des pratiques commerciales suspectes »
- Le résumé IA organisait de sa propre initiative une synthèse, des signaux de suspicion de fraude et des conseils pour les utilisateurs
- Le tribunal a jugé que le résumé IA avançait des affirmations absentes même des résultats de recherche
- Aucune des sources liées n’établissait de relation entre les plaignants et les entreprises douteuses mentionnées par l’IA, ce que le tribunal a considéré comme une affirmation propre du défendeur
- Comme Google a créé l’IA et l’a mise à disposition des utilisateurs, le tribunal a aussi reconnu Google comme l’entité ayant une influence sur la manière dont l’IA est fournie et sur l’algorithme de fonctionnement
La doctrine de responsabilité applicable aux moteurs de recherche ne s’applique pas
- La jurisprudence antérieure de la Cour fédérale de justice allemande reconnaissait une responsabilité limitée pour les moteurs de recherche traditionnels et l’autocomplétion
- Selon cette jurisprudence, l’exploitant d’un moteur de recherche n’est responsable qu’indirectement, puisqu’il se contente de permettre l’accès à des contenus tiers
- Le tribunal de Munich a jugé que cette logique ne s’applique pas à AI Overviews
- Un moteur de recherche classique renvoie vers des sites externes, alors qu’AI Overviews évalue et combine des contenus issus de plusieurs sites tiers pour produire une affirmation substantielle, nouvelle et indépendante
- Le tribunal a estimé que seul Google peut vérifier les affirmations de l’IA et qu’il peut au minimum comparer les sites tiers sous-jacents avec ses propres affirmations
- AI Overview n’est pas une fonction absolument indispensable à l’usage d’internet, les utilisateurs pouvant organiser l’information à partir des seuls résultats de recherche traditionnels
Les limites de l’argument « l’utilisateur peut vérifier lui-même »
- Lors de l’audience, Google a soutenu que l’utilisateur pouvait vérifier directement les sources liées pour confirmer si le résumé IA était exact
- Google a aussi affirmé qu’il est généralement connu que les utilisateurs ne doivent pas accorder une confiance aveugle aux informations générées par IA
- Le tribunal a jugé que la simple possibilité de réfuter une affirmation par des recherches complémentaires n’exonère pas en principe de responsabilité pour cette affirmation
- L’AI Overview en cause était compréhensible en lui-même, contenait des affirmations complètes compréhensibles de manière autonome, et ne mentionnait ni autre interprétation possible ni caractère peu fiable du contenu
- Une étude selon laquelle seuls 1 % des utilisateurs cliquent directement sur un lien source depuis les AI Overviews de Google vient appuyer le raisonnement du tribunal
- Le tribunal a invoqué une analogie avec le droit de la presse, selon laquelle un éditeur peut être responsable d’un teaser compréhensible de manière autonome même si le lecteur ne lit pas l’article complet
- Le tribunal a aussi estimé que si, selon la logique de Google, AI Overview était généralement reconnu comme non fiable, l’intérêt même de cette fonction s’en trouverait fortement diminué
Lacune de protection et enjeu du Digital Services Act
- Si Google n’était responsable qu’en cas de violation manifeste, les victimes disposeraient en pratique de peu de recours juridiques lorsqu’une IA fabrique de fausses affirmations
- Les sites tiers utilisés comme sources n’ayant pas eux-mêmes formulé les affirmations litigieuses, les victimes ne peuvent pas engager d’action contre ces sources
- S’il n’est pas non plus possible d’agir efficacement contre Google dans le cadre des règles existantes, cela crée une lacune de protection
- Google n’a pas pu invoquer la protection réservée aux hébergeurs dans le cadre du Digital Services Act, ni se reposer sur la procédure standard de notification et retrait applicable aux moteurs de recherche
Opinions générées par IA et liberté d’expression
- Le tribunal a jugé que les opinions d’une IA ne sont pas l’expression d’une conviction formée par une personne, mais le résultat d’un algorithme
- La fourniture de recherche fondée sur l’IA a été considérée avant tout comme l’expression de l’activité commerciale de Google
- L’intérêt à exprimer librement opinions et convictions a donc été évalué comme secondaire
- En mettant en balance les droits de la personnalité des plaignants et les intérêts de Google, le tribunal a estimé que les intérêts de Google devaient céder, les affirmations en cause reposant sur des faits faux
- L’IA reliait les plaignants à des entreprises sans rapport avec eux, et selon des déclarations sous serment les plaignants n’avaient aucun lien avec ces entreprises
Résultat de la décision et répartition des frais
- Le jugement du tribunal a donné raison aux plaignants sur l’essentiel de leurs demandes
- Ont été interdites les affirmations relatives à une fraude, à des liens avec des entreprises suspectes, à des pièges à l’abonnement, à des appels téléphoniques qui n’ont jamais eu lieu et à une prétendue indisponibilité
- Seules deux demandes mineures ont été rejetées
- Le tribunal a estimé qu’un risque de répétition de l’infraction subsistait, même si certaines formulations n’étaient plus affichées
- Google n’a pas émis de déclaration d’engagement à cesser avec clause pénale, et rien n’indiquait que l’algorithme empêcherait la régénération des mêmes affirmations
- Google devra supporter 80 % des frais de justice, les plaignants 10 % chacun
- Le tribunal a estimé que cette décision pourrait aussi avoir une portée internationale
Ce que pose le taux de précision de 91 %
- Dans une analyse réalisée par la startup IA Oumi pour le New York Times, la version actuelle de Google AI Overviews basée sur le modèle Gemini 3 affiche un taux de bonnes réponses de 91 %
- Ce niveau est généralement considéré comme suffisant pour un usage quotidien par la plupart des personnes
- À l’échelle de Google, même 91 % de précision signifie encore des millions de mauvaises réponses par heure
- Si un volume suffisant d’erreurs porte atteinte à la réputation d’entreprises ou de particuliers, cela pourrait créer de sérieux problèmes juridiques non seulement pour Google, mais aussi pour des services similaires comme ChatGPT, Claude ou Perplexity
- L’analyse d’Oumi a estimé que 56 % des réponses exactes de Gemini 3 ne pouvaient pas être étayées par les sources liées par Google
- Les utilisateurs peuvent ainsi se retrouver dans une situation où ils ne parviennent pas à retracer la source des réponses fournies par l’IA
- Le tribunal de Munich s’est attaqué à la question de savoir si, lorsque l’IA formule ses propres affirmations absentes des sources liées, l’opérateur doit en assumer la responsabilité
- Il reste à voir si ce raisonnement sera confirmé en appel, et Google n’a pas commenté la décision
2 commentaires
C’est bourré de mauvaises réponses mdr
Commentaires sur Hacker News
Si j’ai bien compris, j’aime bien ce jugement. Google a créé un produit appelé Search, des règles se sont établies autour de ce produit, et l’entreprise a conservé un monopole sur celui-ci
Maintenant, Google transforme ce produit en un nouveau produit tout en l’appelant du même nom. Parce qu’il veut conserver ce monopole
Ce qui a été jugé illégal, c’est cette partie-là. Ce n’est pas Gemini en soi qui est illégal, mais le fait de faire passer la pire version de Gemini pour Search tout en brisant les règles établies pour Search. Cela dit, je ne suis pas juriste
Le texte n’a pas l’air d’aller dans ce sens non plus. Cela ressemble davantage à une question du type Section 230 aux États-Unis. La Section 230 est une loi américaine qui protège des plateformes comme Facebook et Google contre le fait d’être traitées comme des éditeurs, au motif qu’elles ne font que transmettre l’information ; ici, l’idée serait qu’en Allemagne, les résultats IA sont considérés comme rédigés par Google
Bien. Le véritable marqueur d’une intelligence artificielle générale sera le moment où l’entreprise assumera sa responsabilité, au lieu de cacher dans ses conditions une formule du genre « uniquement à des fins de divertissement ». Comme pour n’importe quel employé
C’est pareil pour la conduite autonome. Tant que la voiture n’assume pas la responsabilité et que l’utilisateur n’est pas traité comme un simple passager, ce n’est pas une voiture autonome
Cela dit, l’Allemagne risque bientôt de perdre les résultats IA de Google
Mais si l’on adopte cette position, il faut aussi accepter que ces entreprises choisissent de ne pas proposer leurs produits et services dans ce pays. Les systèmes d’IA deviendront peut-être un jour, dans 10 à 20 ans, assez précis pour supporter le coût des procès, mais avant cela, ces pays risquent d’en être privés jusqu’à l’arrivée de systèmes entièrement validés
Pour les voitures autonomes aussi, il suffit d’un modèle où l’entreprise assume dans certaines situations, et où la voiture refuse de conduire dans d’autres ; il n’est pas nécessaire qu’elle soit exceptionnellement avancée
Il est ironique que ce texte lui-même avance une affirmation erronée sur la responsabilité qui aurait été reconnue à Google, et que presque personne ne vérifie les faits
La loi violée est celle qui protège la réputation des particuliers et des entreprises contre les affirmations contraires aux faits. En substance, si une affirmation est diffamatoire, on ne peut pas dire « X est Y » puis ajouter « cela peut être faux, vérifiez vous-même »
Ce jugement est plutôt bon. J’espère qu’à l’avenir Google cessera de produire des affirmations factuelles catégoriques comme ici, et utilisera des formulations plus appropriées du type « selon X… », accompagnées d’un avertissement explicite indiquant que cela ne peut pas être vérifié. Mieux encore, il devrait aller chercher les documents du tribunal, vérifier s’il existe réellement une décision de justice, puis en informer l’utilisateur
Cela dit, je ne suis même pas certain que tu aies raison non plus. Quelle affirmation fausse, exactement, ce texte contient-il ?
Certains vont s’en plaindre, mais au final l’Europe restera en avance sur ce terrain juridique. C’est agaçant et cela ralentit parfois la vitesse de l’innovation, mais les entreprises américaines font sans limite tout ce qui peut rapporter de l’argent
Pour l’instant, il n’y a à y gagner que de la volatilité. Il suffit de laisser les États-Unis encaisser les chocs économiques et sociaux, puis de récupérer ce qui survivra. Il n’y a aucune raison de se presser. Les usages vraiment utiles ont très peu de douves défensives. Il n’existe pas non plus d’écart assez important, par rapport aux modèles ouverts ou aux petits acteurs, pour justifier les coûts et les risques de l’exploitation à la pointe. Au final, une grande partie de cette activité IA finira probablement, pour la majorité des cas d’usage, par se stabiliser autour de modèles locaux
Les États-Unis produiront peut-être leur premier décamilliardaire, mais en pratique ce ne sera pas grâce à l’innovation ; ce sera à cause de la corruption, de l’exploitation et d’inégalités de richesse extrêmes. Si l’économie de l’IA ne se déroule pas comme « prévu », il n’y aura pas de retour en arrière. Cet argent aura simplement été transformé en chaleur et en déchets matériels jetables. Cela ne vaut pas la peine de mettre en danger les retraites et la cohésion sociale au nom d’un « avantage technologique »
Ou bien tu penses vraiment que le fait qu’en Allemagne l’hébergement d’avis négatifs soit pratiquement illégal est une bonne chose ?
Quelle autre conclusion pourrait avoir le moindre sens ? Les plateformes ont pris l’habitude de s’en tirer alors qu’elles servent à fournir des produits dangereux et défaillants. Il doit bien y avoir une limite.
Ensuite, il faut s’occuper d’Amazon, qui vend des guides de cueillette générés par l’IA :
https://www.theguardian.com/technology/2023/sep/01/mushroom-...
Quand j’étais enfant, quel que soit le livre de cueillette acheté en librairie, il avait au moins un minimum de qualité. Est-ce vraiment si difficile ? Les profits abusifs ne sont-ils plus punis maintenant ?
Source : https://www.youtube.com/watch?v=P-QaEB5eXSU
à 3:00
Choisir la réponse à la place de l’utilisateur au lieu de le laisser juger par lui-même, c’est un pouvoir énorme, et le tribunal a eu raison de considérer que ce pouvoir s’accompagne d’une responsabilité de minimiser les dommages causés aux autres membres de la société
Ça me paraît logique.
Si Google Search cite un site web tiers contenant des informations erronées, alors Google n’en est pas responsable. La responsabilité est transférée au tiers. C’est le privilège dont Google bénéficie en tant que moteur de recherche
Mais si Google n’agit pas comme un moteur de recherche mais comme une machine à réponses, alors ce privilège ne s’applique plus. Il n’y a pas de tiers sur qui rejeter la responsabilité
Cela ressemble à une décision de bon sens. L’IA n’est pas Search. Les grands modèles de langage produisent des affirmations, et non des résultats de recherche que l’utilisateur doit interpréter lui-même. C’est la différence entre chercher un sujet dans le catalogue d’une bibliothèque et laisser un logiciel donner sa propre réponse
Dès l’apparition de ces systèmes, quand ils se mettaient à mentir avec assurance, je me suis dit que ce genre de procès était inévitable. Tant mieux que l’Allemagne ait bien jugé l’affaire
Le lien vers le jugement est ici. En allemand, évidemment, et la page d’origine semble avoir été prise d’assaut : https://the-decoder.de/wp-content/uploads/2026/06/26_O_869_2...
Je ne sais pas quels gains, mais s’ils ont laissé ça activé, c’est bien qu’il y a une raison, non ?