- AI Overviews est classé non pas comme une liste de résultats de recherche, mais comme un contenu généré par Google avec sa propre structure et ses propres formulations, ce qui engage la responsabilité directe de Google en cas d’affirmations mensongères
- Le tribunal régional de Munich a estimé qu’un résumé IA associait à tort deux éditeurs à une fraude, à des pièges à l’abonnement et à des pratiques commerciales douteuses, alors qu’aucune des sources liées ne contenait un tel lien
- La doctrine de responsabilité limitée appliquée jusqu’ici aux moteurs de recherche et à l’autocomplétion, conçue pour des fonctions orientant vers des sites externes, ne s’applique pas aux résumés IA
- L’argument de Google selon lequel l’utilisateur peut vérifier lui-même les sources a été rejeté, un résumé IA compréhensible de manière autonome n’étant pas exonéré de responsabilité par la seule possibilité d’effectuer des recherches supplémentaires
- Même si une analyse a attribué 91 % de précision à Google AI Overviews basé sur Gemini 3, à l’échelle de Google cela pourrait encore représenter des millions de mauvaises réponses par heure, avec un risque juridique pour l’ensemble des services IA similaires
Les points clés de la décision du tribunal allemand
- Le tribunal régional de Munich, en Allemagne, a jugé que Google est directement responsable du contenu de ses résumés de recherche générés par IA
- L’ordonnance de référé interdit à Google de diffuser, via des résumés de recherche générés par IA, de fausses affirmations concernant deux éditeurs basés à Munich
- Le tribunal a qualifié l’« AI overview » non comme une simple liste de résultats de recherche, mais comme un contenu propre à Google
- Pour certaines requêtes, le résumé IA de Google associait à tort les deux éditeurs à une fraude, à des pièges à l’abonnement et à des pratiques commerciales douteuses
- Le tribunal a estimé que l’IA avait en réalité confondu les plaignants avec des informations concernant d’autres entreprises effectivement douteuses, et que les sources liées ne contenaient pas de tels rapprochements
AI Overview n’est pas un résultat de recherche
- AI Overviews ne fonctionne pas comme un résultat de recherche traditionnel : il réécrit et évalue les résultats avec ses propres phrases et sa propre structure
- Dans le cas en cause, le résumé IA commençait par une phrase affirmative du type : « Oui, [entreprise] est connue pour des pratiques commerciales suspectes »
- Le résumé IA organisait de sa propre initiative une synthèse, des signaux de suspicion de fraude et des conseils pour les utilisateurs
- Le tribunal a jugé que le résumé IA avançait des affirmations absentes même des résultats de recherche
- Aucune des sources liées n’établissait de relation entre les plaignants et les entreprises douteuses mentionnées par l’IA, ce que le tribunal a considéré comme une affirmation propre du défendeur
- Comme Google a créé l’IA et l’a mise à disposition des utilisateurs, le tribunal a aussi reconnu Google comme l’entité ayant une influence sur la manière dont l’IA est fournie et sur l’algorithme de fonctionnement
La doctrine de responsabilité applicable aux moteurs de recherche ne s’applique pas
- La jurisprudence antérieure de la Cour fédérale de justice allemande reconnaissait une responsabilité limitée pour les moteurs de recherche traditionnels et l’autocomplétion
- Selon cette jurisprudence, l’exploitant d’un moteur de recherche n’est responsable qu’indirectement, puisqu’il se contente de permettre l’accès à des contenus tiers
- Le tribunal de Munich a jugé que cette logique ne s’applique pas à AI Overviews
- Un moteur de recherche classique renvoie vers des sites externes, alors qu’AI Overviews évalue et combine des contenus issus de plusieurs sites tiers pour produire une affirmation substantielle, nouvelle et indépendante
- Le tribunal a estimé que seul Google peut vérifier les affirmations de l’IA et qu’il peut au minimum comparer les sites tiers sous-jacents avec ses propres affirmations
- AI Overview n’est pas une fonction absolument indispensable à l’usage d’internet, les utilisateurs pouvant organiser l’information à partir des seuls résultats de recherche traditionnels
Les limites de l’argument « l’utilisateur peut vérifier lui-même »
- Lors de l’audience, Google a soutenu que l’utilisateur pouvait vérifier directement les sources liées pour confirmer si le résumé IA était exact
- Google a aussi affirmé qu’il est généralement connu que les utilisateurs ne doivent pas accorder une confiance aveugle aux informations générées par IA
- Le tribunal a jugé que la simple possibilité de réfuter une affirmation par des recherches complémentaires n’exonère pas en principe de responsabilité pour cette affirmation
- L’AI Overview en cause était compréhensible en lui-même, contenait des affirmations complètes compréhensibles de manière autonome, et ne mentionnait ni autre interprétation possible ni caractère peu fiable du contenu
- Une étude selon laquelle seuls 1 % des utilisateurs cliquent directement sur un lien source depuis les AI Overviews de Google vient appuyer le raisonnement du tribunal
- Le tribunal a invoqué une analogie avec le droit de la presse, selon laquelle un éditeur peut être responsable d’un teaser compréhensible de manière autonome même si le lecteur ne lit pas l’article complet
- Le tribunal a aussi estimé que si, selon la logique de Google, AI Overview était généralement reconnu comme non fiable, l’intérêt même de cette fonction s’en trouverait fortement diminué
Lacune de protection et enjeu du Digital Services Act
- Si Google n’était responsable qu’en cas de violation manifeste, les victimes disposeraient en pratique de peu de recours juridiques lorsqu’une IA fabrique de fausses affirmations
- Les sites tiers utilisés comme sources n’ayant pas eux-mêmes formulé les affirmations litigieuses, les victimes ne peuvent pas engager d’action contre ces sources
- S’il n’est pas non plus possible d’agir efficacement contre Google dans le cadre des règles existantes, cela crée une lacune de protection
- Google n’a pas pu invoquer la protection réservée aux hébergeurs dans le cadre du Digital Services Act, ni se reposer sur la procédure standard de notification et retrait applicable aux moteurs de recherche
Opinions générées par IA et liberté d’expression
- Le tribunal a jugé que les opinions d’une IA ne sont pas l’expression d’une conviction formée par une personne, mais le résultat d’un algorithme
- La fourniture de recherche fondée sur l’IA a été considérée avant tout comme l’expression de l’activité commerciale de Google
- L’intérêt à exprimer librement opinions et convictions a donc été évalué comme secondaire
- En mettant en balance les droits de la personnalité des plaignants et les intérêts de Google, le tribunal a estimé que les intérêts de Google devaient céder, les affirmations en cause reposant sur des faits faux
- L’IA reliait les plaignants à des entreprises sans rapport avec eux, et selon des déclarations sous serment les plaignants n’avaient aucun lien avec ces entreprises
Résultat de la décision et répartition des frais
- Le jugement du tribunal a donné raison aux plaignants sur l’essentiel de leurs demandes
- Ont été interdites les affirmations relatives à une fraude, à des liens avec des entreprises suspectes, à des pièges à l’abonnement, à des appels téléphoniques qui n’ont jamais eu lieu et à une prétendue indisponibilité
- Seules deux demandes mineures ont été rejetées
- Le tribunal a estimé qu’un risque de répétition de l’infraction subsistait, même si certaines formulations n’étaient plus affichées
- Google n’a pas émis de déclaration d’engagement à cesser avec clause pénale, et rien n’indiquait que l’algorithme empêcherait la régénération des mêmes affirmations
- Google devra supporter 80 % des frais de justice, les plaignants 10 % chacun
- Le tribunal a estimé que cette décision pourrait aussi avoir une portée internationale
Ce que pose le taux de précision de 91 %
- Dans une analyse réalisée par la startup IA Oumi pour le New York Times, la version actuelle de Google AI Overviews basée sur le modèle Gemini 3 affiche un taux de bonnes réponses de 91 %
- Ce niveau est généralement considéré comme suffisant pour un usage quotidien par la plupart des personnes
- À l’échelle de Google, même 91 % de précision signifie encore des millions de mauvaises réponses par heure
- Si un volume suffisant d’erreurs porte atteinte à la réputation d’entreprises ou de particuliers, cela pourrait créer de sérieux problèmes juridiques non seulement pour Google, mais aussi pour des services similaires comme ChatGPT, Claude ou Perplexity
- L’analyse d’Oumi a estimé que 56 % des réponses exactes de Gemini 3 ne pouvaient pas être étayées par les sources liées par Google
- Les utilisateurs peuvent ainsi se retrouver dans une situation où ils ne parviennent pas à retracer la source des réponses fournies par l’IA
- Le tribunal de Munich s’est attaqué à la question de savoir si, lorsque l’IA formule ses propres affirmations absentes des sources liées, l’opérateur doit en assumer la responsabilité
- Il reste à voir si ce raisonnement sera confirmé en appel, et Google n’a pas commenté la décision
3 commentaires
Avis sur Lobste.rs
Il y a une différence entre le fait, pour un moteur de recherche, d’indiquer des sites web susceptibles de correspondre à la requête d’un utilisateur, et le fait de lire ces sites puis d’en fournir un résumé
Si l’on choisit la seconde option, la source d’information de l’utilisateur devient Google lui-même, et il ne devrait pas pouvoir échapper aux responsabilités qui en découlent
En lisant l’article, on a l’impression que la responsabilité pour dommages ne s’applique qu’aux éléments qui ne proviennent pas des résultats de recherche, ce qui me paraît un peu étrange, mais j’ai peut-être mal compris
Je me dis que cela pourrait être une manière d’écarter juridiquement les grands modèles de langage de la recherche
Si les grands modèles de langage sont non déterministes et que l’entreprise doit répondre de leurs propos, on peut considérer qu’il n’existe aucun moyen sûr d’empêcher ce type d’algorithme de produire des hallucinations diffamatoires
Je trouve curieux que, même si le tribunal a très largement donné raison aux plaignants, il soit indiqué que « Google supporte 80 % des frais de justice et les plaignants 10 % chacun ». Je me demande si cela vient des deux « demandes mineures » rejetées plus tôt
C’est probablement pour cela que le défendeur n’a pas été reconnu fautif sur ces points et que les frais ont été répartis
Les programmes fondés sur des modèles de langage peuvent généralement être rendus déterministes pour une même entrée, et même lorsqu’ils utilisent un décodage probabiliste, il suffit de fixer la graine aléatoire
Le problème, c’est qu’on ne peut pas démontrer qu’un programme fondé sur un modèle de langage produira la bonne réponse pour une entrée donnée
À propos de l’analyse selon laquelle Google AI Overviews, avec les modèles Gemini 3 actuels, serait exact à 91 % et donc « suffisamment robuste pour la plupart des usages quotidiens » : dans quel univers un moteur de recherche qui ment une fois sur dix est-il suffisant pour qui que ce soit, encore moins pour la plupart des gens ?
Cela ressemble enfin à une décision de bon sens. Si l’on pense que l’IA est une manière valable de répondre à des questions, il faut aussi être prêt à en assumer la responsabilité
Si l’on continue à fournir une réponse alors qu’on sait qu’elle est fausse, il faut en répondre. Les gens savent qu’ils ne doivent pas croire n’importe quelle page web, mais Google présente ici la réponse sous son propre nom, en la plaquant au-dessus des sites web. Il arrive même qu’il prenne des éléments d’une page contenant la bonne réponse d’origine, puis mélange les informations et les rende incorrectes
Soutenir que l’utilisateur doit partir du principe que tout ce qui est affiché peut être faux est contraire à l’éthique. Il faut soit présenter une information exacte, soit ne rien présenter du tout ; pas afficher des déchets et des mensonges comme s’ils étaient exacts, puis ajouter une clause de non-responsabilité disant qu’on ne peut pas faire confiance au résultat
Les entreprises qui fournissent de l’information via des moteurs génératifs de basse qualité doivent accepter que les utilisateurs aient une attente raisonnable de précision vis-à-vis des réponses automatiques. Si elles ne peuvent même pas garantir l’exigence élémentaire de répéter correctement une information juste, elles ne devraient pas faire semblant de le pouvoir
Les entreprises et les individus qui utilisent ce genre de programme de pillage de contenus et d’open source devraient être responsables de l’ensemble des résultats, qu’il s’agisse des conséquences d’informations erronées ou de violations du droit d’auteur liées au vol de code OSS
Le point important ici, c’est que l’Allemagne n’a pas de système de jurisprudence contraignante. Cette décision a donc une valeur de signal, mais d’autres tribunaux pourraient juger différemment
Malgré cela, ce jugement montre bien que le droit actuel peut déjà traiter suffisamment cet aspect de l’IA, en particulier la question de la responsabilité. Le principe est qu’on répond de ce qu’on produit, et à la lecture cela paraît assez raisonnable
Une bonne explication pour les personnes intéressées : https://max-eup2012.mpipriv.de/index.php/Precedent,_Rule_of
Dans notre pays, un musicien a vu sa salle annuler un concert parce que Google AI Overview l’avait faussement présenté comme un délinquant sexuel sur mineur
À mon avis, il aurait dû avoir une base juridique pour poursuivre Google pour diffamation et perte de revenus. Il n’a toutefois pas essayé en pratique
Cela paraît équitable. Si ce contenu est celui de Google, alors c’est la faute de Google ; si c’est celui d’autrui, alors cela peut relever de la violation du droit d’auteur
Cela paraît clairement raisonnable et normal. Je trouve ce passage particulièrement intéressant
Le tribunal a aussi relevé un vide de protection. Si Google n’était responsable que des violations manifestes, une victime n’aurait en pratique aucun recours juridique réel lorsqu’une IA formule une affirmation mensongère. Les sites web tiers utilisés comme sources n’ont même jamais émis la déclaration en question, donc la victime ne peut pas poursuivre la source, et avec les règles existantes elle ne peut pas non plus poursuivre efficacement Google
Je trouve ce point de vue très pertinent. Ce n’est peut-être pas l’endroit idéal pour poser la question, mais je me demande si des considérations comparables existent aussi devant les tribunaux américains. Je le demande spécifiquement pour les États-Unis parce que j’y vis, sans autre intention. Mes connaissances juridiques viennent surtout des séries et films de procès, et je n’ai jamais vu ce type de considération y être abordé
Qu’en est-il de la diffamation par grand modèle de langage hors recherche ? Si je peux amener claude.ai à proférer des propos diffamatoires sur moi, est-ce que je pourrais intenter une action ?
En pratique, cela signifie que les propos doivent aussi avoir été publiés pour une consommation plus large
Est-ce qu’il ne suffirait pas de mettre une clause de non-responsabilité sous chaque résumé pour échapper à cette loi ? Les gens seraient trompés de la même manière, mais si l’on n’a jamais prétendu fournir une réponse vraie, n’est-on pas à l’abri ?
Google a essayé ici de se présenter comme un intermédiaire. Le droit applicable aux moteurs de recherche laisse effectivement cette possibilité dans certains cas. Mais cette fois, Google a été identifié à juste titre comme source primaire
Et je pense que c’est correct. Les entreprises d’IA doivent choisir : soit elles affirment avoir seulement entraîné une machine et que la sortie est indépendante de l’entrée, soit elles affirment n’être qu’un index renvoyant à d’autres sources. Elles ne peuvent pas avoir les deux, surtout si elles adoptent la première position sur les questions de droit d’auteur
De manière plus formelle, il a considéré que nombre des résumés IA produits comme preuves contenaient de nouvelles affirmations de fait émanant de Google lui-même. Les opinions bénéficient d’une protection juridique plus large, mais les affirmations de fait, c’est différent. En outre, certaines de ces fausses affirmations de fait n’étaient même pas étayées par les sources liées
Dans l’ensemble, c’est confus, mais cette position me paraît positive
Il me semble me souvenir vaguement d’une jurisprudence antérieure disant qu’une telle méthode ne fonctionne pas pour les personnes physiques ; je ne vois donc pas pourquoi elle devrait fonctionner pour les entreprises
C’est bourré de mauvaises réponses mdr
Commentaires sur Hacker News
Si j’ai bien compris, j’aime bien ce jugement. Google a créé un produit appelé Search, des règles se sont établies autour de ce produit, et l’entreprise a conservé un monopole sur celui-ci
Maintenant, Google transforme ce produit en un nouveau produit tout en l’appelant du même nom. Parce qu’il veut conserver ce monopole
Ce qui a été jugé illégal, c’est cette partie-là. Ce n’est pas Gemini en soi qui est illégal, mais le fait de faire passer la pire version de Gemini pour Search tout en brisant les règles établies pour Search. Cela dit, je ne suis pas juriste
Le texte n’a pas l’air d’aller dans ce sens non plus. Cela ressemble davantage à une question du type Section 230 aux États-Unis. La Section 230 est une loi américaine qui protège des plateformes comme Facebook et Google contre le fait d’être traitées comme des éditeurs, au motif qu’elles ne font que transmettre l’information ; ici, l’idée serait qu’en Allemagne, les résultats IA sont considérés comme rédigés par Google
Bien. Le véritable marqueur d’une intelligence artificielle générale sera le moment où l’entreprise assumera sa responsabilité, au lieu de cacher dans ses conditions une formule du genre « uniquement à des fins de divertissement ». Comme pour n’importe quel employé
C’est pareil pour la conduite autonome. Tant que la voiture n’assume pas la responsabilité et que l’utilisateur n’est pas traité comme un simple passager, ce n’est pas une voiture autonome
Cela dit, l’Allemagne risque bientôt de perdre les résultats IA de Google
Mais si l’on adopte cette position, il faut aussi accepter que ces entreprises choisissent de ne pas proposer leurs produits et services dans ce pays. Les systèmes d’IA deviendront peut-être un jour, dans 10 à 20 ans, assez précis pour supporter le coût des procès, mais avant cela, ces pays risquent d’en être privés jusqu’à l’arrivée de systèmes entièrement validés
Pour les voitures autonomes aussi, il suffit d’un modèle où l’entreprise assume dans certaines situations, et où la voiture refuse de conduire dans d’autres ; il n’est pas nécessaire qu’elle soit exceptionnellement avancée
Il est ironique que ce texte lui-même avance une affirmation erronée sur la responsabilité qui aurait été reconnue à Google, et que presque personne ne vérifie les faits
La loi violée est celle qui protège la réputation des particuliers et des entreprises contre les affirmations contraires aux faits. En substance, si une affirmation est diffamatoire, on ne peut pas dire « X est Y » puis ajouter « cela peut être faux, vérifiez vous-même »
Ce jugement est plutôt bon. J’espère qu’à l’avenir Google cessera de produire des affirmations factuelles catégoriques comme ici, et utilisera des formulations plus appropriées du type « selon X… », accompagnées d’un avertissement explicite indiquant que cela ne peut pas être vérifié. Mieux encore, il devrait aller chercher les documents du tribunal, vérifier s’il existe réellement une décision de justice, puis en informer l’utilisateur
Cela dit, je ne suis même pas certain que tu aies raison non plus. Quelle affirmation fausse, exactement, ce texte contient-il ?
Certains vont s’en plaindre, mais au final l’Europe restera en avance sur ce terrain juridique. C’est agaçant et cela ralentit parfois la vitesse de l’innovation, mais les entreprises américaines font sans limite tout ce qui peut rapporter de l’argent
Pour l’instant, il n’y a à y gagner que de la volatilité. Il suffit de laisser les États-Unis encaisser les chocs économiques et sociaux, puis de récupérer ce qui survivra. Il n’y a aucune raison de se presser. Les usages vraiment utiles ont très peu de douves défensives. Il n’existe pas non plus d’écart assez important, par rapport aux modèles ouverts ou aux petits acteurs, pour justifier les coûts et les risques de l’exploitation à la pointe. Au final, une grande partie de cette activité IA finira probablement, pour la majorité des cas d’usage, par se stabiliser autour de modèles locaux
Les États-Unis produiront peut-être leur premier décamilliardaire, mais en pratique ce ne sera pas grâce à l’innovation ; ce sera à cause de la corruption, de l’exploitation et d’inégalités de richesse extrêmes. Si l’économie de l’IA ne se déroule pas comme « prévu », il n’y aura pas de retour en arrière. Cet argent aura simplement été transformé en chaleur et en déchets matériels jetables. Cela ne vaut pas la peine de mettre en danger les retraites et la cohésion sociale au nom d’un « avantage technologique »
Ou bien tu penses vraiment que le fait qu’en Allemagne l’hébergement d’avis négatifs soit pratiquement illégal est une bonne chose ?
Quelle autre conclusion pourrait avoir le moindre sens ? Les plateformes ont pris l’habitude de s’en tirer alors qu’elles servent à fournir des produits dangereux et défaillants. Il doit bien y avoir une limite.
Ensuite, il faut s’occuper d’Amazon, qui vend des guides de cueillette générés par l’IA :
https://www.theguardian.com/technology/2023/sep/01/mushroom-...
Quand j’étais enfant, quel que soit le livre de cueillette acheté en librairie, il avait au moins un minimum de qualité. Est-ce vraiment si difficile ? Les profits abusifs ne sont-ils plus punis maintenant ?
Source : https://www.youtube.com/watch?v=P-QaEB5eXSU
à 3:00
Choisir la réponse à la place de l’utilisateur au lieu de le laisser juger par lui-même, c’est un pouvoir énorme, et le tribunal a eu raison de considérer que ce pouvoir s’accompagne d’une responsabilité de minimiser les dommages causés aux autres membres de la société
Ça me paraît logique.
Si Google Search cite un site web tiers contenant des informations erronées, alors Google n’en est pas responsable. La responsabilité est transférée au tiers. C’est le privilège dont Google bénéficie en tant que moteur de recherche
Mais si Google n’agit pas comme un moteur de recherche mais comme une machine à réponses, alors ce privilège ne s’applique plus. Il n’y a pas de tiers sur qui rejeter la responsabilité
Cela ressemble à une décision de bon sens. L’IA n’est pas Search. Les grands modèles de langage produisent des affirmations, et non des résultats de recherche que l’utilisateur doit interpréter lui-même. C’est la différence entre chercher un sujet dans le catalogue d’une bibliothèque et laisser un logiciel donner sa propre réponse
Dès l’apparition de ces systèmes, quand ils se mettaient à mentir avec assurance, je me suis dit que ce genre de procès était inévitable. Tant mieux que l’Allemagne ait bien jugé l’affaire
Le lien vers le jugement est ici. En allemand, évidemment, et la page d’origine semble avoir été prise d’assaut : https://the-decoder.de/wp-content/uploads/2026/06/26_O_869_2...
Je ne sais pas quels gains, mais s’ils ont laissé ça activé, c’est bien qu’il y a une raison, non ?