Éditeur de désinfo
Le mode IA de Google a indiqué à certains internautes qu’un médecin d’Aix-la-Chapelle avait été condamné pour agression sexuelle, des faits qui concernaient un autre homme. La Justice estime Google responsable du contenu produit.
Un médecin d’Aix-la-Chapelle a découvert que les résumés IA de Google lui inventaient toute une biographie. Mais pas n’importe laquelle : selon les textes générés par la fonctionnalité de résumé de recherche, l’homme aurait été condamné pour agression sexuelle et suspendu de ses fonctions de direction de clinique.
Ce 24 septembre, la cour régionale d’Aix-la-Chapelle a déclaré Google responsable de ces erreurs et lui a interdit de reproduire cet élément de désinformation. C’est la deuxième condamnation de ce type en Allemagne, étoffant un raisonnement juridique selon lequel Google est éditeur, et donc responsable, des informations générées par ses outils d’IA.
Sollicité, Google refuse de réagir
Dans le cas présent, un professeur de médecine et ancien dirigeant d’une clinique de neuroradiologie s’est vu affublé par Google d’une fausse biographie. Dans les résumés de recherche, le système d’IA de l’entreprise californienne indiquait en effet que l’homme avait été suspendu en février 2024 après avoir été poursuivi en justice par sa secrétaire, et qu’il aurait été condamné pour agression sexuelle en mars 2026.
Aucun de ces éléments ne correspond à l’homme explicitement nommé par la machine. D’après sa plainte, ils correspondent aux faits commis et vécus par un autre professeur d’université. Ces éléments ont pu être confirmés par la cour d’Aix, puisque l’affaire réelle a été jugée devant un tribunal pénal.
Les cas d’erreurs et de mélanges d’informations par les moteurs d’IA, souvent qualifiés d’hallucinations, sont documentés depuis longtemps. Certains ont même été produits par des systèmes d’IA dédiés à manipuler des textes juridiques. Dans le cas présent, en revanche, ces erreurs sont liées au nom d’une personne réelle, et accessibles sans préconisation particulière sur le moteur de recherche le plus utilisé au monde.
Alerté par un collègue, le médecin a envoyé le 28 août un mail à l’adresse « removals@google.com », demandant aux équipes de modération de l’entreprise de supprimer ce récit trompeur. Le 15 septembre, l’entreprise lui a répondu qu’elle avait décidé de ne rien faire. Après une mise en demeure, l’entreprise n’a pas plus réagi, rapporte le Frankfurter Allgemeine Zeitung. L’homme s’est donc tourné vers la justice, qui a enjoint Google à corriger les éléments produits par ses machines, au motif qu’ils violaient les droits individuels du médecin décrit à tort comme condamné.
Déjà déclarée responsable en Bavière, l’entreprise a renoncé à faire appel
En juin, en Bavière, le tribunal régional de Munich interdisait à l’entreprise de continuer de diffuser des éléments faux générés dans les réponses du résumé IA (AI Overview) et associant des sociétés légitimes à des escroqueries qu’elles n’avaient pas commises.
À l’époque, Google avait annoncé son intention de faire appel, précisément pour éviter que l’affaire ne fasse jurisprudence. D’après The Decoder, l’entreprise a finalement renoncé et conclu un accord avec les plaignants, dont les détails ne sont pas connus.
Dans le cas présent, le tribunal d’Aix fait directement référence à la décision prise avant l’été à Munich. Il cite notamment la décision prise, qui estimait que les outils d’IA de Google produisent « des affirmations indépendantes, neuves et substantielles appuyées sur l’évaluation et la combinaison de plusieurs sites web tiers ».
Google pourrait, de nouveau, tenter de trouver un accord avec le plaignant pour éviter qu’une décision contraignante ne soit prise à son encontre. Le problème est que ce procédé pourrait finir par faire naître une incitation problématique.
Si des cours de justice continuent de qualifier Google de responsable des contenus générés par ses machines, et que l’entreprise règle le problème à coups d’accords impliquant probablement des compensations financières, estime The Decoder, alors des individus ou des cabinets spécialisés pourraient juger utile de pousser des modèles d’IA jusqu’à ce qu’ils génèrent des textes faux ou potentiellement dommageables à la réputation. Il deviendrait ensuite possible, en tout cas en Allemagne, de poursuivre l’éditeur en justice s’il ne corrige pas le problème, puis de négocier un accord.
