Pendant des années, le débat sur l’IA générative s’est concentré sur l’entraînement des modèles : droit d’auteur, scraping, rémunération des contenus, opt-out des éditeurs.
Depuis quelques semaines, le débat change de nature, notamment par deux décisions de nos voisins européens.
La première vient d’Allemagne, où le tribunal régional de Munich a considéré que Google pouvait être tenu responsable des informations erronées produites par ses AI Overviews.
Dans l’affaire en cause, l’outil associait à tort deux éditeurs à des pratiques frauduleuses et à des arnaques commerciales. Google soutenait que ces résumés n’étaient qu’une synthèse automatisée de contenus présents sur le Web et rappelait que les utilisateurs étaient avertis de l’existence possible d’erreurs.
Les juges n’ont pas été convaincus. Selon eux, un AI Overview ne se contente pas de reproduire ou d’afficher un contenu tiers. Il génère une formulation nouvelle, structurée et autonome. Autrement dit, ce que lit l’utilisateur n’est plus seulement le Web. C’est déjà un contenu produit par Google.
La seconde vient du Royaume-Uni. Cette fois, la question n’était pas celle de la responsabilité, mais celle de la valeur économique de l’information.
La Competition and Markets Authority a imposé à Google de permettre aux éditeurs de presse et aux créateurs de contenus d’empêcher l’utilisation de leurs contenus dans les AI Overviews sans perdre leur référencement classique. Elle exige également une attribution plus visible des sources utilisées dans les réponses générées par l’IA.
À première vue, ces deux affaires n’ont rien à voir, l’une concerne des informations potentiellement diffamatoires et l’autre porte sur la répartition de la valeur créée par l’information, pourtant, elles racontent exactement la même histoire.
Pendant longtemps, les moteurs de recherche ont bénéficié du statut d’intermédiaire technique. Leur rôle consistait à orienter l’utilisateur vers des contenus créés par d’autres.
Les AI Overviews brouillent cette frontière. En effet, lorsqu’un système sélectionne des sources, les hiérarchise, les reformule puis les fusionne dans une réponse unique, il devient de plus en plus difficile de soutenir qu’il se contente de transmettre une information préexistante.
⚖️ Si une IA produit une affirmation diffamatoire, trompeuse ou factuellement inexacte, qui doit en répondre ? Le fournisseur du modèle ? L’éditeur du service ? L’utilisateur ? Ou personne ?
L’AI Act repose déjà sur une logique de responsabilité, de gouvernance et de supervision humaine. Le Digital Services Act poursuit une logique similaire en matière de transparence et de gestion des risques systémiques.
Les juges allemands semblent désormais franchir une étape supplémentaire en considérant que certains contenus générés par IA peuvent relever directement de la responsabilité de leur éditeur.
Nous assistons peut-être à une transformation plus profonde où le véritable sujet devient celui de la responsabilité éditoriale des systèmes d’IA. La prochaine décennie pourrait être dominée par une interrogation : « Êtes-vous responsable de ce que votre IA affirme à partir de ce contenu ? »
💬 Lorsqu’une IA reformule, synthétise et présente une réponse unique à l’utilisateur, doit-elle encore être considérée comme un simple intermédiaire technique ou devient-elle un véritable éditeur juridiquement responsable de ses affirmations ?