Il faut distinguer trois questions : qui a commis une infraction, qui doit indemniser le dommage et qui a manqué à ses obligations réglementaires. L’autonomie de l’agent ne répond, à elle seule, à aucune de ces questions.
Une recherche de fournisseurs qui dépasse la mission
Imaginez une équipe achats qui confie une recherche de fournisseurs à un agent IA. Celui-ci utilise un ancien accès à un portail client, consulte des dossiers devenus confidentiels et les transmet à un outil externe pour préparer sa comparaison.
L’accès fonctionne encore techniquement. L’entreprise n’a pourtant plus l’autorisation de consulter ces dossiers.
Ce scénario est fictif. Il illustre la difficulté centrale : le modèle a proposé une action, le logiciel qui l’entoure l’a exécutée et des identifiants ont rendu cette action possible. Répondre « c’est l’IA qui a décidé » ne permet pas de déterminer qui doit en assumer les conséquences.
Un agent autonome peut-il être juridiquement responsable ?
En droit français, l’agent n’est pas une personne juridique autonome. Ce n’est ni lui qui sera condamné à une peine ni lui qui indemnisera la victime sur son propre patrimoine.
Il n’existe pas pour autant de vide juridique. Les règles pénales, contractuelles et de responsabilité civile peuvent s’appliquer aux personnes physiques et morales impliquées. La difficulté consiste à établir les faits, les obligations de chacun et le lien entre une défaillance et le dommage.
L’article 3 de l’AI Act distingue notamment le fournisseur et le déployeur. L’entreprise qui utilise professionnellement l’agent peut elle-même être le déployeur : il ne s’agit pas nécessairement d’un intervenant supplémentaire. Le fournisseur du modèle et celui de la solution agentique peuvent, en revanche, être deux sociétés différentes.
Entreprise, éditeur du « harness », fournisseur du LLM : qui peut devoir payer ?
Le harness désigne ici la couche logicielle qui relie le modèle aux outils, organise les actions et applique les permissions. Ce terme technique ne constitue pas un régime de responsabilité.
Entre cocontractants, l’article 1231-1 du Code civil permet de rechercher la responsabilité pour inexécution d’une obligation. À l’égard d’un tiers, l’article 1240 du Code civil et l’article 1241 du Code civil permettent notamment de rechercher une faute, y compris une négligence ou une imprudence, ayant causé un dommage.
Le tableau suivant applique ces fondements à des hypothèses, sans présenter une répartition déjà décidée par un tribunal.
| Acteur | Défaillance susceptible d’être examinée | Question décisive |
|---|---|---|
| Entreprise utilisatrice | Des accès excessifs ou obsolètes ont été laissés à disposition malgré un risque connu. | Un défaut de paramétrage ou de contrôle imputable à l’entreprise a-t-il causé le dommage ? |
| Éditeur ou intégrateur du harness | Le logiciel exécute une action que ses contrôles auraient dû bloquer, contrairement aux engagements pris. | Quelle obligation de conception, d’intégration ou de sécurité n’a pas été respectée ? |
| Fournisseur du modèle LLM | Un manquement relatif au modèle, à sa documentation ou aux engagements du fournisseur est allégué. | Ce manquement est-il établi et causal, au-delà de la seule présence du modèle dans la chaîne ? |
Le fournisseur du modèle n’est pas le garant automatique de chaque action exécutée avec son modèle. L’entreprise cliente n’est pas davantage responsable de tout par principe.
Plusieurs responsabilités peuvent être engagées lorsque plusieurs manquements ont contribué au même dommage. À l’inverse, constater un résultat dommageable ne suffit pas à identifier son responsable. Les fondements examinés ici n’épuisent pas tous les régimes susceptibles de s’appliquer.
Une intrusion de l’agent entraîne-t-elle une condamnation pénale du dirigeant ?
L’article 323-1 du Code pénal réprime l’accès ou le maintien frauduleux dans un système de traitement automatisé de données, ou STAD. Pour une personne physique, l’infraction de base est passible de trois ans d’emprisonnement et de 100 000 € d’amende.
Cette peine n’est pas une sanction automatique du recours à un agent autonome. Il faut caractériser l’infraction et l’intention requise, conformément à l’article 121-3 du Code pénal. Un défaut de vigilance ne se confond pas, à lui seul, avec un accès frauduleux intentionnel.
Pour une société, l’article 121-2 du Code pénal exige une infraction commise pour son compte par un organe ou un représentant. Le titre de dirigeant, l’abonnement au logiciel ou la propriété du compte utilisé ne remplacent pas cette analyse.
Ainsi, un même incident peut révéler une négligence civile sans permettre de retenir l’infraction pénale d’accès frauduleux contre le dirigeant.
L’AI Act rend-il l’utilisateur responsable de toutes les actions de l’agent ?
Non. Il organise des obligations selon les rôles et les systèmes concernés, pas une indemnisation automatique à la charge de l’utilisateur.
L’article 6 de l’AI Act encadre la qualification des systèmes à haut risque. L’article 26 de l’AI Act vise spécifiquement leurs déployeurs. Il ne faut donc pas appliquer indistinctement ses obligations de supervision à tous les agents simplement parce qu’ils sont autonomes.
Le calendrier compte également. Au 25 octobre 2026, le calendrier officiel d’application de l’AI Act indique le 2 décembre 2027 pour les règles relatives aux systèmes à haut risque de l’annexe III et le 2 août 2028 pour ceux intégrés aux produits réglementés concernés. Ces échéances ne suspendent ni les obligations civiles existantes ni le RGPD.
Si des données personnelles sont consultées ou divulguées
L’article 32 du RGPD impose au responsable du traitement et au sous-traitant une sécurité adaptée au risque. Le rôle effectif de chaque intervenant doit être identifié : être fournisseur d’un modèle ne suffit pas, à soi seul, à déterminer sa qualification RGPD.
L’article 82 du RGPD prévoit la réparation du dommage résultant d’une violation. Le sous-traitant répond notamment du non-respect de ses obligations spécifiques ou d’actions contraires aux instructions licites. Une violation, un dommage et leur lien restent nécessaires ; plusieurs acteurs peuvent être tenus à réparation dans les conditions du texte.
Ce qui permettra de départager les acteurs après l’incident
Dans notre scénario, il faudra reconstruire la chaîne : qui a conservé les identifiants, quels accès étaient autorisés, quelles restrictions étaient promises, quelle instruction a été reçue et quel outil a effectivement exécuté l’action ?
Les journaux techniques, versions du logiciel, paramètres, alertes et contrats peuvent éclairer ces questions. Ils doivent être conservés de façon proportionnée et sécurisée, sans créer une collecte supplémentaire incontrôlée de données.
Pour un dirigeant, l’enjeu n’est pas d’obtenir une promesse abstraite selon laquelle « le fournisseur assume tout ». Il est de pouvoir relier un engagement à un contrôle réel et à une preuve disponible. C’est ce qui rend un recours crédible lorsque les intervenants commencent à se renvoyer la responsabilité.
L’agent IA peut-il être poursuivi à la place de l’entreprise ?
Non. L’agent n’a pas de personnalité juridique propre. La responsabilité se recherche auprès des personnes ou entreprises impliquées, selon le fondement applicable.
Le fournisseur du LLM est-il nécessairement responsable ?
Non. Il faut identifier un manquement ou un autre fait générateur qui lui soit imputable et établir les conditions du régime invoqué. La seule utilisation de son modèle ne suffit pas.
L’absence d’infraction pénale exclut-elle une indemnisation ?
Non. Un manquement contractuel ou une négligence causant un dommage peut engager une responsabilité civile sans condamnation pour accès frauduleux.
Peut-il y avoir plusieurs responsables ?
Oui, si les conditions de responsabilité sont établies pour plusieurs intervenants. Les contrats, les faits techniques et les règles applicables déterminent alors leurs obligations respectives.
Un agent autonome est-il toujours une IA à haut risque ?
Non. La qualification dépend du système et de son usage, pas uniquement de son autonomie. Il faut aussi vérifier les dates d’application des obligations concernées.
L’autonomie ne désigne pas celui qui paiera
L’IA agentique ne fait disparaître ni les obligations de l’entreprise utilisatrice ni celles de ses fournisseurs. Elle rend leur articulation plus difficile à démontrer.