Vous contactez le service client d’une entreprise, une voix vous répond, comprend votre demande et vous conseille
Humain ou IA ?
Désormais, cette ambiguïté ne peut plus toujours subsister.
En effet, l’article 50 de l’AI Act est désormais applicable, avec les lignes directrices publiées par la Commission, l’Europe transforme une exigence assez abstraite de transparence en obligations concrètes.
La première question est juridique : qui êtes-vous dans la chaîne, fournisseur ou déployeur ?
Le fournisseur doit intégrer la transparence dans le système. Un chatbot, un agent conversationnel ou un avatar qui dialogue directement avec une personne doit l’informer qu’elle interagit avec une IA, sauf lorsque cela ressort clairement du contexte.
Lorsqu’un système génère ou manipule du texte, des images, de l’audio ou de la vidéo, le fournisseur doit aussi prévoir un marquage lisible par machine permettant d’en détecter l’origine artificielle. Une simple correction orthographique ou une modification mineure n’appelle pas nécessairement le même traitement.
Le déployeur porte, lui, la transparence dans l’usage concret.
- Une entreprise utilisant un système de reconnaissance des émotions ou de catégorisation biométrique doit informer les personnes exposées. Cette information ne rend évidemment pas licite un usage interdit par ailleurs.
- Une entreprise diffusant un deepfake doit signaler clairement que le contenu a été généré ou manipulé artificiellement. Les usages artistiques, satiriques ou fictionnels bénéficient d’un régime adapté.
Le texte est plus subtil pour les publications écrites : un contenu généré ou manipulé par IA et publié pour informer le public sur une question d’intérêt public doit être signalé. L’étiquette peut toutefois disparaître lorsqu’un véritable examen humain ou contrôle éditorial a porté sur le fond et qu’une personne assume la responsabilité éditoriale.
Relire les fautes ne suffit pas.
C’est là que l’article 50 change la gouvernance interne. Il ne suffit plus de savoir si l’entreprise utilise de l’IA. Il faut cartographier les usages, qualifier son rôle, déterminer qui informe le public et conserver la preuve du processus suivi.
⚖️ La transparence algorithmique n’est donc plus seulement une bonne pratique.
Le fournisseur doit rendre l’artificiel détectable, le déployeur doit rendre son usage compréhensible.
Le non-respect peut exposer une entreprise à une amende pouvant atteindre 15 millions d’euros ou 3 % de son chiffre d’affaires annuel mondial.