Qui est responsable quand un agent d’IA fait une erreur?

Un agent d’IA est un logiciel qui utilise un modèle de langage pour agir, par exemple répondre à des clients, prendre des rendez-vous ou mettre à jour des dossiers, plutôt que de seulement suggérer du texte qu’une personne enverra. Quand un agent fait une erreur, on est tenté d’y voir la faute de l’IA. Mais un agent n’est pas une personne juridique. Il ne peut pas signer de contrat, payer des dommages-intérêts ni être poursuivi. La responsabilité retombe sur des personnes et des organisations, et la question est de savoir lesquelles.

Rien ici ne constitue un avis juridique; la réponse dépend de l’endroit où vous exercez vos activités, de vos contrats et des faits. Mais trois types de sources donnent une idée claire de la façon dont la responsabilité est attribuée : les contrats rédigés par les fournisseurs d’IA, les premières décisions des tribunaux, et la nouvelle réglementation.

Ce qu’un tribunal a dit au sujet d’un robot conversationnel

Le cas le plus connu jusqu’ici est Moffatt c. Air Canada, tranché en février 2024 par le Tribunal de résolution civile de la Colombie-Britannique, un organisme qui entend les petites créances. Un client avait interrogé le robot conversationnel du site Web de la compagnie aérienne au sujet des tarifs pour deuil après un décès dans sa famille. Le robot lui a répondu qu’il pouvait demander la réduction après son voyage. La page de politique de la compagnie disait le contraire, et la compagnie a refusé le remboursement.

Air Canada a soutenu qu’elle ne pouvait pas être tenue responsable de ce que disait le robot conversationnel. Le tribunal a rejeté cet argument, qualifiant l’idée que le robot était une entité juridique distincte d’« argument remarquable ». Son raisonnement était simple : le robot fait partie du site Web de l’entreprise, et l’entreprise est responsable de tout ce qui s’y trouve. Selon les mots du tribunal, « peu importe que l’information provienne d’une page statique ou d’un robot conversationnel ». Il a conclu que la compagnie n’avait pas pris de précautions raisonnables pour assurer l’exactitude du robot et lui a ordonné de payer 812,02 $.

Il s’agit d’une décision de petites créances dans une seule province canadienne : elle ne lie donc pas les tribunaux ailleurs. Elle montre tout de même comment un décideur est susceptible de raisonner : l’entreprise qui a mis l’outil devant ses clients est responsable de ce que dit l’outil.

Ce que disent les contrats des fournisseurs

Si l’entreprise est responsable, peut-elle rejeter la faute sur l’entreprise qui a créé le modèle? Les contrats vont dans l’autre sens. Le Services Agreement d’OpenAI pour les clients d’affaires et de l’API, en vigueur depuis le 1er janvier 2026, rend le client seul responsable de l’usage qu’il fait des résultats et du jugement sur leur exactitude et leur pertinence pour ses fins. Le client est aussi responsable de tout ce qui se fait par son compte, y compris par les utilisateurs des applications qu’il construit. Les services sont fournis « tels quels », et le client s’engage à indemniser OpenAI contre les réclamations de tiers découlant de ses propres applications.

Les conditions commerciales des autres fournisseurs diffèrent dans le détail : lisez donc celles que vous avez signées. Le modèle auquel vous attendre, c’est que le fournisseur garantit des promesses étroites (OpenAI, par exemple, couvre les réclamations selon lesquelles ses services portent atteinte à la propriété intellectuelle), tandis que les résultats de votre usage particulier restent votre affaire.

Ce qu’ajoute la réglementation

La législation de l’UE sur l’intelligence artificielle (AI Act) emploie le mot déployeur pour toute organisation qui utilise un système d’IA sous sa propre autorité dans un cadre professionnel. La plupart de ses règles s’appliquent à partir du 2 août 2026. Deux obligations touchent presque tous les agents d’entreprise. D’abord, les fournisseurs et les déployeurs doivent prendre des mesures pour donner au personnel qui fait fonctionner des systèmes d’IA un niveau suffisant de maîtrise de l’IA, c’est-à-dire une compréhension de ce que le système peut faire et ne pas faire. Ensuite, les systèmes d’IA qui interagissent directement avec des personnes doivent leur dire qu’elles ont affaire à une IA, sauf si c’est évident. Les agents utilisés dans des domaines plus risqués, comme l’embauche ou le crédit, sont soumis à des obligations beaucoup plus lourdes.

Un exemple concret : un agent qui envoie des courriels

Imaginez un petit cabinet comptable dont l’agent rédige et envoie des réponses aux courriels des clients : confirmer des rendez-vous, envoyer des listes de documents à fournir et répondre aux questions courantes. Voici un tableau de responsabilités à titre d’exemple :

Décision ou tâche	Responsable	Ce que cette personne doit faire
Décider quels courriels l’agent peut envoyer seul	Associé directeur	Approuver une liste écrite; tout le reste exige une personne
Rédiger et mettre à jour les instructions de l’agent	Responsable des opérations	Garder une copie datée de chaque version
Approuver tout courriel portant sur les honoraires, les échéances ou des conseils fiscaux	Comptable attitré	Lire et cliquer soi-même sur « Envoyer »
Revoir chaque semaine un échantillon de courriels envoyés	Gestionnaire du bureau	En vérifier 20 au hasard; consigner les erreurs
Traiter une plainte ou un courriel erroné	Associé responsable du dossier	Communiquer avec le client, corriger, consigner la cause
Vérifier les conditions du fournisseur et les réglages de données	Associé directeur	Revoir à chaque renouvellement ou mise à jour des conditions
Former le personnel sur les limites de l’agent	Responsable des opérations	Courte séance pour chaque nouvel utilisateur

Le tableau n’essaie de rendre l’agent responsable de rien. Chaque ligne nomme une personne, parce que seule une personne peut l’être.

À essayer : dressez la liste de toutes les actions que votre agent, ou celui que vous prévoyez, peut faire sans un clic humain. Pour chacune, écrivez un seul nom dans une colonne intitulée « en répond ». Toute action que vous ne pouvez pas attribuer est une action que l’agent ne devrait pas encore faire seul.

Comment une entreprise devrait-elle organiser la responsabilité?

Commencez par décider ce que l’agent peut faire de lui-même, et gardez cette liste courte au début. Séparez les actions faciles à annuler (enregistrer un brouillon, étiqueter un courriel) de celles qui ne le sont pas (envoyer un message, accorder un remboursement, supprimer un fichier). Exigez une approbation humaine pour le second groupe jusqu’à ce que vous ayez la preuve que l’agent s’en tire bien.

Nommez un responsable pour chaque permission, comme dans le tableau ci-dessus, et faites en sorte que l’agent se présente comme un système automatisé dans ses messages. Tenez des registres : les instructions en vigueur, ce que l’agent a envoyé et qui l’a approuvé. Si quelque chose tourne mal, ces registres vous permettent de montrer que vous avez pris des précautions raisonnables, soit exactement ce que le tribunal a jugé absent dans l’affaire Air Canada.

Enfin, faites des révisions régulières. Échantillonnez le travail de l’agent, suivez les erreurs et les corrections apportées, et relisez les conditions de votre fournisseur quand elles changent. La responsabilité est plus facile à porter quand elle est visible : une entreprise qui sait qui vérifie quoi est dans une bien meilleure position qu’une entreprise qui découvre, après une plainte, que personne ne le faisait.