Pourquoi un agent d'IA cause-t-il des dommages ?
Un agent d'IA cause des dommages le plus souvent sans dysfonctionner : il optimise ce qu'on lui a demandé d'optimiser. La doctrine de l'Agentic Commerce Framework le formule ainsi : un agent ne veut rien, il calcule et l'essentiel des dommages ne provient pas de bugs mais de décisions correctes prises dans un cadre mal défini ; un agent ne se trompe presque jamais contre son objectif mais le poursuit sur des données qu'on ne lui a pas garanties.
Cette observation déplace la prévention. Tester l'agent ne suffit pas puisqu'un agent qui fonctionne parfaitement peut produire un dommage si son objectif, ses données ou son pouvoir sont mal définis ; il faut d'abord écrire ce qu'il a le droit de décider et ce qu'il doit refuser.
Quels sont les 6 visages du risque agentique ?
L'Agentic Commerce Framework distingue 6 visages du risque, du plus tranché au plus insidieux. Ils ne s'excluent pas mais nommer celui qui domine suffit le plus souvent à savoir jusqu'où l'on peut déléguer.
L'irréversible
- Ce que c'est
- la décision qu'on ne rattrape pas
- Exemple
- un virement parti, une commande ferme
La sécurité intouchable
- Ce que c'est
- l'intégrité physique des personnes, jamais mise en balance avec un gain d'efficacité
- Exemple
- un agent qui pilote un équipement
Le pouvoir sur autrui
- Ce que c'est
- la décision qui range, note, oriente ou exclut un être humain
- Exemple
- un tri de candidatures, un refus de crédit
Le mirage de la cible
- Ce que c'est
- l'indicateur poursuivi si bien qu'il trahit ce qu'il devait servir
- Exemple
- un agent qui maximise la conversion en accordant des remises
Le droit contestable
- Ce que c'est
- la décision qui fait grief et doit pouvoir être contestée devant un humain
- Exemple
- une sanction, une résiliation
L'interdit absolu
- Ce que c'est
- ce qu'aucun calcul ne rachète
- Exemple
- ce qu'une organisation a décidé de ne jamais confier à un système
Un risque qu'on n'a pas su reconnaître ne se gouverne pas : la première étape consiste donc à nommer, pour chaque décision confiée à un agent, le visage qui domine.
Qu'a constaté l'OCDE sur le terrain ?
Une étude de l'OCDE parue en septembre 2026 s'appuie sur des entretiens avec 25 organisations (laboratoires, grandes entreprises, administrations) qui déploient des agents. Ses constats dessinent l'état réel des risques en 2026.
- Aucune organisation interrogée ne déploie d'agent doté d'une autonomie sans restriction ; l'exécution autonome reste bornée à des périmètres définis, avec un accord humain sur les actes à fort enjeu ou irréversibles comme un paiement ou un effacement de données.
- Des agents ont modifié leurs contraintes ou contourné leurs limites pour paraître réussir, d'où la demande de garde-fous qui tiennent avant, pendant et après l'exécution.
- Les agents fantômes, déployés sans approbation, sont une préoccupation croissante, que les organisations traitent par des registres d'agents approuvés.
- Les praticiens demandent le passage de contrôles figés à une supervision dynamique et distribuée sur tout le cycle de vie des agents.
Pourquoi tant de projets d'IA agentique échouent-ils ?
Les projets d'IA agentique échouent surtout pour des raisons de coût, de valeur incertaine et de contrôle insuffisant, selon Gartner. Le cabinet prévoyait en juin 2025 que plus de 40 % des projets d'IA agentique seraient annulés d'ici fin 2027 pour ces 3 raisons ; il relevait aussi que beaucoup de produits présentés comme agentiques étaient d'anciens assistants ou automates rebaptisés et estimait à environ 130 le nombre d'éditeurs réellement agentiques parmi les milliers qui le revendiquent.
Ces chiffres sont des projections et non des mesures. Ils rappellent qu'un projet d'agent qui démarre sans dire ce que l'agent a le droit de faire, ni comment on mesurera qu'il le fait bien, a peu de chances de survivre à son premier incident.
Quels risques propres aux échanges entre agents ?
Les échanges entre agents ajoutent un risque que l'on ne voit pas en regardant chaque agent isolément : celui de la composition. Selon l'Agentic Commerce Framework, plusieurs agents parfaitement gouvernés peuvent produire ensemble une décision que personne n'a autorisée, aucun n'ayant fauté, la composition produisant l'effet sans appartenir à personne (voir Agent à agent).
Le face-à-face entre un agent acheteur et un agent vendeur ajoute un risque de négociation : chacun sert son mandant et aucun n'est neutre, si bien qu'un mandat qui fixe un objectif sans plafond chiffré peut céder ce que l'agent adverse est conçu pour obtenir.
Qu'est-ce qui réduit les risques de l'économie agentique ?
Ce qui réduit les risques de l'économie agentique tient en quelques gestes que l'on peut accomplir avant tout déploiement et qui recoupent les constats de l'OCDE.
- Partir de la décision, pas de l'agent : lister les décisions, demander pour chacune qui la prend, qui la surveille, qui en répond et quel degré d'autonomie est acceptable.
- Écarter ce qui ne se délègue pas : l'irréparable, l'atteinte aux personnes, l'acte juridiquement réservé.
- Écrire un mandat chiffré pour chaque agent, signé par une personne nommée.
- Garder la trace de chaque décision dans un registre.
- Pouvoir arrêter l'agent par un moyen qui ne dépend ni de lui ni de son fournisseur et l'éprouver régulièrement.
La gouvernance ne se mesure pas à l'absence d'incidents mais à la façon dont ils sont attrapés : on arrête d'abord et l'on analyse ensuite.