Pour utiliser des agents IA en toute sécurité, les entreprises doivent leur attribuer une identité propre, limiter leurs autorisations, surveiller leurs actions et pouvoir intervenir en cas de problème.
Ces précautions sont d'autant plus importantes que les agents IA peuvent utiliser plusieurs applications et réaliser certaines opérations sans intervention humaine à chaque étape. Lorsqu'ils accèdent à des données sensibles ou interviennent dans des processus métier, une erreur ou une autorisation trop large peut avoir des conséquences importantes.
La question se pose donc dès leur déploiement : jusqu'où peut-on les laisser agir seuls, et quelles opérations doivent rester sous contrôle humain ?
Pourquoi les agents IA changent-ils les enjeux de sécurité ?
Alors qu'un assistant conversationnel répond principalement aux questions des utilisateurs, un agent IA peut accomplir plusieurs tâches de manière autonome, en utilisant différents outils pour atteindre un objectif.
Dans le traitement des factures fournisseurs, par exemple, un agent IA peut récupérer les documents reçus, en extraire les informations, consulter un logiciel comptable et préparer leur enregistrement, sans intervention humaine à chaque étape.
Pour accomplir ces tâches, il doit accéder à plusieurs applications. Si ses autorisations sont trop larges ou si une opération se déroule mal, les conséquences peuvent toucher plusieurs systèmes de l'entreprise.
Des risques qui dépassent la confidentialité des données
Un agent IA peut être exposé à des instructions malveillantes dissimulées dans un document, un e-mail ou une page web qu'il consulte. Cette technique, appelée prompt injection, vise à détourner son comportement et peut l'amener à effectuer des actions qui ne correspondent pas à sa mission initiale.
D'autres risques concernent les outils auxquels il est connecté. Un agent autorisé à modifier des données pourrait, par exemple, supprimer des informations ou effectuer des changements non souhaités si les contrôles sont insuffisants.
L'OWASP, organisme de référence en sécurité des applications, identifie notamment le détournement des objectifs des agents, l'utilisation abusive des outils et l'exploitation des identités et des privilèges parmi les principaux risques liés aux systèmes agentiques.
Consulter le référentiel OWASP consacré aux agents IA.
Ces risques dépendent aussi de la sécurité des applications auxquelles les agents sont connectés.
Comme nous l'expliquons dans notre article sur les trois choix de sécurité à anticiper dès la conception d'un logiciel métier, la gestion des accès et la protection des données doivent être prises en compte dès le début du projet.
Attribuer une identité propre à chaque agent IA
Lorsqu'un collaborateur utilise une application métier, ses actions peuvent être associées à son compte utilisateur. Le même principe devrait s'appliquer aux agents IA : chaque agent doit disposer d'une identité distincte pour que ses interventions puissent être suivies et ses accès gérés individuellement.
Pourquoi éviter les comptes partagés ?
Si plusieurs agents IA utilisent un même compte technique pour accéder à un CRM, il devient difficile de déterminer lequel a effectué une modification. Les journaux d'activité peuvent identifier le compte utilisé, sans nécessairement permettre de retrouver l'agent à l'origine de l'opération.
Attribuer une identité propre à chaque agent IA facilite le suivi de ses actions, la gestion de ses accès et l'identification des responsabilités en cas d'incident.
Comment contrôler les tâches déléguées à d'autres agents ?
Certains agents IA peuvent confier une partie de leur travail à d'autres agents. Un agent chargé de préparer un rapport commercial peut ainsi solliciter un second agent pour récupérer des informations dans le CRM.
Ces échanges doivent rester traçables, notamment pour savoir quel agent a demandé une opération et lequel l'a exécutée.
Il faut également veiller à ce qu'un agent ne puisse pas obtenir, par l'intermédiaire d'un autre, des accès auxquels il n'est pas autorisé.
Limiter les accès et les actions autorisées
Attribuer une identité à chaque agent IA permet de savoir qui intervient dans les applications de l'entreprise. Il est donc nécessaire de définir précisément les informations auxquelles il peut accéder et les opérations qu'il est autorisé à effectuer.
Appliquer le principe du moindre privilège
Le principe du moindre privilège consiste à accorder à un agent uniquement les droits nécessaires à sa mission. Mais dans la pratique, donner accès à une application ne suffit pas à définir ce qu'il peut y faire.
Un agent chargé du support client peut avoir besoin de consulter des commandes, de modifier une adresse de livraison ou de proposer un remboursement. Ces opérations ne présentent pourtant pas les mêmes risques.
Les autorisations doivent donc être définies avec précision : quelles données l'agent peut-il consulter ? Quels champs peut-il modifier ? Jusqu'à quel montant peut-il effectuer une opération ? Et dans quelles situations doit-il demander une validation ?
Il faut également tenir compte de l'enchaînement des actions. Un agent peut être autorisé à consulter des informations dans un outil et à modifier des données dans un autre. Si les contrôles sont insuffisants, il pourrait utiliser les informations récupérées pour effectuer une opération qui dépasse le cadre de sa mission.
Ces limites doivent être appliquées par les applications et les API auxquelles l'agent est connecté. Une consigne inscrite dans ses instructions ne suffit pas à empêcher techniquement une action non autorisée.
Limiter la durée des autorisations
Un agent IA n'a pas nécessairement besoin de conserver les mêmes accès tout au long de son activité. Certaines autorisations peuvent lui être accordées uniquement lorsqu'il en a besoin, puis retirées une fois l'opération terminée.
Pour cela, les entreprises peuvent utiliser des identifiants temporaires, dont la durée de validité est limitée. Si ces identifiants sont compromis, ils ne peuvent plus être utilisés après leur expiration.
Cette approche permet également d'éviter qu'un agent conserve des accès devenus inutiles lorsque ses missions évoluent.
Il faut toutefois distinguer la durée de validité d'un identifiant et les permissions qui lui sont associées. Un accès temporaire peut rester trop étendu : limiter sa durée ne dispense donc pas de vérifier les opérations qu'il autorise.
Prévoir une validation humaine pour les opérations sensibles
L'autonomie d'un agent IA ne signifie pas qu'il doit pouvoir prendre toutes les décisions seul. Le niveau de contrôle humain dépend notamment des conséquences possibles de ses actions.
Dans un service client, un agent peut être autorisé à répondre aux demandes courantes ou à préparer un remboursement. En revanche, si le montant dépasse un seuil défini, il peut être nécessaire de demander l'accord d'un collaborateur avant de poursuivre.
Ces validations doivent être intégrées directement aux applications pour empêcher l'exécution d'une opération sensible sans l'accord d'un collaborateur. Si aucune réponse n'est donnée, le système doit également prévoir la suite : mise en attente, annulation ou transmission à un autre responsable.
L'entreprise peut ainsi automatiser les tâches courantes tout en gardant la main sur les opérations qui présentent le plus de risques.
Appliquer le principe du moindre privilège
Un agent chargé de préparer des factures peut avoir besoin de consulter des commandes, de récupérer des informations fournisseurs et de créer des brouillons.
Ces tâches ne justifient pas nécessairement un accès à la modification des coordonnées bancaires ou au déclenchement des paiements.
Le principe du moindre privilège consiste à n'accorder que les permissions nécessaires à l'exécution d'une mission.
Les règles peuvent également tenir compte du contexte : dossier concerné, utilisateur à l'origine de la demande, montant de l'opération ou étape du processus.
Ces restrictions doivent être appliquées par les applications et les services utilisés. Demander à un agent, dans ses instructions, de ne pas effectuer certaines actions ne suffit pas à les empêcher techniquement.
Limiter la durée des autorisations
Certaines opérations nécessitent un accès ponctuel à une ressource.
Dans ce cas, des identifiants ou des autorisations temporaires peuvent être utilisés, lorsque les systèmes le permettent.
Leur durée de validité limitée réduit la période pendant laquelle ils pourraient être exploités en cas de compromission.
Prévoir une validation humaine pour les opérations sensibles
Toutes les actions ne présentent pas le même niveau de risque.
Un agent peut être autorisé à consulter des informations ou à préparer un document sans intervention humaine systématique. En revanche, une opération financière, une suppression de données ou une modification importante peut nécessiter une confirmation.
Cette validation doit intervenir avant l'exécution de l'action concernée et être contrôlée par le système.
L'entreprise peut ainsi automatiser certaines étapes tout en conservant une décision humaine sur les opérations les plus sensibles.
Surveiller les actions et pouvoir interrompre un agent IA
Même lorsque ses autorisations sont correctement définies, un agent IA peut commettre une erreur ou adopter un comportement inattendu. L'entreprise doit donc disposer de moyens pour suivre son activité et réagir lorsqu'une opération présente un risque.
Conserver des traces exploitables
Les journaux d'activité permettent de retrouver les opérations effectuées par un agent IA. Pour être réellement utiles, ils doivent indiquer quel agent est intervenu, quels outils il a utilisés, quelles actions ont été demandées et si elles ont abouti.
Ces informations sont particulièrement importantes lorsqu'un agent enchaîne plusieurs opérations dans différentes applications. Elles permettent de reconstituer le déroulement d'une tâche et de comprendre à quelle étape un problème est survenu.
La traçabilité doit toutefois être pensée dès l'intégration de l'agent. Si chaque application conserve ses propres journaux sans moyen de relier les opérations entre elles, il peut devenir difficile de reconstituer l'ensemble de son activité.
Les données enregistrées doivent également être protégées pour éviter d'exposer des informations sensibles ou des identifiants confidentiels.
Détecter les anomalies et intervenir rapidement
Conserver un historique des actions ne suffit pas à repérer un problème pendant qu'il se produit. Une surveillance active peut être nécessaire pour détecter certains comportements inhabituels.
Un agent chargé de mettre à jour des fiches produits pourrait, par exemple, commencer à modifier un nombre anormalement élevé de références. Une alerte peut alors être déclenchée et, selon les règles définies, les opérations peuvent être suspendues dans l'attente d'une vérification.
Les entreprises peuvent prévoir plusieurs mécanismes : limitation du nombre d'opérations, blocage de certaines actions, suspension de l'agent ou révocation de ses accès.
Il faut néanmoins anticiper les conséquences des opérations déjà réalisées. Suspendre un agent n'annule pas automatiquement les modifications effectuées dans les applications. Pour les actions les plus sensibles, des procédures de correction ou de retour en arrière doivent donc être prévues lorsque cela est techniquement possible.
IBM et ServiceNow : de nouvelles solutions pour contrôler les agents IA
En octobre 2026, IBM et ServiceNow ont présenté des solutions destinées à mieux gérer les identités, les autorisations et les actions des agents IA en entreprise.
Leurs approches illustrent deux aspects complémentaires de la sécurité : la gestion des accès et la vérification des permissions au moment où un agent effectue une opération.
IBM : gérer les identités et les accès des agents IA
Le 27 octobre 2026, IBM a annoncé de nouvelles fonctionnalités autour de HashiCorp Vault, sa solution de gestion des identifiants et des informations confidentielles.
Avec Vault Agent Identity, les entreprises peuvent attribuer une identité à chaque agent IA, lui associer un responsable et gérer ses autorisations tout au long de son utilisation.
HashiCorp Vault permet également de fournir des identifiants temporaires, dont la durée de validité est limitée. Un agent peut ainsi obtenir les accès nécessaires à une opération sans conserver indéfiniment les mêmes identifiants.
IBM développe aussi des fonctionnalités permettant de découvrir et de superviser les agents déployés sur différentes plateformes. Certaines étaient encore proposées en aperçu technologique lors de l'annonce.
Consulter l'annonce officielle d'IBM
ServiceNow : vérifier les autorisations pendant l'exécution
Le 15 octobre 2026, ServiceNow a présenté AI Passport, un dispositif conçu pour vérifier les autorisations des agents IA lorsqu'ils interviennent dans les systèmes de l'entreprise.
Chaque agent peut disposer d'un justificatif signé cryptographiquement, permettant aux systèmes compatibles de vérifier son identité et les opérations qu'il est autorisé à effectuer.
Cette vérification intervient au moment de l'exécution. Si un agent tente d'effectuer une action qui dépasse ses permissions, le système peut appliquer des restrictions ou interrompre l'opération.
ServiceNow prévoit également des mécanismes de traçabilité pour suivre les autorisations et les interventions des agents.
Lors de son annonce, AI Passport était prévu pour le quatrième trimestre 2026.
Consulter l'annonce officielle de ServiceNow
Ce que ces évolutions impliquent pour les entreprises
Ces annonces montrent que la sécurité des agents IA repose de plus en plus sur des contrôles intégrés aux systèmes informatiques.
L'identité d'un agent, ses autorisations et les opérations qu'il réalise doivent pouvoir être vérifiées tout au long de son activité, y compris lorsqu'il utilise plusieurs outils ou délègue certaines tâches.
Ces mécanismes restent toutefois dépendants de leur configuration et de leur intégration aux applications existantes. Les entreprises doivent donc définir leurs propres règles de sécurité avant de déployer des agents IA.
Quelles vérifications effectuer avant de déployer un agent IA ?
Avant de connecter un agent IA aux applications de l'entreprise, plusieurs questions permettent de vérifier que les principaux risques ont été anticipés.
- Identité : chaque agent dispose-t-il d'une identité distincte et d'un responsable clairement identifié ?
- Autorisations : ses accès sont-ils limités aux données et aux opérations nécessaires à sa mission ?
- Validation humaine : les opérations sensibles nécessitent-elles une autorisation avant leur exécution ?
- Traçabilité : est-il possible de retrouver les actions réalisées par l'agent, y compris lorsqu'il utilise plusieurs applications ?
- Surveillance : quels comportements inhabituels doivent déclencher une alerte ou une interruption ?
- Gestion des incidents : comment suspendre l'agent, retirer ses accès et corriger les opérations déjà effectuées ?
Ces vérifications doivent être adaptées aux missions confiées à l'agent. Un outil chargé de rechercher des informations dans une documentation interne ne présente pas les mêmes risques qu'un agent autorisé à modifier des données clients ou à effectuer des opérations financières.
Garder le contrôle des agents IA dans la durée
Les permissions et les mécanismes de contrôle définis lors du déploiement doivent être réexaminés lorsque les missions d'un agent évoluent.
L'ajout d'une nouvelle application, l'accès à des données supplémentaires ou l'automatisation d'une opération jusque-là réalisée par un collaborateur peuvent modifier les risques associés à son utilisation.
Un suivi régulier permet de vérifier que les autorisations restent adaptées et que les mesures de sécurité fonctionnent toujours comme prévu.
Vous envisagez d'intégrer des agents IA à vos processus métier ?
Keleo vous accompagne dans le cadrage de votre projet IA, de l'analyse des besoins à l'identification des contraintes techniques et des conditions d'intégration à vos outils existants.