MtoM Mag - Le journal de l'MtoM.

Alors que le débat public reste focalisé sur les risques spéculatifs de l’IA et sur la régulation gouvernementale, les entreprises font face à un défi opérationnel bien plus immédiat, qui consiste à faire passer les agents d’IA autonomes de simples démonstrations en sandbox aux environnements de production critiques. Lors du passage à l’échelle, le véritable danger réside dans des failles concrètes de gouvernance, à l’image des accès accordés sans contrôle, des flux de données compromis ou de la fuite silencieuse de la logique métier propriétaire vers des modèles partagés. La véritable résilience d’une entreprise ne peut attendre les cadres réglementaires, car elle exige d’intégrer dès aujourd’hui les agents autonomes au cœur d’architectures de sécurité éprouvées.

Michael Curry, Président de la division Modernisation des données chez Rocket Software, détaille les priorités des organisations et de leurs équipes de sécurité pour exploiter des systèmes autonomes à grande échelle et en toute sécurité.

Si l’IA exige indéniablement une gouvernance, partir du principe que la solution réside dans un surcroît de réglementations étatiques est une erreur. Il incombe aux organisations qui développent et déploient l’IA de mettre en place des garde-fous pour protéger les utilisateurs. Au cours des 12 prochains mois, l’IA agentique va passer du pilote à la production, et c’est précisément là que le risque apparaît. La plupart des entreprises savent concevoir une démo, mais bien plus rares sont celles capables de l’exploiter en toute confiance à grande échelle. La gouvernance deviendra rapidement un sujet prioritaire pour les conseils d’administration, où administrateurs et régulateurs exigeront des preuves de contrôle et non de simples déclarations d’intention.

Au-delà de l’engouement médiatique, l’exposition des données demeure la préoccupation majeure. La présence de données sensibles dans des prompts, des modèles ou des pipelines relève d’abord d’un problème de gouvernance avant d’être une faille de sécurité. Mais le capital intellectuel est tout aussi vulnérable. Les systèmes d’IA apprennent le fonctionnement des opérations métier au fil du temps. Or, sans une étanchéité stricte contre les fuites de modèles, les entreprises risquent de céder les processus propriétaires qui fondent leur avantage concurrentiel. L’accès aux systèmes constitue un autre point critique. De même qu’une entreprise n’accorderait jamais un accès sans restriction à une nouvelle recrue dès son premier jour, elle ne doit jamais le faire avec un agent d’IA. Les agents nécessitent des identités dédiées, des autorisations fondées sur le principe du moindre privilège et une piste d’audit immuable.

La mauvaise qualité des données et le manque de contexte représentent un autre danger bien réel. Les résultats d’un modèle ne valent que par les données auxquelles il a accès. S’assurer que les données soient prêtes pour les agents permet de limiter les hallucinations qui, dans des secteurs comme la banque ou l’assurance, dictent des décisions aux répercussions directes dans le monde réel. Dans le même temps, les cyberattaquants utilisent activement l’IA pour exploiter des vecteurs de menace existants avec une rapidité et une sophistication accrues. Afin de préserver leur capital de connaissances, les organisations vont de plus en plus délaisser les modèles frontières publics au profit d’architectures open-weight, dont les paramètres internes sont librement téléchargeables, personnalisables et hébergeables intégralement en interne.

Pour y répondre efficacement, les responsables IT et sécurité doivent traiter les agents d’IA comme des actifs d’entreprise et piloter leurs risques en conséquence. Les privilèges doivent être accordés de manière temporaire pour des tâches spécifiques, appuyés par une journalisation rigoureuse et une révocation instantanée des accès. Plutôt que de disperser leurs ressources sur une douzaine de pilotes, les équipes devraient se concentrer sur un seul cas d’usage à forte valeur en production, définir ce que signifie la "confiance" pour celui-ci, et la mesurer. Bâtir un socle de données solide, tant pour les actifs structurés que non structurés, est le prérequis indispensable. Surtout, capitalisez directement sur les mécanismes de contrôle déjà existants dans l’environnement informatique, notamment la gestion des identités et des accès, la protection des données et la surveillance continue. Nul besoin de déployer une couche distincte de gouvernance de l’IA ni de faire table rase de l’infrastructure existante, car tout réécrire reste une option radicale et superflue.