MtoM Mag - Le journal de l'MtoM.

Sophos AI Defense transforme les dispositifs de contrôle déjà en place au niveau des terminaux, des réseaux, des identités et des navigateurs, en garde-fous en temps réel pour encadrer l’utilisation de l’IA

Sophos, l’un des premiers fournisseurs mondiaux de cybersécurité, annonce la disponibilité générale de Sophos AI Defense, une solution qui identifie les outils d’IA utilisés par les employés et les applications, y compris ceux n’ayant jamais été approuvés par les équipes de sécurité, et applique des politiques de sécurité quel que soit l’endroit où ils sont exploités. Tout outil d’IA qu’une organisation ne parvient pas à détecter peut constituer une faille en matière de confidentialité, d’intégrité et de disponibilité. Fournie via Sophos Fusion, le système de défense IA natif de l’entreprise, Sophos AI Defense fédère les contrôles couvrant les terminaux, les réseaux, les processus d’authentification et les navigateurs pour former une ligne de défense unifiée, permettant ainsi une adoption rapide et sécurisée de l’IA, sans avoir à gérer un autre outil fonctionnant en silo.

Les attaquants voient dans l’IA les mêmes opportunités que les entreprises. Rien que cette année, Sophos X-Ops a observé plusieurs phénomènes : un pirate utilisant des agents d’IA au sein du réseau d’un client pour développer et tester près de 80 modules de malwares ; des acteurs malveillants vendant des clés API obtenues par l’intermédiaire de courtiers pour accéder à des modèles d’IA de pointe ; des forums clandestins où s’échangent des techniques de « jailbreaking » ; et des recruteurs opérant dans les milieux criminels à la recherche d’ingénieurs spécialisés dans les prompts d’IA.

Des outils d’IA non approuvés sont déjà utilisés dans la plupart des organisations. Ainsi, 69 % d’entre elles soupçonnent leurs employés de recourir à des agents et des outils d’IA non autorisés ou disposent de preuves dans ce sens,[1] 82 % ont détecté des agents de Shadow AI dans leurs environnements au cours de l’année écoulée,[2] et 90 % des responsables informatiques s’inquiètent des risques liés au Shadow AI.[3] Le problème ne fera que prendre de l’ampleur, IDC prévoyant que le nombre d’agents d’IA atteindra 1,3 milliard d’ici 2028.[4]

Chacun de ces agents et outils constitue à la fois une nouvelle surface d’attaque et un nouveau vecteur de fuite des données sensibles. Sophos AI Defense recueille les signaux provenant des terminaux, des réseaux, des identités et des navigateurs afin de cartographier l’activité liée à l’IA dans un environnement. Puis, la solution analyse qui agit, comment cette personne se comporte et quelles données sont concernées, afin de distinguer les usages courants des activités nécessitant une intervention. Des garde-fous en temps réel, conçus pour contribuer à prévenir l’exposition des données sensibles, inspectent les prompts, les téléversements et les autres interactions avec l’IA au moment où elles se produisent. Cette activité est également remontée dans Sophos Fusion, ce qui permet aux équipes de sécurité qui utilisent Sophos XDR, ainsi qu’aux analystes Sophos MDR, de mener des investigations et d’intervenir dans le cadre des workflows qu’elles connaissent déjà.

« Les organisations adoptent l’IA plus rapidement qu’elles ne parviennent à la sécuriser, et la plupart des équipes de sécurité ne sont pas en mesure de répondre à trois questions fondamentales, à savoir quels outils d’IA sont utilisés, quelles données leur sont transmises et si cette activité est conforme aux politiques en vigueur », confie Kyle Falkenhagen, senior vice president of product management, Sophos. « Sophos AI Defense donne aux équipes de sécurité la visibilité et le contrôle nécessaires pour répondre à ces questions et agir en conséquence. Elles peuvent ainsi adopter l’IA en toute confiance, en sachant exactement ce qu’elles autorisent. »

Parce que Sophos AI Defense fonctionne sur Sophos Fusion, les équipes de sécurité aux ressources limitées peuvent mettre en place une protection des usages de l’IA dès le premier jour. Les fournisseurs de services managés (MSP) disposent quant à eux d’une nouvelle solution qu’ils peuvent proposer à l’ensemble de leurs clients. Ce lancement intervient durant le mois de la sensibilisation à la cybersécurité, alors que l’adoption sécurisée de l’IA devient une priorité pour les organisations de toutes tailles.