MtoM Mag - Le journal de l'MtoM.

Cloudflare, le leader dans le domaine de la connectivité cloud, annonce le développement du service Firewall for AI, une nouvelle couche de protection qui permettra d’identifier les attaques et les abus avant que ces menaces ne commencent à s’en prendre aux grands modèles linguistiques (Large Language Models, LLM), un type d’application IA qui interprète le langage humain et d’autres types de données complexes. Soutenue par la puissance du réseau mondial de Cloudflare, l’un des plus vastes au monde, la solution Firewall for AI positionnera Cloudflare comme l’un des seuls fournisseurs de sécurité préparés à combattre la prochaine vague d’attaques liées à la révolution IA, c’est-à-dire celles qui visent les fonctionnalités, les données critiques et les secrets professionnels contenus dans les LLM.

Une étude récente a révélé que seul un dirigeant sur quatre a confiance dans la préparation de son entreprise à faire face aux risques liés à l’IA. Lorsqu’il s’agit de protéger les LLM, il peut s’avérer extrêmement difficile d’intégrer les systèmes de sécurité adéquats dès le départ, car il est pratiquement impossible de limiter les interactions des utilisateurs. De même, ces modèles ne sont, par définition, pas prédéterminés (ils peuvent, par exemple, produire une diversité de résultats, même lorsqu’ils sont nourris des mêmes données entrantes). En conséquence, les LLM sont en train de devenir une voie d’accès non protégée pour les acteurs malveillants ;un problème qui laisse les entreprises vulnérables aux manipulations, aux attaques et aux abus visant les modèles.

« Lorsque de nouveaux types d’applications émergent, de nouveaux types de menace suivent rapidement. Il en va de même pour les applications soutenues par IA », explique Matthew Prince, cofondateur et CEO de Cloudflare. « Avec le service Firewall for AI de Cloudflare, nous contribuons à intégrer dès le départ la sécurité au sein du paysage de l’IA. Nous proposerons l’un des premiers boucliers destinés aux modèles IA, afin de permettre aux entreprises de tirer avantage des opportunités permises par la technologie, tout en garantissant leur protection. »

Grâce à la solution Firewall for AI de Cloudflare, les équipes de sécurité pourront protéger leurs applications LLM des vulnérabilités potentielles susceptibles d’être utilisées à des fins néfastes contre les modèles IA. Cloudflare permettra à ses clients de :

 Détecter rapidement les nouvelles menaces : la solution Firewall for AI peut être déployée en amont de n’importe quel LLM exécuté sur l’environnement Workers AI de Cloudflare. En analysant et en évaluant les invites soumises par un utilisateur, elle pourra ainsi mieux identifier les tentatives d’exploitation du modèle visant à extraire des données.

 Bloquer automatiquement les menaces, sans intervention humaine nécessaire : bâti sur le réseau mondial de Cloudflare, le service Firewall for AI peut être déployé à proximité de l’utilisateur final afin de proposer la capacité sans précédent de protéger les modèles contre les abus de manière quasi immédiate.

 Mettre en œuvre une sécurité par défaut, et ce gratuitement : un client exécutant un LLM sur l’environnement Workers AI de Cloudflare pourra être protégé gratuitement par la solution Firewall for AI, afin de l’aider à prévenir les préoccupations grandissantes que sont l’injection d’invites et la fuite de données.

D’après Gartner®, « Il n’est pas possible de sécuriser une application d’IA générative de manière isolée. Commencez toujours par un socle solide de sécurité cloud, de sécurité des données et de sécurité des applications, avant de planifier le déploiement de mesures de sécurité spécifiques à l’IA générative ». La solution Cloudflare Firewall for AI ajoutera des couches supplémentaires à sa plateforme de sécurité complète, afin de remédier finalement aux menaces posées par cette technologie émergente.

https://www.cloudflare.com/