MtoM Mag - Le journal de l'MtoM.

JFrog Ltd (Nasdaq : FROG), The Liquid Software company et créatrice de laJFrog Software Supply Chain Platform, annonce aujourd’hui l’expansion de ses capacités de gouvernance de l’IA au sein de la JFrog Software Supply Chain Platform avec l’introduction de Shadow AI Detection. Présentée lors de l’événement JFrog swampUP Europe, cette nouvelle fonctionnalité vise à offrir aux entreprises la visibilité et le contrôle nécessaires pour gouverner et sécuriser l’ensemble de la chaîne d’approvisionnement de l’IA, en les protégeant contre l’usage non contrôlé de modèles et d’API d’IA, appelé Shadow AI, susceptible d’introduire d’importants risques en matière de sécurité et de conformité.

« Identifier et atténuer les risques liés au shadow AI devient une priorité majeure pour les DSI et les RSSI, qui doivent aujourd’hui concilier innovation et sécurité. Les organisations ont tout intérêt à s’appuyer sur les bonnes pratiques éprouvées du développement logiciel en mettant en place des workflows adaptés aux développeurs, alliant sécurité renforcée et gouvernance robuste », déclare Yuval Fernbach, VP et CTO, JFrog ML.« L’ajout des capacités de Shadow AI Detection vient renforcer le leadership de JFrog dans la sécurisation globale de la chaîne d’approvisionnement de l’IA et aider les entreprises à utiliser l’IA de manière sûre et responsable. »

Apporter de la transparence pour une meilleure gouvernance des modèles et API d’IA

L’intégration rapide de l’IA dans les pipelines de développement représente aujourd’hui un défi majeur de gouvernance pour les organisations. En effet, les développeurs et les équipes de data science intègrent fréquemment des modèles et services d’IA directement auprès de fournisseurs tels qu’Anthropic, OpenAI ou Google, sans supervision organisationnelle. Cette activité non gouvernée, souvent désignée sous le terme de Shadow AI, crée des zones d’ombre dangereuses qui exposent les entreprises aux violations de conformité, aux fuites de données et aux attaques ciblant la chaîne d’approvisionnement.

La nouvelle fonctionnalité Shadow AI Detection de JFrog permet de détecter automatiquement et de dresser un panorama complet de l’ensemble des modèles d’IA internes ainsi que des passerelles API externes utilisés au sein de l’organisation pour accéder à des données provenant de sources tierces, qu’elles soient approuvées ou employées de manière ad hoc. Une fois identifiés, ces modèles et services nouvellement visibles peuvent être gouvernés de façon centralisée, offrant aux équipes la possibilité de :

 Appliquer des politiques de sécurité et de conformité sur l’ensemble des actifs d’IA.
 Établir des parcours définis pour que les utilisateurs autorisés puissent accéder aux services d’IA tiers et les utiliser de manière contrôlée et entièrement traçable.
 Suivre et monitorer l’usage de modèles et API d’IA externes tels qu’OpenAI ou Gemini.

Répondre à l’impératif mondial de conformité en matière d’IA

La nécessité de disposer d’une traçabilité complète de toutes les activités liées à l’IA s’impose désormais comme un impératif, porté par l’émergence de nouvelles réglementations et par la montée des risques de sécurité à l’échelle mondiale. Les nouvelles capacités de détection de l’IA proposées par JFrog sont conçues pour aider les entreprises à garantir conformité et sécurité en alignement avec des cadres clés tels que le US Transparency in Frontier AI Act, le Cyber Resilience Act de l’UE, l’AI Act de l’UE, les directives du BSI en Allemagne, la directive NIS2 de l’UE, ainsi que les Guidelines and Companion Guide for Securing AI Systems. Collectivement, ces réglementations visent à renforcer la provenance et la responsabilité, et à instaurer la résilience à travers la chaîne d’approvisionnement logicielle et d’IA en :

 Garantissant un développement responsable de l’IA
 Imposant des standards rigoureux de gestion des risques et de reporting
 Rendant obligatoire la visibilité sur les composants logiciels
 Sécurisant les systèmes d’IA du design jusqu’au déploiement

JFrog Shadow AI Detection est proposée dans le cadre du JFrog AI Catalog, avec une disponibilité générale (GA) prévue pour 2025. Pour plus d’informations sur l’ensemble de la JFrog Software Supply Chain Platform, visitez ce lien.

https://www.jfrog.com