MtoM Mag - Le journal de l'MtoM.

JFrog Ltd. ("JFrog"), la société de Liquid Software et créateurs de la plateforme JFrog Software Supply Chain, annonce son intégration avec NVIDIA Inference Microserves (NIM), qui fait partie de la plateforme logicielle NVIDIA AI Enterprise. La plateforme JFrog est la seule solution DevSecOps et MLOps unifiée, de bout en bout, et sécurisée avec une intégration native de NVIDIA NIM. Cela permet un déploiement rapide de modèles de Machine Learning (ML) optimisés pour les GPU, pré-approuvés, et les grands modèles de language (LLM) en production, avec une sécurité de haut niveau, une visibilité accrue et des contrôles de gouvernance. Cette infrastructure unifiée permet aux développeurs de créer et de livrer des applications alimentées par l’IA avec plus d’efficacité et de sérénité.

« La demande pour des implémentations d’IA sécurisées et efficaces continue de croître, avec de nombreuses entreprises cherchant à étendre leurs stratégies IA en 2025. Cependant, les déploiements d’IA peinent souvent à atteindre la mise en production en raison de défis de sécurité importants », déclare Gal Marder, Directeur de la stratégie chez JFrog. « Les applications alimentées par l’IA sont intrinsèquement complexes à sécuriser, déployer et gérer, et les préoccupations concernant la sécurité des modèles et des plateformes d’IA open-source continuent de croître. Nous sommes ravis de collaborer avec NVIDIA pour offrir une solution de bout en bout facile à déployer qui permet aux entreprises d’accélérer le déploiement de leurs modèles IA/ML avec une sécurité, une conformité et une provenance de niveau professionnel. »

Avec la montée en puissance et la demande accélérée d’IA dans les applications logicielles, les data scientists et les ingénieurs ML rencontrent d’importants défis lorsqu’ils tentent de mettre à l’échelle leurs déploiements de modèles ML en entreprise. Les complexités de l’intégration des workflows d’IA avec les processus de développement de logiciel existants, associées à une gestion fragmentée des actifs, des vulnérabilités de sécurité et des problèmes de conformité, peuvent conduire à des cycles de déploiement longs et coûteux et, souvent, à l’échec des initiatives en IA. Selon IDC, d’ici 2028, 65 % des organisations utiliseront des outils DevOps qui combinent les capacités MLOps, LLMOps, DataOps, CloudOps et DevOps pour optimiser la création de valeur de l’IA dans les processus de fourniture de logiciels.

« L’essor des plateformes MLOps open-source a rendu l’IA plus accessible aux développeurs de tous niveaux pour construire rapidement des applications IA incroyables, mais ce processus doit être effectué de manière sécurisée et conforme aux régulations gouvernementales qui évoluent rapidement », précise Jim Mercer, Vice-président du programme IDC, Développement logiciel, DevOps & DevSecOps. « À mesure que les entreprises mettent à l’échelle leurs déploiements d’IA générative, disposer d’un référentiel central de modèles pré-approuvés, entièrement conformes et optimisés pour la performance, parmi lesquels les développeurs peuvent choisir et déployer rapidement tout en maintenant des niveaux élevés de visibilité, de traçabilité et de contrôle grâce aux workflows DevSecOps existants, est une solution incontournable. »

L’intégration de JFrog avec NVIDIA NIM permet aux entreprises de déployer et de gérer en toute transparence les derniers modèles LLM fondamentaux, y compris Llama 3 de Meta et Mistral AI, tout en maintenant une sécurité de haut niveau et des contrôles de gouvernance tout au long de leur chaîne d’approvisionnement logicielle. JFrog Artifactory, le cœur de la plateforme JFrog, fournit une solution unique pour héberger et gérer de manière transparente tous les artefacts logiciels, binaires, packages, modèles ML, LLM, images de conteneurs et composants tout au long du cycle de vie du développement logiciel.

En intégrant NVIDIA NIM dans la plateforme JFrog, les développeurs peuvent facilement accéder à NVIDIA NGC, un hub pour l’apprentissage profond optimisé par le GPU, la ML et les modèles HPC. Les clients disposent ainsi d’une source unique de vérité pour les modèles et les outils logiciels, tout en s’appuyant sur les meilleures pratiques DevSecOps de l’entreprise pour gagner en visibilité, en gouvernance et en contrôle tout au long de leur chaîne d’approvisionnement logicielle.

La mise à jour de la plateforme JFrog offre aux développeurs IA et aux équipes DevSecOps de multiples avantages, notamment :

 Flux de travail ML et DevOps unifiés : Les data scientists et les ingénieurs ML peuvent désormais versionner, sécuriser et déployer des modèles en utilisant les mêmes workflows de développement logiciel DevSecOps de JFrog qu’ils connaissent et en lesquels ils ont confiance. Cela élimine le besoin pour les équipes d’utiliser des outils ML distincts tout en garantissant des vérifications automatisées de la conformité, des pistes d’audit et une gouvernance des modèles ML via JFrog Curation.

 Sécurité et intégrité de bout en bout : Mise en œuvre de scans de sécurité continus sur les conteneurs, les modèles IA et leurs dépendances, fournissant des informations contextuelles sur les microservices NIM, pour identifier les vulnérabilités, complétées par une détection intelligente des menaces axée sur les risques réels et une protection proactive contre les modèles IA et les packages compromis.

 Performances et évolutivité exceptionnelles des modèles : Optimisation des performances des applications d’IA en utilisant l’infrastructure de calcul accélérée NVIDIA, offrant une faible latence et un haut débit pour un déploiement évolutif des LLM dans des environnements de production à grande échelle. Regrouper facilement les modèles ML avec leurs dépendances pour réduire les exigences externes et utiliser les workflows existants pour un déploiement IA sans faille. De plus, la plateforme JFrog offre des options de déploiement flexibles pour augmenter l’évolutivité, y compris les déploiements auto-hébergés, multi-cloud et en environnement isolé.

"La performance et la sécurité sont cruciales pour réussir les déploiements d’IA en entreprise," déclare Pat Lee, vice-président des partenariats stratégiques entreprise chez NVIDIA. "Avec l’intégration de NVIDIA NIM directement dans la plateforme JFrog, les développeurs peuvent accélérer l’adoption de l’IA avec une solution unifiée, de bout en bout, pour construire, déployer et gérer des agents IA en production, à grande échelle."

https://www.jfrog.com/