MtoM Mag - Le journal de l'MtoM.

JFrog ML stimule les pratiques MLOps couplées à la sécurité IA et Unifie les équipes de développement, de data scientists et des opérations avec une automatisation et un contrôle à l’échelle de l’entreprise pour la livraison de logiciels alimentés par l’IA.

JFrog Ltd. ("JFrog"), la société de Liquid Software et créateurs de la plateforme JFrog Software Supply Chain, lance aujourd’hui JFrog ML, une solution MLOps révolutionnaire faisant partie de la plateforme JFrog, conçue pour permettre aux équipes de développement, data scientists et ingénieurs ML de développer et déployer rapidement des applications IA prêtes pour l’entreprise à grande échelle. Alors que les initiatives IA en entreprise sont de plus en plus confrontées à des défis de sécurité, de scalabilité et de gestion, JFrog est désormais la seule plateforme au monde à garantir la livraison sécurisée des technologies de machine learning aux côtés de tous les autres composants applicatifs dans une solution unique. JFrog ML est la première addition à la plateforme issue de l’acquisition de QWAK.ai en 2024.

En unissant les pratiques ML aux processus de développement DevSecOps traditionnels, les organisations peuvent s’assurer que leurs modèles sont déployés, sécurisés et maintenus sans faille, ce qui devrait améliorer la performance et la fiabilité des modèles dans les applications de production en conditions réelles. La livraison de JFrog ML est le fruit de l’engagement de JFrog à répondre à la demande d’une livraison plus sécurisée et évolutive des applications IA, incluant des intégrations avec Hugging Face, AWS Sagemaker, MLflow (développé par Databricks), et NVIDIA NIM.

« Alors que la demande d’applications alimentées par l’IA continue de croître, les préoccupations concernant la capacité à contrôler et gérer ce nouveau domaine sur tous les fronts, de MLOps à la sécurité ML, augmentent également. En fait, notre propre équipe de chercheurs en sécurité a été la première à trouver et à aider à remédier à de nouveaux modèles ML malveillants de type zero-day dans Hugging Face », déclare Shlomi Ben Haim, CEO et cofondateur de JFrog. « JFrog ML combine une expérience utilisateur supérieure, simple et sans tracas pour amener les modèles en production, tout en offrant le niveau de confiance et de provenance attendu par les entreprises, permettant ainsi aux clients d’accélérer leurs initiatives IA en toute confiance. »

Développer des modèles ML et les rendre prêts pour la production est un processus extrêmement complexe, nécessitant aujourd’hui un mélange d’expertise technique et une compréhension approfondie de la livraison de logiciels. Les modèles nécessitent une planification et des tests minutieux pour garantir leur fiabilité et leur efficacité dans un environnement en direct. De plus, les data scientists qui construisent des modèles ne travaillent pas seuls, ils ont besoin d’ingénieurs de données pour structurer et préparer les données, d’ingénieurs logiciels pour déployer les modèles en tant que microservices, et d’équipes DevSecOps pour garantir une intégration fluide et sécurisée en production. JFrog ML aide à surmonter ces défis souvent paralysants avec un cadre structuré conçu pour soutenir l’ensemble de l’organisation et garantir que les modèles réussissent à passer de la phase expérimentale.

« Construire et maintenir des workflows ML robustes nécessite une infrastructure complexe, de l’ingénierie des caractéristiques au déploiement et à la surveillance des modèles. JFrog ML est conçu pour permettre ces capacités en utilisant JFrog Artifactory comme le registre de modèles de choix et JFrog Xray pour scanner et sécuriser les modèles ML, ce qui permet d’améliorer l’efficacité des utilisateurs en offrant une expérience plateforme unifiée pour DevOps, DevSecOps et MLOps », explique Yuval Fernbach, VP & CTO, JFrog ML. « À mesure que l’IA évolue, les organisations peuvent tirer parti de JFrog ML pour adapter en continu leur infrastructure afin de soutenir tout, des modèles ML traditionnels aux applications GenAI de pointe. »

En traitant les modèles ML comme des packages logiciels dès le début du développement et en fusionnant la gestion des modèles ML et le développement logiciel en une seule source de vérité, la friction et les erreurs entre les étapes et les équipes peuvent être considérablement réduites. JFrog ML offre un développement et un déploiement de l’IA avec une traçabilité, une gouvernance et une sécurité complètes.

Les principales caractéristiques sont les suivantes :

 La seule plateforme unifiée de DevOps, DevSecOps et MLSecOps : JFrog ML, en tant que partie intégrante de la plateforme JFrog, offre une vue holistique de l’ensemble de la chaîne d’approvisionnement logicielle, des progiciels traditionnels aux LLM et GenAI, en rationalisant les pipelines IA et garantissant que les modèles soient gérés en toute sécurité avec les autres artefacts logiciels.

 Un système d’enregistrement unique pour l’IA : JFrog ML gère les modèles ML et les ensembles de données avec d’autres blocs de construction tels que les conteneurs et les paquets Python, créant ainsi un lieu unique pour appliquer des politiques de sécurité et de conformité personnalisables tout au long du processus de développement de l’IA.

 Un service de modèle intuitif pour la production : JFrog ML aide à dynamiser les initiatives IA grâce à des processus simplifiés de développement et de déploiement de modèles, aidant les équipes de data scientists et d’ingénierie ML à accélérer la mise en production des modèles tout en améliorant considérablement la sécurité et en simplifiant la gouvernance des modèles, les retours en arrière et les redéploiements.

 Entrainement des modèles et contrôle de la qualité : Gestion complète des ensembles de données et prise en charge de la mémoire des caractéristiques.

 Environnement ML fiable : JFrog ML crée un artefact reproductible de chaque modèle construit avec la plateforme JFrog, ce qui permet d’effectuer des analyses de sécurité et des contrôles de qualité automatisés pour s’assurer que vos modèles ont été aussi rigoureusement vérifiés que vos autres composants logiciels.

 Prise en charge des modèles d’IA d’entreprise NVIDIA NIM : Le catalogue JFrog ML inclura également des modèles basés sur NIM dans sa bibliothèque de modèles, ce qui permettra un déploiement en un clic.

https://www.jfrog.com/