MtoM Mag - Le journal de l'MtoM.
- accueil .
- newsletter .
Flux RSS . - soumissions .
- publicité .
- contacts
Flux RSS . La certification NVIDIA-Certified Hypervisors vient appuyer les performances GPU proches du bare metal de k0rdent AI pour les AI factories et les infrastructures IA multi-tenants sécurisées.
Mirantis, spécialiste des infrastructures Kubernetes-native pour l’IA, annonce aujourd’hui que k0rdent AI a obtenu la certification du programme NVIDIA-Certified Hypervisors, attestant de ses performances en matière de virtualisation GPU haute performance pour les AI factories d’entreprise et les fournisseurs de services cloud.
Pour les organisations qui développent des infrastructures IA, cette reconnaissance peut contribuer à réduire les efforts d’ingénierie généralement nécessaires pour concevoir, évaluer et mettre en production des environnements de virtualisation GPU.
À travers une série approfondie de benchmarks, Mirantis a démontré que la virtualisation k0rdent offre des performances prévisibles et proches du bare metal sur NVIDIA GB200 NVL72 et sur les configurations basées sur NVIDIA HGX, tout en apportant la flexibilité opérationnelle et l’isolation des tenants nécessaires aux infrastructures IA à grande échelle. Dans l’ensemble des scénarios testés, la stack de virtualisation k0rdent AI a enregistré des performances se situant à moins de 5 % de celles de déploiements bare metal comparables.
Mirantis fait partie des premiers éditeurs de logiciels indépendants (ISV) à participer au programme NVIDIA-Certified Hypervisors. Cette certification fait suite à sa participation à l’initiative NVIDIA AI Cloud Ready en ajoutant la virtualisation GPU aux capacités validées de k0rdent AI.
« Avec le développement d’AI factories partagées entre plusieurs tenants, les organisations ont besoin de solutions de virtualisation qui offrent davantage de flexibilité sans compromettre les performances », déclare Kevin Kamel, Vice President of Product Management chez Mirantis. « Cette certification montre que k0rdent AI permet aux entreprises et aux fournisseurs cloud de virtualiser en toute sécurité des infrastructures accélérées par NVIDIA, tout en conservant les performances nécessaires aux workloads d’entraînement et d’inférence IA. »
La virtualisation k0rdent AI a été conçue spécifiquement pour les infrastructures IA modernes qui nécessitent une allocation flexible des GPU, une isolation sécurisée des workloads et une utilisation efficace des ressources entre plusieurs équipes et tenants.
Son scheduler prend en compte la topologie physique des GPU, CPU, interfaces réseau et systèmes de stockage, au sein de chaque serveur comme à l’échelle du rack. En répartissant intelligemment les workloads entre les interconnexions NVIDIA NVLink, les domaines NUMA et les réseaux NVIDIA InfiniBand/RoCE, k0rdent AI préserve des communications haute performance tout en évitant les goulots d’étranglement susceptibles de réduire les performances d’entraînement et d’inférence IA.
La virtualisation GPU permet aux organisations d’allouer précisément les ressources de compute nécessaires à chaque workload, plutôt que de consacrer des serveurs GPU entiers à des utilisateurs ou projets individuels. Il en résulte une plateforme de virtualisation capable de prendre en charge des workloads IA exigeants sans entraîner de baisse significative des performances.
une allocation flexible des GPU
une meilleure utilisation des GPU
une isolation sécurisée des tenants
une mise à disposition plus rapide des ressources
une meilleure efficacité de l’infrastructure.
Les machines virtuelles permettent de séparer de manière sécurisée les ressources réseau, GPU et de stockage de chaque client ou workload, selon le modèle opérationnel attendu des environnements cloud IA hyperscale modernes.
La plateforme k0rdent simplifie également les opérations en permettant de gérer à la fois les machines virtuelles et les workloads Kubernetes depuis un plan de contrôle unifié. Les organisations peuvent ainsi exécuter des modèles IA, des applications d’entreprise traditionnelles, des bases de données et des services associés depuis une seule plateforme de gestion, sans avoir à maintenir des stacks distinctes de virtualisation et d’orchestration de conteneurs.
La certification NVIDIA-Certified Hypervisors renforce la collaboration entre Mirantis et NVIDIA autour des AI factories et des infrastructures IA d’entreprise. Associée à NVIDIA AI Cloud Ready, elle offre aux clients une base plus solide pour déployer en toute confiance des environnements d’entraînement et d’inférence IA ainsi que des clouds IA multi-tenants.
k0rdent AI Virtual Machine as a Service (VMaaS) est actuellement disponible en preview technique et complète les autres capacités d’infrastructure de la plateforme, notamment Bare Metal as a Service (BMaaS), l’orchestration Kubernetes et la gestion intégrée de l’infrastructure IA.
Les organisations souhaitant déployer une virtualisation GPU sécurisée et haute performance pour leurs infrastructures IA NVIDIA peuvent contacter Mirantis afin d’échanger avec un Solutions Architect.
