MtoM Mag - Le journal de l'MtoM.

k0rdent intègre de nouvelles fonctionnalités pour permettre aux entreprises et aux opérateurs de clouds GPU de gouverner, faire évoluer et monétiser leurs services d’IA souverains

Mirantis, spécialiste des infrastructures Kubernetes-native pour l’IA, annonce aujourd’hui le déploiement de fonctionnalités supplémentaires pour k0rdent AI. La plateforme étend ainsi son périmètre au-delà de la gestion d’infrastructure pour aider les entreprises, les neoclouds et les opérateurs de clouds GPU à monétiser leurs investissements dans l’infrastructure IA.

Les nouvelles solutions k0rdent AI Model Registry et k0rdent AI Inference Mesh permettent aux organisations d’héberger, de gouverner, router et mesurer de manière sécurisée les modèles d’IA et les services d’inférence à travers des ressources de calcul fédérées. Ensemble, ces deux nouveaux produits aident les organisations à transformer une infrastructure GPU brute en plateformes d’IA gouvernées et génératrices de revenus.

Mirantis présente également k0rdent AI Inference Runtime, conçu pour maximiser le nombre de tokens par seconde par GPU afin d’améliorer l’efficacité et le taux d’utilisation de l’infrastructure.

« À mesure que les organisations font passer leurs projets d’IA de l’expérimentation à la production, les équipes infrastructure se trouvent de plus en plus confrontées à des défis opérationnels et de gouvernance liés à la distribution des modèles, la visibilité sur l’inférence, l’application des règles de conformité et l’économie des GPU », déclare Kevin Kamel, vice-président en charge du développement produit chez Mirantis. « Les entreprises et les opérateurs GPU ont largement été contraints d’assembler des workflows fragiles et des outils déconnectés pour opérationnaliser l’IA. Les modèles ne peuvent pas être traités comme des conteneurs, car ils ont leurs propres exigences en matière de gouvernance, de souveraineté, de conformité et de cycle de vie. Les capacités que nous apportons aujourd’hui sont validées et soumises à des benchmarks pour nos utilisateurs. »