MtoM Mag - Le journal de l'MtoM.

Avec Akamai Inference et Akamai Agent Sandbox, Akamai Cloud renforce sa capacité de déploiement, d’exécution et de protection des applications et agents d’IA, du cœur du réseau jusqu’à la périphérie d’Internet

Akamai (Nasdaq : AKAM) enrichit son offre Akamai Cloud de services gérés d‘inférence et d’un environnement d’exécution isolé pour les agents d’IA avec le lancement de deux produits fondamentaux pour son stackd’IA : Akamai Inference et Akamai Agent Sandbox. Grâce à ces nouveautés, les entreprises peuvent développer et affiner leurs propres modèles ou des modèles open-weight hébergés, les enrichir avec leurs propres données et exécuter des agents dans un cadre contrôlé. Ces fonctionnalités permettent également de protéger les applications, agents et infrastructures associés, le tout sur une plateforme cloud unifiée qui repose sur une infrastructure optimisée pour l’IA.

Ces capacités marquent une nouvelle étape de la stratégie IA d’Akamai : fournir aux entreprises une infrastructure mondiale fiable et les services nécessaires pour déployer, exécuter et sécuriser des applications et agents d’IA, au plus près des utilisateurs et des données dont ils dépendent. Akamai Inference et Akamai Agent Sandbox ajoutent ainsi des services gérés à cette infrastructure, laquelle a déjà permis à Akamai Cloud de signer des contrats pluriannuels représentant collectivement plus de 14 milliards de dollars. Cette dynamique confirme qu’Akamai s’impose rapidement comme une plateforme de confiance pour le développement, le déploiement et l’exécution de charges de travail d’IA à grande échelle, grâce à sa capacité à associer CPU et GPU à des services de stockage cloud, de réseau et de fonctions en bordure de l’Internet au sein de son infrastructure mondiale interconnectée.

Les entreprises qui mettent l’IA en production ont besoin de bien plus que de simples modèles. Elles ont besoin d’une infrastructure d’inférence, d’un accès à leurs données, de mécanismes d’acheminement et de gouvernance et, à mesure que les agents commencent à écrire et à exécuter leur propre code, de garde-fous stricts définissant les ressources auxquelles ce code peut accéder et les actions pouvant être réalisées. Aujourd’hui, la plupart des équipes doivent faire appel à différents fournisseurs pour assembler ces éléments, et assurer elles-mêmes la protection des points d’interaction. Akamai Cloud propose désormais un environnement d’IA connecté, couvrant un continuum de ressources de calcul allant de grappes GPU et CPU haute densité dans les régions centrales à plus de 4 350 emplacements en périphérie, le tout protégé par les mêmes solutions de sécurité qui sécurisent certaines des plus grandes entreprises en ligne au monde.

« Nous mettons en œuvre une stratégie d’infrastructure d’IA fondée sur l’idée que l’inférence représentera l’essentiel des investissements et des priorités des entreprises en matière d’IA. Nos clients ont confirmé la pertinence de cette vision et nous ont encouragés à aller plus loin », déclare Adam Karon, Chief Operating Officer et General Manager d’Akamai Cloud. « Ils souhaitent développer, exécuter et protéger leurs solutions d’IA sur une seule et même plateforme. Avec Akamai Inference et Akamai Agent Sandbox, nous ajoutons les couches d’inférence et d’exécution qui transforment notre infrastructure d’IA en un stack d’IA complet, tandis que notre portefeuille de solutions de sécurité protège chacune de ces couches. Akamai dispose de l’envergure et de la présence mondiale nécessaires pour répondre aux défis de mise à l’échelle de l’inférence en temps réel et des charges de travail agentiques. »

Accéder aux modèles sans avoir à gérer l’infrastructure sous-jacente : Akamai Inference

Akamai Inference offre aux entreprises un accès géré à des modèles open-weight et à des modèles personnalisés via des API compatibles OpenAI, ce qui permet aux applications existantes d’être migrées sans réécriture de code. Les clients peuvent choisir entre une inférence serverless facturée à l’usage ou des déploiements dédiés. Au moment du lancement, le catalogue comprend 12 modèles open-weight allant de 8 milliards à 2 800 milliards de paramètres, notamment NVIDIA™ Nemotron 3 Ultra, OpenAI™ gpt-oss-120b et Google™ Gemma 4, ainsi que des modèles d’embeddings destinés à la génération augmentée par récupération.

Akamai Cloud offre un accès à des bases de données gérées et à des services de stockage en mode objet. La plateforme assure également une connectivité transparente avec les clouds privés et publics afin que les modèles puissent exploiter les données de l’entreprise. Akamai Inference prend ensuite en charge l’orchestration des requêtes, l’exécution des modèles et l’authentification. Les requêtes transitent par le réseau mondial d’Akamai, ce qui réduit la latence et contribue à garantir une haute disponibilité ainsi que des performances constantes, tout en maintenant des niveaux de service prévisibles.

Offrir aux agents un environnement d’exécution dédié : Akamai Agent Sandbox

Les agents d’IA sont désormais capables d’accomplir des tâches de plus en plus complexes et concrètes. Ils peuvent par exemple agir pour le compte d’un utilisateur ou rédiger et exécuter leur propre code. Akamai Agent Sandbox fournit aux développeurs un environnement sécurisé pour ces deux usages. Les agents s’exécutent sur Akamai Functions, tandis que le code qu’ils génèrent est exécuté dans un environnement isolé distinct, séparé de l’environnement d’exécution de l’agent lui-même. Proposé sous forme de composant open source du framework Spin, Akamai Agent Sandbox s’appuie sur l’isolation WebAssembly pour fixer des limites précises en matière de calcul, de mémoire, de connexions sortantes et de capacités système. Les développeurs peuvent ainsi déployer des agents en sachant précisément où ils s’exécutent et à quelles ressources ils peuvent accéder.

Plusieurs approches d’isolation des agents sont aujourd’hui en train de s’imposer : des micro-machines virtuelles (microVM) avec capacités de génération instantanée et de clonage, conteneurs régis par des règles de sécurité, ou encore fonctions isolées via WebAssembly. Akamai permet aux développeurs de choisir l’architecture la mieux adaptée à leurs charges de travail, grâce à une infrastructure dédiée CPU ou accélérée par NVIDIA, à un service Kubernetes géré et à Akamai Functions pour l’exécution serverless de la bordure de l’Internet jusqu’au cœur du réseau. Akamai prévoit également d’ajouter de nouveaux mécanismes de gouvernance afin de contrôler les ressources accessibles aux agents, ainsi que les entités autorisées à interagir avec eux.

Développer et affiner les modèles sur une flotte de GPU plus étendue : NVIDIA Blackwell Ultra aujourd’hui, Vera Rubin demain

Akamai a également étendu sa flotte de GPU dédiés avec l’ajout de clusters NVIDIA Blackwell Ultra, et prépare actuellement son infrastructure à la prise en charge de la plateforme NVIDIA Vera Rubin l’année prochaine. Cette flotte comprend désormais des GPU NVIDIA RTX PRO™ 6000 Blackwell Server Edition® destinés aux scénarios d’inférence à faible latence, ainsi que des clusters NVIDIA Blackwell Ultra pour les entreprises qui souhaitent développer, affiner et héberger elles-mêmes leurs modèles sur une infrastructure sous leur contrôle. Akamai prépare également ses centres de données pour prendre en charge la plateforme NVIDIA Vera Rubin en 2027.

Chaque nœud Blackwell Ultra équipé de huit GPU dispose de 288 Go de mémoire HBM3e par GPU, soit 2,3 To au total, suffisamment pour héberger des modèles de pointe. L’architecture Blackwell Ultra cible notamment les charges de travail très exigeantes en mémoire, telles que la montée en puissance lors de l’inférence, le raisonnement par chaîne de pensée et les agents travaillant sur des contextes étendus. Les clusters de GPU permettent aux entreprises de garder le contrôle sur les versions des modèles et les calendriers d’obsolescence, sans limitation de débit ni files d’attente liées au partage des ressources. Ils se connectent aux mêmes services de données, de réseau et de sécurité que le reste d’Akamai Cloud.

« Les entreprises ne devraient pas avoir à choisir entre la rapidité et le contrôle lorsqu’elles mettent l’IA en production », affirme Jon Alexander, Senior Vice President of Cloud Technology chez Akamai. « Certaines équipes souhaitent déployer une fonctionnalité d’IA sur une plateforme gérée dans les mois à venir. D’autres ont besoin de GPU dédiés pour exécuter des modèles ouverts de pointe selon leurs propres exigences. Et toutes les équipes qui utilisent des agents ont besoin de définir des limites claires autour du code généré par ces agents. Akamai Cloud prend désormais en charge l’ensemble de ces scénarios sur une seule plateforme, avec une sécurité et une résilience, intégrées. »