MtoM Mag - Le journal de l'MtoM.

Dans le cadre du projet Innovative Optical and Wireless Network (IOWN), NTT Corporation (NTT) et Red Hat, Inc., ont développé une solution commune, en collaboration avec NVIDIA et Fujitsu, afin d’améliorer et d’étendre le potentiel de l’analyse de données en temps réel à l’aide de l’intelligence artificielle (IA) en périphérie des réseaux. En exploitant des technologies développées par IOWN Global Forum et conçues en s’appuyant sur Red Hat OpenShift, plateforme leader dans le domaine des applications pour le cloud hybride basé sur Kubernetes, cette solution a été reconnue à l’aide d’une proof-of-concept (PoC) d’IOWN Global Forum’s 1 2 pour sa viabilité en conditions réelles et sur de véritables cas d’usage.

À mesure que l’IA, les technologies de capteurs et l’innovation réseau accélèrent leur développement, l’exploitation de l’analyse de données à l’aide de l’IA afin d’évaluer et de trier les flux entrants en périphérie du réseau va jouer un rôle de plus en plus crucial, notamment parce que les sources de données s’enrichissent quotidiennement. L’utilisation de l’analyse de données augmentée par l’IA à grande échelle peut toutefois se révéler un processus lent et complexe et s’accompagner de coûts de maintenance et logiciels plus élevés afin d’intégrer les nouveaux modèles d’IA et le matériel additionnel. Grâce aux capacités de puissance de calcul en périphérie émergentes sur des sites de plus en plus isolés, l’analyse de données augmentée par l’IA peut intervenir au plus près des capteurs, ce qui a pour conséquence de limiter les temps de latence et d’augmenter la bande passante.

Cette solution se compose du réseau entièrement photonique (APN) d’IOWN et des technologies d’accélération de pipelines de données au sein de l’infrastructure centrée autour des données (DCI) d’IOWN. Le pipeline de données accéléré de NTT pour l’IA adopte une approche de l’accès direct à la mémoire à distance (RDMA) sur l’APN afin de collecter et de traiter efficacement de vastes quantités de données issues de capteurs en périphérie. NTT et Red Hat sont parvenus à démontrer que cette solution permet de réduire efficacement la consommation d’énergie tout en maintenant des temps de latence limités pour l’analyse en temps réel de données augmentées par l’IA en périphérie des réseaux.

Ce PoC (« proof of concept ») a permis d’évaluer la plateforme d’analyse de données en temps réel à l’aide de l’IA5 grâce à une installation dotée de capteurs basée à Yokosuka et à un datacenter distant situé à Musashino, les deux sites étant connectés via l’APN. En conséquence, même lorsqu’un grand nombre de caméras étaient en fonctionnement, le temps de latence requis pour agréger les données des capteurs pour les analyser à l’aide de l’IA a été réduit de 60 % par rapport à des workloads conventionnels pour les inférences d’IA. De plus, le test d’IOWN a permis de montrer que la consommation d’énergie requise pour l’analyse de données à l’aide l’IA pour chaque caméra en périphérie pouvait être réduite de 40 % par rapport à des technologies traditionnelles. Cette plateforme d’analyse augmentée par l’IA permet une mise à l’échelle du processeur graphique (GPU) afin d’accommoder un plus grand nombre de caméras sans que le processeur central (CPU) ne devienne un goulot d’étranglement. Selon les calculs réalisés pendant l’essai, lorsque 1 000 caméras sont connectées, la consommation d’énergie pourrait même s’en trouver réduite de 60 %. Les principaux éléments mis en lumière par le PoC pour cette solution sont les suivants :

 Un pipeline de données accéléré pour les inférences d’IA, fourni par NTT, est doté du RDMA sur l’APN afin de collecter directement des données de capteurs à grande échelle sur des sites locaux pour les acheminer vers la mémoire intégrée à un accélérateur situé dans un datacenter distant, réduisant ainsi les coûts de gestion des protocoles d’un réseau traditionnel. Cela permet ensuite de procéder au traitement des données des inférences d’IA au sein de l’accélérateur en limitant les coûts liés au contrôle du CPU, ce qui améliore l’efficacité énergétique pour les inférences d’IA.

 L’analyse de données en temps réel augmentée par l’IA à grande échelle, en s’appuyant sur Red Hat OpenShift, permet la prise en charge d’opérateurs Kubernetes6 afin de minimiser la complexité qui accompagne la mise en place d’accélérateurs basés sur des pièces matérielles (GPU, DPU, etc.), en offrant davantage de flexibilité et un déploiement plus facile sur l’ensemble des sites non agrégés, y compris les datacenters distants.

 Au cours de ce PoC, ont été utilisés des GPU Tensor Core NVIDIA A100 et des contrôleurs NIC ConnectX-6 NVIDIA pour les inférences d’IA.

Cette solution permet d’ouvrir la voie à des technologies intelligentes alimentées par l’IA qui aideront à mettre à l’échelle les efforts des entreprises en matière de durabilité. Grâce à cette solution, elles bénéficieront notamment :

 De coûts réduits liés à la collecte de vastes quantités de données ;

 D’une collecte de données améliorée, qui permet de partager celles-ci entre les zones métropolitaines et les datacenters isolés pour procéder à une analyse plus rapide à l’aide de l’IA ;

 De la capacité à exploiter les énergies potentiellement renouvelables disponibles localement, comme le solaire ou l’éolien ;

 D’une sécurité renforcée de la gestion des espaces grâce à des caméras vidéo qui font office de capteurs.

Citations

Chris Wright, chief technology officers and senior vice president of Global Engineering chez Red Hat et board director d’IOWN Global Forum : « Au cours de ces dernières années, nous avons œuvré dans le cadre d’IOWN Global Forum pour ouvrir la voie à l’innovation en matière d’IA alimentée par l’Open Source et nous avons mis au point des technologies qui nous aident à faire des choix plus durables. Il s’agit d’un travail aussi enthousiasmant que capital et les résultats obtenus démontrent que nous sommes en mesure de bâtir des solutions augmentées par l’IA qui sont à la fois durables et innovantes pour répondre aux besoins des entreprises du monde entier. Grâce à Red Hat OpenShift, nous sommes en mesure d’aider NTT à fournir des analyses de données en temps réel à grande échelle à l’aide de l’IA et ce, sans limite. »

Katsuhiko Kawazoe, senior executive vice president de NTT et chairman de IOWN Global Forum : « Le groupe NTT, en collaboration étroite avec ses partenaires, accélère le développement d’IOWN afin de parvenir à créer une société durable. Ce PoC d’IOWN est une étape cruciale vers une puissance de calcul verte au service de l’IA, qui soutient l’intelligence collective qui caractérise cette technologie. Nous continuons à améliorer l’efficacité énergétique d’IOWN appliquant des technologies de convergence photonique-électronique à une infrastructure technologique. Avec IOWN, nous avons pour objectif d’incarner un futur durable avec zéro émission carbone nette. »

Kenichi Sakai, senior vice president of Fujitsu LTD, Infrastructure System Business Unit : « Nous avons apporté notre contribution à la création d’une société durable et plus intelligente grâce à nos technologies de serveurs, qui incluent RIMERGY CDI (infrastructure non agrégée composable), laquelle permet de désagréger la puissance de calcul. Ces résultats du PoC démontrent que la faisabilité d’IOWN se renforce pour une commercialisation courant 2026 et qu’IOWN possède le potentiel requis pour prendre en charge les applications d’IA. Fujitsu offre des performances supérieures et une efficacité énergétique grâce à la dimension composable de PRIMERGY CDI et continue de contribuer à la concrétisation de l’infrastructure de calcul d’IOWN. »

Ronnie Vasishta, senior vice president of telecom, NVIDIA : « La demande en matière d’inférences d’IA augmente et la périphérie des réseaux de télécommunication a un rôle essentiel à jouer dans ce domaine. NVIDIA a collaboré avec NTT et IOWN afin de combiner son réseau APN avec un pipeline de traitement des données accéléré et l’IA, tout en exposant aux yeux de tous une technologie de vision machine et de traitement de l’image dotée d’une faible latence et d’une consommation d’énergie efficace. »

https://www.redhat.com/

https://www.global.ntt/