Sortant de l’ombre, la start-up Upscale AI a séduit les investisseurs en levant 100 millions de dollars. Adressant les problématiques réseaux pour l’IA, la société pousse les standards ouverts pour être une alternative à NVLink de Nvidia.
L’interconnexion réseau au sein des datacenters IA est devenue un élément clé. Si Nvidia domine avec NVLink, d’autres sociétés proposent des alternatives. C’est le cas d’Upscale AI qui s’appuie sur des standards ouverts comme SONiC. Une approche qui a séduit les investisseurs avec un tour de table de 100 M$. Il a été co-dirigé par Mayfield et Maverick Silicon, avec la participation de StepStone Group, Celesta Capital, Xora, Qualcomm Ventures, Cota Capital, MVP Ventures et l’université de Stanford. Upscale AI a été incubée par Auradine, une société spécialisée dans les infrastructures IT basées sur la blockchain et l’IA.
L’entreprise est dirigée par des vétérans du réseau issus de Palo Alto Networks et Innovium. « Aujourd’hui, le réseau doit non seulement offrir une latence très faible, mais aussi une latence prévisible, répondre des besoins élevés en bande passante et disposer en plus de capacités de stockage de charge sémantique en mémoire », a expliqué le dirigeant de la start-up, Barun Kar. « Nvidia a montré la voie avec NVLink, mais, à la différence de cette norme que l’on peut qualifier de fermée, nous proposons une solution totalement ouverte, fondée sur les standards du secteur. »
L’IA change les exigences réseau
La création d’Upscale a été motivée par un changement dans les exigences imposées aux réseaux de centres de données. « Le réseau a connu plusieurs points d’inflexion, et c’est ce qui se passe à nouveau actuellement, sous l’impulsion de l’IA », a déclaré M. Kar. « Les réseaux dont nous avons besoin aujourd’hui ne sont plus seulement des réseaux CPU-CPU ou CPU-stockage, mais des réseaux GPU-GPU, avec une bande passante élevée et une latence ultra-faible et prévisible », a-t-il ajouté. La startup a été incubée au sein d’Auradine, l’ancienne entreprise de M. Kar, qui développe des technologies d’IA et de blockchain.
En discutant avec les clients, son équipe a identifié un besoin évident pour une solution radicalement différente, capable de mieux relever les défis que l’IA pose au réseau. À mesure que l’intérêt des clients et les travaux d’ingénierie progressaient, le projet a également suscité l’intérêt des investisseurs, et la décision a été prise de le transformer en Upscale. « Ce que nous essayons de faire, c’est une solution entièrement ouverte et basée sur des normes, afin que n’importe quel fournisseur IT, n’importe quel accélérateur, ou même les hyperscalers, puissent apporter leur propre IT et se connecter de manière transparente au rack », a déclaré Barun Kar.
Une base de standards ouverts
L’approche technique d’Upscale AI s’appuie sur plusieurs initiatives de standards ouverts plutôt que sur le développement de protocoles propriétaires. La pile de l’entreprise s’appuie sur le système d’exploitation réseau SONiC (Software for Open Networking in the Cloud), les spécifications de l’Ultra Ethernet Consortium (UEC), les standards Ultra Accelerator Link (UALink) et l’interface d’abstraction de commutateur (SAI). Les spécifications UEC ciblent spécifiquement les défis des réseaux d’IA en ajoutant des fonctionnalités de gestion de la congestion, de télémétrie avancée et de latence prévisible qui font défaut à l’Ethernet traditionnel.
UALink fournit des interfaces standardisées pour les interconnexions d’accélérateurs, mettant ainsi fin à la dépendance à l’égard de solutions propriétaires comme NVLink de Nvidia, tandis que le SAI fournit une abstraction matérielle. Selon Barun Kar, ces standards constitueront la base de ce que construit Upscale, mais ce n’est pas tout. « Nous mettons à niveau la pile pour SAI et SONiC afin de permettre une évolutivité », a-t-il précisé.
Une stratégie d’intégration full-stack
Alors que certains fournisseurs de réseaux se concentrent sur une partie spécifique de la brique, l’objectif d’Upscale AI est de tout couvrir. « Nous sommes entièrement intégrés verticalement », a insisté le dirigeant. « Nous nous occupons de tout : du silicium, du système, des logiciels… » L’entreprise développe des ASIC personnalisés pour les applications scale-up tout en s’associant avec des fabricants existants pour les fonctions scale-out et de gestion. Cette approche inclut l’expertise en gestion thermique acquise dans le minage de cryptomonnaies. La mise en place de toute cette technologie demandera du temps et de l’argent, ce à quoi serviront les 100 millions de dollars.
Upscale AI prévoit de développer d’abord des produits scale-out utilisant des composants électroniques commerciaux, puis des solutions scale-up avec des ASIC personnalisés, et enfin des racks complets basés sur OCP. « Ce que nous essayons de faire, c’est de mettre en place une technologie réseau basée sur des standards ouverts afin de démocratiser fondamentalement le secteur », a déclaré Barun Kar. « Par démocratisation, il faut comprendre une innovation plus rapide, avec davantage de choix et de flexibilité. »