Optimisée pour l’IA, le circuit Scorpio pour commutateur PCIe 6 pourrait bientôt faire son apparition dans les centres de données. (Crédit Astera Labs)
Scorpio, le commutateur de fabric d'Astera Labs, adopte le PCIe Gen6 pour accélérer les échanges de données pour l'IA et le cloud.
La semaine dernière, Astera Labs a dévoilé un commutateur Scorpio, présenté comme le premier commutateur PCIe Gen6 de l'industrie. Le Scorpio a été spécialement conçu pour les charges de travail d'IA exécutées dans les plateformes de traitement accélérées déployées à l'échelle du cloud. Ces commutateurs visent à optimiser l'utilisation du système et le temps de disponibilité, aussi bien celui de la connectivité PCIe 6 scale-out que le clustering GPU scale-up dans les serveurs d'IA. Le portefeuille comprend deux lignes de produits : Scorpio P-Series pour la connectivité PCIe 6 GPU-to-CPU/NIC/SSD et Scorpio X-Series pour le clustering GPU en back-end. Fondée en 2017, l'entreprise de semi-conducteurs Astera Labs, qui a fait son entrée en bourse le 20 mars 2024, est spécialisée dans le développement de technologies de connectivité pour l'IA et l'infrastructure cloud. Elle propose plusieurs lignes de produits de connectivité Ethernet, PCIe et CXL (Compute Express Link). « Nous cherchons toujours à résoudre les goulets d'étranglement de connectivité dans les infrastructures d'IA et cloud », a déclaré Ahmad Danesh, vice-président associé, en charge de la gestion des produits chez Astera Labs.
Un commutateur de fabric PCIe 6.0
Généralement, les GPU et les technologies d'accélération de l'IA se connectent à une carte mère matérielle via un connecteur PCIe (PCI Express). Cependant, à ce jour, il n'existe pas de technologie de fabric réseau dédiée à la connexion des connexions PCIe 6. C'est la principale innovation de la technologie Scorpio mise aujourd'hui sur le marché par Astera Labs. Le commutateur de fabric de la série P optimise le transfert de données entre les différents composants d'un serveur d'intelligence artificielle. « Le cas d'usage le plus important est l'ingestion de données NIC-to-GPU », a expliqué M. Danesh. « Comment passer du réseau scale-out au GPU en maximisant l'utilisation du GPU, en alimentant le GPU en données et en les récupérant ? », a demandé M. Danesh. Selon lui, le travail fondamental du Scorpio de la série P consiste à fournir un trafic pair-à-pair de haute performance entre le GPU et toutes ses ressources clés, que ce soit le CPU, les NIC ou des SSD. La série X cible les clusters évolutifs, en facilitant la communication à grande vitesse entre les GPU. Contrairement aux commutateurs généralistes, la série X offre des possibilités de personnalisation en fonction de la plate-forme. « Nous pouvons procéder à une personnalisation spécifique à la plate-forme, en fonction des différents GPU, afin d'améliorer les performances, d'obtenir la meilleure efficacité de la bande passante ainsi que la plus grande fiabilité », a ajouté M. Danesh.
La technologie Scorpio bénéficiera de la pile logicielle Cosmos d'Astera Labs, qui intègre des capacités de connectivité, de gestion de système et d'optimisation.
Déploiement de Scorpio ?
Même si Astera Labs qualifie Scorpio de fabric de commutation, la technologie réelle fournie par l'entreprise est basée sur un silicium et un logiciel. Astera Labs n'a pas fait part de son intention de construire un châssis physique maison ou un hardware de niveau rack pour le commutateur Scorpio. Astera Labs vend le silicium et les cartes d'évaluation Scorpio et travaille avec des fournisseurs de services cloud et des équipementiers pour le déploiement matériel proprement dit. « Le commutateur Scorpio peut être déployé dans différents facteurs de forme, comme un commutateur en tête de rack ou intégré sur le même PCB (circuit imprimé) que les accélérateurs d'IA », a précisé M. Danesh. La technologie Scorpio bénéficiera de la pile logicielle Cosmos d'Astera Labs, qui intègre des capacités de connectivité, de gestion de système et d'optimisation. M. Danesh fait remarquer que Cosmos fournit une quantité importante d'informations de télémétrie et de diagnostic afin que les utilisateurs puissent voir exactement ce qui se passe au niveau de la liaison. « Grâce à notre commutation, nous pouvons aussi obtenir des performances plus prévisibles, où chacun de ces chemins de données est isolé et où les GPU peuvent être alimentés en données de manière plus cohérente », a poursuivi M. Danesh. Astera Labs a déjà commencé à envoyer des puces Scorpio de pré-production à ses clients, la production complète étant prévue pour 2025.
Suivez-nous