Réseau à l'ère de l'IA : d'où vient la demande et où l'innovation va-t-elle ?
Le réseau est un élément clé à l'ère des grands modèles d'IA. À l'ère des grands modèles, nous avons déjà observé une accélération de l'itération des équipements réseau tels que les modules optiques et les commutateurs, avec une explosion de la demande. Cependant, la compréhension du marché sur pourquoi les cartes graphiques doivent être accompagnées d'un grand nombre de modules optiques, et pourquoi la communication est devenue un point sensible pour les grands modèles, est assez limitée. Cet article partira des principes pour explorer pourquoi le réseau est devenu le nouveau "C position" à l'ère de l'IA, et discutera des innovations futures du côté réseau ainsi que des opportunités d'investissement qui les sous-tendent.
La demande du réseau provient principalement de trois aspects:
La taille de modèle de plus en plus grande nécessite un cluster de serveurs multiples pour résoudre les problèmes d'entraînement.
Le réseau est davantage utilisé pour synchroniser les paramètres du modèle entre les cartes graphiques, ce qui impose des exigences plus élevées en termes de densité et de capacité du réseau.
L'entraînement des grands modèles dure plusieurs mois, le coût des pannes réseau est très élevé, les exigences de stabilité augmentent.
L'innovation numérique se manifeste principalement dans trois directions :
Changement de support de communication : Les modules optiques visent des vitesses plus élevées tout en réduisant les coûts grâce à des méthodes telles que LPO, LRO et la photonique sur silicium. Les câbles en cuivre dominent les connexions à l'intérieur des armoires. De nouvelles technologies comme Chiplet et Wafer-scaling accélèrent l'exploration des limites de l'interconnexion sur silicium.
Concurrence des protocoles réseau : protocole de communication interne des nœuds lié aux cartes graphiques, comme NVIDIA NV-LINK, AMD Infinity Fabric. La concurrence entre les nœuds se fait principalement entre IB et Ethernet.
Changements d'architecture réseau : L'architecture Leaf-Spine est coûteuse dans les très grands clusters, les nouvelles architectures telles que Dragonfly et rail-only devraient devenir la direction d'évolution de la prochaine génération de très grands clusters.
Conseils d'investissement:
Éléments clés du système de communication : Zhongji Xuchuang, NewEase, Tianfu Communication, HuDian Co., Ltd.
Innovation dans les systèmes de communication : Yangtze Optical Fiber, Zhongtian Technology, Hengtong Optic-Electric, Shengke Communication.
Avertissement de risque : la demande d'IA est inférieure aux attentes, la loi de mise à l'échelle échoue, la concurrence dans l'industrie s'intensifie.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
7 J'aime
Récompense
7
5
Partager
Commentaire
0/400
RugDocScientist
· Il y a 10h
Ce mouvement de marché dépend-il uniquement des cartes graphiques ?
Voir l'originalRépondre0
LadderToolGuy
· Il y a 10h
Les cartes graphiques sont devenues folles, qui va s'occuper des frais de réseau ?
Voir l'originalRépondre0
TheShibaWhisperer
· Il y a 10h
重在 augmenter la position光模块这波~
Voir l'originalRépondre0
RugDocDetective
· Il y a 10h
Les cartes graphiques qui explosent finiront par se heurter au mur de la vitesse Internet.
La demande en ligne a explosé à l'ère de l'IA, et l'innovation en communication ouvre de nouvelles opportunités.
Réseau à l'ère de l'IA : d'où vient la demande et où l'innovation va-t-elle ?
Le réseau est un élément clé à l'ère des grands modèles d'IA. À l'ère des grands modèles, nous avons déjà observé une accélération de l'itération des équipements réseau tels que les modules optiques et les commutateurs, avec une explosion de la demande. Cependant, la compréhension du marché sur pourquoi les cartes graphiques doivent être accompagnées d'un grand nombre de modules optiques, et pourquoi la communication est devenue un point sensible pour les grands modèles, est assez limitée. Cet article partira des principes pour explorer pourquoi le réseau est devenu le nouveau "C position" à l'ère de l'IA, et discutera des innovations futures du côté réseau ainsi que des opportunités d'investissement qui les sous-tendent.
La demande du réseau provient principalement de trois aspects:
La taille de modèle de plus en plus grande nécessite un cluster de serveurs multiples pour résoudre les problèmes d'entraînement.
Le réseau est davantage utilisé pour synchroniser les paramètres du modèle entre les cartes graphiques, ce qui impose des exigences plus élevées en termes de densité et de capacité du réseau.
L'entraînement des grands modèles dure plusieurs mois, le coût des pannes réseau est très élevé, les exigences de stabilité augmentent.
L'innovation numérique se manifeste principalement dans trois directions :
Changement de support de communication : Les modules optiques visent des vitesses plus élevées tout en réduisant les coûts grâce à des méthodes telles que LPO, LRO et la photonique sur silicium. Les câbles en cuivre dominent les connexions à l'intérieur des armoires. De nouvelles technologies comme Chiplet et Wafer-scaling accélèrent l'exploration des limites de l'interconnexion sur silicium.
Concurrence des protocoles réseau : protocole de communication interne des nœuds lié aux cartes graphiques, comme NVIDIA NV-LINK, AMD Infinity Fabric. La concurrence entre les nœuds se fait principalement entre IB et Ethernet.
Changements d'architecture réseau : L'architecture Leaf-Spine est coûteuse dans les très grands clusters, les nouvelles architectures telles que Dragonfly et rail-only devraient devenir la direction d'évolution de la prochaine génération de très grands clusters.
Conseils d'investissement:
Éléments clés du système de communication : Zhongji Xuchuang, NewEase, Tianfu Communication, HuDian Co., Ltd.
Innovation dans les systèmes de communication : Yangtze Optical Fiber, Zhongtian Technology, Hengtong Optic-Electric, Shengke Communication.
Avertissement de risque : la demande d'IA est inférieure aux attentes, la loi de mise à l'échelle échoue, la concurrence dans l'industrie s'intensifie.