La red en la era de la IA: ¿de dónde proviene la demanda y hacia dónde se dirigirá la innovación?
La red es una parte clave de la era de los grandes modelos de IA. En la era de los grandes modelos, ya hemos visto una aceleración en la iteración de dispositivos de red como módulos ópticos y conmutadores, con una explosión en la demanda. Sin embargo, la comprensión del mercado sobre por qué las unidades de procesamiento gráfico necesitan ser acompañadas de numerosos módulos ópticos, y por qué las comunicaciones se han convertido en un punto crítico para los grandes modelos, es bastante superficial. Este artículo comenzará desde los principios para explorar por qué la red se ha convertido en el nuevo "C-position" en la era de la IA, y discutirá las innovaciones en el lado de la red y las oportunidades de inversión detrás de los últimos cambios en la industria.
La demanda de la red proviene principalmente de tres aspectos:
El creciente tamaño de los modelos requiere clústeres de múltiples servidores para resolver problemas de entrenamiento.
La red se utiliza más para sincronizar los parámetros del modelo entre las tarjetas gráficas, lo que impone mayores exigencias a la densidad y capacidad de la red.
El entrenamiento de grandes modelos dura varios meses, el costo de las fallas de red es muy alto y se requieren mayores niveles de estabilidad.
La innovación en la red se refleja principalmente en tres direcciones:
Cambio de medio de comunicación: los módulos ópticos buscan tasas de velocidad más altas mientras reducen costos a través de LPO, LRO, silicio fotónico, entre otros. Los cables de cobre dominan la conexión dentro del armario. Nuevas tecnologías como Chiplet y Wafer-scaling aceleran la exploración de los límites de la interconexión basada en silicio.
Competencia de protocolos de red: el protocolo de comunicación dentro del nodo está vinculado a la tarjeta gráfica, como NVIDIA NV-LINK y AMD Infinity Fabric. La competencia principal entre nodos es entre IB y Ethernet.
Cambios en la arquitectura de red: La arquitectura de árbol de hoja tiene un costo relativamente alto en clústeres de gran escala, se espera que arquitecturas nuevas como Dragonfly y rail-only se conviertan en la dirección de evolución de la próxima generación de clústeres de gran escala.
Consejos de inversión:
Elementos clave del sistema de comunicación: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Hu Dian Co., Ltd.
Innovaciones en el sistema de comunicación: FiberHome, Zhongtian Technology, Hengtong Optic-Electric, Shengke Communication.
Advertencia de riesgo: La demanda de IA no cumple con las expectativas, la ley de escalado falla, y la competencia en la industria se intensifica.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
7 me gusta
Recompensa
7
5
Compartir
Comentar
0/400
RugDocScientist
· hace6h
¿Esta ola de mercado depende completamente de las tarjetas gráficas?
Ver originalesResponder0
LadderToolGuy
· hace6h
Las tarjetas gráficas han subido locamente, ¿quién se encargará de los costos de la red?
Ver originalesResponder0
TheShibaWhisperer
· hace6h
重在 aumentar la posición光模块这波~
Ver originalesResponder0
RugDocDetective
· hace6h
Las tarjetas gráficas de alto rendimiento eventualmente chocarán contra la pared de la velocidad de internet.
La demanda de redes en la era de la IA se dispara, la innovación en las comunicaciones enfrenta nuevas oportunidades.
La red en la era de la IA: ¿de dónde proviene la demanda y hacia dónde se dirigirá la innovación?
La red es una parte clave de la era de los grandes modelos de IA. En la era de los grandes modelos, ya hemos visto una aceleración en la iteración de dispositivos de red como módulos ópticos y conmutadores, con una explosión en la demanda. Sin embargo, la comprensión del mercado sobre por qué las unidades de procesamiento gráfico necesitan ser acompañadas de numerosos módulos ópticos, y por qué las comunicaciones se han convertido en un punto crítico para los grandes modelos, es bastante superficial. Este artículo comenzará desde los principios para explorar por qué la red se ha convertido en el nuevo "C-position" en la era de la IA, y discutirá las innovaciones en el lado de la red y las oportunidades de inversión detrás de los últimos cambios en la industria.
La demanda de la red proviene principalmente de tres aspectos:
El creciente tamaño de los modelos requiere clústeres de múltiples servidores para resolver problemas de entrenamiento.
La red se utiliza más para sincronizar los parámetros del modelo entre las tarjetas gráficas, lo que impone mayores exigencias a la densidad y capacidad de la red.
El entrenamiento de grandes modelos dura varios meses, el costo de las fallas de red es muy alto y se requieren mayores niveles de estabilidad.
La innovación en la red se refleja principalmente en tres direcciones:
Cambio de medio de comunicación: los módulos ópticos buscan tasas de velocidad más altas mientras reducen costos a través de LPO, LRO, silicio fotónico, entre otros. Los cables de cobre dominan la conexión dentro del armario. Nuevas tecnologías como Chiplet y Wafer-scaling aceleran la exploración de los límites de la interconexión basada en silicio.
Competencia de protocolos de red: el protocolo de comunicación dentro del nodo está vinculado a la tarjeta gráfica, como NVIDIA NV-LINK y AMD Infinity Fabric. La competencia principal entre nodos es entre IB y Ethernet.
Cambios en la arquitectura de red: La arquitectura de árbol de hoja tiene un costo relativamente alto en clústeres de gran escala, se espera que arquitecturas nuevas como Dragonfly y rail-only se conviertan en la dirección de evolución de la próxima generación de clústeres de gran escala.
Consejos de inversión:
Elementos clave del sistema de comunicación: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Hu Dian Co., Ltd.
Innovaciones en el sistema de comunicación: FiberHome, Zhongtian Technology, Hengtong Optic-Electric, Shengke Communication.
Advertencia de riesgo: La demanda de IA no cumple con las expectativas, la ley de escalado falla, y la competencia en la industria se intensifica.