Jaringan di Era AI: Dari mana permintaan berasal, ke mana inovasi akan bergerak?
Jaringan adalah kunci penting di era model AI besar. Di era model besar, kita telah melihat percepatan iterasi perangkat jaringan seperti modul optik, switch, dan lain-lain, dengan permintaan yang meledak. Namun, pemahaman pasar mengenai mengapa kartu grafis perlu dipasangkan dengan banyak modul optik, serta mengapa komunikasi menjadi titik masalah besar model, masih cukup dangkal. Artikel ini akan membahas dari prinsipnya, mengapa jaringan menjadi "posisi utama" yang baru di era AI, dan dari perubahan industri terbaru, mendiskusikan inovasi di sisi jaringan dan peluang investasi di baliknya.
Permintaan jaringan terutama berasal dari tiga aspek:
Ukuran model yang semakin besar memerlukan kluster beberapa server untuk menyelesaikan masalah pelatihan.
Jaringan lebih banyak digunakan untuk menyinkronkan parameter model antara GPU, yang menuntut persyaratan lebih tinggi pada kepadatan dan kapasitas jaringan.
Pelatihan model besar berlangsung selama beberapa bulan, biaya gangguan jaringan sangat tinggi, dan permintaan stabilitas meningkat.
Inovasi jaringan terutama tercermin dalam tiga arah:
Pergantian media komunikasi: Modul optik mengejar kecepatan yang lebih tinggi sambil menurunkan biaya melalui LPO, LRO, silikon optik, dan cara lainnya. Kabel tembaga mendominasi koneksi di dalam rak. Teknologi baru seperti Chiplet, Wafer-scaling mempercepat eksplorasi batas interkoneksi berbasis silikon.
Persaingan Protokol Jaringan: Protokol komunikasi dalam node terikat pada kartu grafis, seperti NVIDIA NV-LINK, AMD Infinity Fabric. Persaingan utama antar node adalah antara IB dan Ethernet.
Perubahan Arsitektur Jaringan: Arsitektur Leaf-Spine memiliki biaya yang tinggi dalam kluster super besar, arsitektur Dragonfly, arsitektur rail-only, dan arsitektur baru lainnya diharapkan menjadi arah evolusi kluster super besar generasi berikutnya.
Saran investasi:
Sistem komunikasi inti: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Hudian Co.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
7 Suka
Hadiah
7
5
Bagikan
Komentar
0/400
RugDocScientist
· 6jam yang lalu
Apakah pergerakan pasar ini hanya bergantung pada kartu grafis?
Lihat AsliBalas0
LadderToolGuy
· 6jam yang lalu
Kartu grafis semuanya naik gila, siapa yang akan mengurus biaya jaringan?
Lihat AsliBalas0
TheShibaWhisperer
· 6jam yang lalu
重在naikkan posisi光模块这波~
Lihat AsliBalas0
RugDocDetective
· 6jam yang lalu
Kartu grafis yang melesat pasti akan menabrak dinding kecepatan internet.
Permintaan jaringan meningkat di era AI, inovasi komunikasi menyambut peluang baru
Jaringan di Era AI: Dari mana permintaan berasal, ke mana inovasi akan bergerak?
Jaringan adalah kunci penting di era model AI besar. Di era model besar, kita telah melihat percepatan iterasi perangkat jaringan seperti modul optik, switch, dan lain-lain, dengan permintaan yang meledak. Namun, pemahaman pasar mengenai mengapa kartu grafis perlu dipasangkan dengan banyak modul optik, serta mengapa komunikasi menjadi titik masalah besar model, masih cukup dangkal. Artikel ini akan membahas dari prinsipnya, mengapa jaringan menjadi "posisi utama" yang baru di era AI, dan dari perubahan industri terbaru, mendiskusikan inovasi di sisi jaringan dan peluang investasi di baliknya.
Permintaan jaringan terutama berasal dari tiga aspek:
Ukuran model yang semakin besar memerlukan kluster beberapa server untuk menyelesaikan masalah pelatihan.
Jaringan lebih banyak digunakan untuk menyinkronkan parameter model antara GPU, yang menuntut persyaratan lebih tinggi pada kepadatan dan kapasitas jaringan.
Pelatihan model besar berlangsung selama beberapa bulan, biaya gangguan jaringan sangat tinggi, dan permintaan stabilitas meningkat.
Inovasi jaringan terutama tercermin dalam tiga arah:
Pergantian media komunikasi: Modul optik mengejar kecepatan yang lebih tinggi sambil menurunkan biaya melalui LPO, LRO, silikon optik, dan cara lainnya. Kabel tembaga mendominasi koneksi di dalam rak. Teknologi baru seperti Chiplet, Wafer-scaling mempercepat eksplorasi batas interkoneksi berbasis silikon.
Persaingan Protokol Jaringan: Protokol komunikasi dalam node terikat pada kartu grafis, seperti NVIDIA NV-LINK, AMD Infinity Fabric. Persaingan utama antar node adalah antara IB dan Ethernet.
Perubahan Arsitektur Jaringan: Arsitektur Leaf-Spine memiliki biaya yang tinggi dalam kluster super besar, arsitektur Dragonfly, arsitektur rail-only, dan arsitektur baru lainnya diharapkan menjadi arah evolusi kluster super besar generasi berikutnya.
Saran investasi:
Sistem komunikasi inti: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Hudian Co.
Inovasi sistem komunikasi: Yangtze Optical Fibre, Zhongtian Technology, Hengtong Optic-Electric, Shengkai Communication.
Peringatan risiko: Permintaan AI tidak sesuai harapan, hukum skala gagal, persaingan industri semakin ketat.