Мережа в епоху ШІ: звідки походить попит, куди піде інновація?
Мережа є ключовим елементом ери великих моделей ШІ. В еру великих моделей ми вже спостерігаємо прискорення ітерації мережевих пристроїв, таких як оптичні модулі та комутатори, а також сплеск попиту. Але ринок має досить поверхневе розуміння, чому графічні процесори потребують великої кількості оптичних модулів, а зв'язок стає болючою точкою для великих моделей. У цій статті ми розглянемо з точки зору принципів, чому мережа стала новим "центром уваги" в еру ШІ, а також обговоримо інновації в мережевій сфері та пов'язані з ними інвестиційні можливості на основі останніх змін в індустрії.
Попит на мережу в основному походить з трьох аспектів:
Постійно зростаючий обсяг моделі вимагає використання багатосерверних кластерів для вирішення проблеми навчання.
Мережа більше використовується для синхронізації параметрів моделі між графічними процесорами, що висуває вищі вимоги до щільності та ємності мережі.
Тренування великих моделей триває кілька місяців, вартість мережевих збоїв надзвичайно висока, вимоги до стабільності зростають.
Мережеві інновації в основному проявляються в трьох напрямках:
Заміна комунікаційних середовищ: оптичні модулі прагнуть до більш високих швидкостей, одночасно знижуючи витрати за допомогою LPO, LRO, кремнієвих оптичних технологій та інших методів. Мідні кабелі домінують у з'єднаннях всередині шаф. Нові технології, такі як Chiplet і Wafer-scaling, прискорюють дослідження меж кремнієвих інтерконектів.
Конкуренція мережевих протоколів: комунікаційний протокол всередині вузла, прив'язаний до графічних карт, таких як NVIDIA NV-LINK, AMD Infinity Fabric. Основна конкуренція між вузлами - це IB та Ethernet.
Зміни в мережевій архітектурі: архітектура Leaf-Spine має високі витрати в надвеликих кластерах, нові архітектури, такі як Dragonfly і rail-only, можуть стати напрямком еволюції наступного покоління надвеликих кластерів.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
7 лайків
Нагородити
7
5
Поділіться
Прокоментувати
0/400
RugDocScientist
· 5год тому
Чи залежить цей ринок виключно від відеокарт?
Переглянути оригіналвідповісти на0
LadderToolGuy
· 5год тому
Відеокарти вже зростають до небес, хто подбає про плату за інтернет?
Переглянути оригіналвідповісти на0
TheShibaWhisperer
· 5год тому
重在 збільшити позицію光模块这波~
Переглянути оригіналвідповісти на0
RugDocDetective
· 5год тому
Шалений графічний процесор рано чи пізно натрапить на стіну швидкості мережі
В епоху штучного інтелекту зросли вимоги до мережі, інновації в зв'язку отримують нові можливості
Мережа в епоху ШІ: звідки походить попит, куди піде інновація?
Мережа є ключовим елементом ери великих моделей ШІ. В еру великих моделей ми вже спостерігаємо прискорення ітерації мережевих пристроїв, таких як оптичні модулі та комутатори, а також сплеск попиту. Але ринок має досить поверхневе розуміння, чому графічні процесори потребують великої кількості оптичних модулів, а зв'язок стає болючою точкою для великих моделей. У цій статті ми розглянемо з точки зору принципів, чому мережа стала новим "центром уваги" в еру ШІ, а також обговоримо інновації в мережевій сфері та пов'язані з ними інвестиційні можливості на основі останніх змін в індустрії.
Попит на мережу в основному походить з трьох аспектів:
Постійно зростаючий обсяг моделі вимагає використання багатосерверних кластерів для вирішення проблеми навчання.
Мережа більше використовується для синхронізації параметрів моделі між графічними процесорами, що висуває вищі вимоги до щільності та ємності мережі.
Тренування великих моделей триває кілька місяців, вартість мережевих збоїв надзвичайно висока, вимоги до стабільності зростають.
Мережеві інновації в основному проявляються в трьох напрямках:
Заміна комунікаційних середовищ: оптичні модулі прагнуть до більш високих швидкостей, одночасно знижуючи витрати за допомогою LPO, LRO, кремнієвих оптичних технологій та інших методів. Мідні кабелі домінують у з'єднаннях всередині шаф. Нові технології, такі як Chiplet і Wafer-scaling, прискорюють дослідження меж кремнієвих інтерконектів.
Конкуренція мережевих протоколів: комунікаційний протокол всередині вузла, прив'язаний до графічних карт, таких як NVIDIA NV-LINK, AMD Infinity Fabric. Основна конкуренція між вузлами - це IB та Ethernet.
Зміни в мережевій архітектурі: архітектура Leaf-Spine має високі витрати в надвеликих кластерах, нові архітектури, такі як Dragonfly і rail-only, можуть стати напрямком еволюції наступного покоління надвеликих кластерів.
Інвестиційні поради:
Ключові елементи комунікаційної системи: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Hudian Co.
Інноваційні етапи комунікаційної системи: Changfei оптоволокно, Zhongtian Technology, Hengtong оптоелектроніка, Shengke Communication.
Попередження про ризики: попит на ШІ не відповідає очікуванням, закон масштабування втрачає силу, конкуренція в галузі посилюється.