Mạng lưới thời đại AI: Nhu cầu đến từ đâu, đổi mới sẽ đi về đâu?
Mạng lưới là một phần quan trọng trong thời đại mô hình AI lớn. Trong thời đại mô hình lớn, chúng ta đã thấy sự gia tăng nhanh chóng của các thiết bị mạng như mô-đun quang, bộ chuyển mạch, và nhu cầu bùng nổ. Tuy nhiên, thị trường vẫn hiểu khá nông về lý do tại sao thẻ đồ họa cần phải đi kèm với nhiều mô-đun quang, cũng như tại sao truyền thông lại trở thành điểm đau của mô hình lớn. Bài viết này sẽ bắt đầu từ nguyên lý, khám phá lý do tại sao mạng lưới trở thành "vị trí trung tâm" mới trong thời đại AI, và từ những thay đổi công nghiệp mới nhất, thảo luận về sự đổi mới của mạng trong tương lai cùng với những cơ hội đầu tư đứng sau.
Nhu cầu mạng chủ yếu đến từ ba khía cạnh:
Kích thước mô hình ngày càng lớn yêu cầu cụm máy chủ nhiều để giải quyết vấn đề huấn luyện.
Mạng ngày càng được sử dụng để đồng bộ hóa các tham số mô hình giữa các card đồ họa, đặt ra yêu cầu cao hơn về mật độ và dung lượng mạng.
Đào tạo mô hình lớn kéo dài hàng tháng, chi phí sự cố mạng rất cao, yêu cầu về độ ổn định tăng lên.
Đổi mới mạng chủ yếu thể hiện ở ba hướng:
Thay đổi phương tiện truyền thông: Mô-đun quang không chỉ theo đuổi tốc độ cao hơn mà còn giảm chi phí thông qua các phương pháp như LPO, LRO, quang silicon. Cáp đồng chiếm ưu thế trong việc kết nối trong tủ. Các công nghệ mới như Chiplet, Wafer-scaling đang thúc đẩy việc khám phá giới hạn kết nối dựa trên silicon.
Cạnh tranh giao thức mạng: giao thức truyền thông trong nút được liên kết với card đồ họa, như NV-LINK của Nvidia, Infinity Fabric của AMD. Giữa các nút chủ yếu là sự cạnh tranh giữa IB và Ethernet.
Thay đổi kiến trúc mạng: Kiến trúc lá và gốc có chi phí cao trong các cụm siêu lớn, kiến trúc Dragonfly, kiến trúc chỉ ray và các kiến trúc mới khác có khả năng trở thành hướng tiến hóa của các cụm siêu lớn thế hệ tiếp theo.
Lời khuyên đầu tư:
Hệ thống truyền thông các phần chính: Zhongji Xuchuang, New Yi Sheng, Tianfu Communication, Hu Dian Co.
Các khâu đổi mới trong hệ thống viễn thông: Longfly Fiber, Zhongtian Technology, Hengtong Optoelectronics, Shengke Communication.
Cảnh báo rủi ro: Nhu cầu AI không đạt kỳ vọng, quy luật mở rộng không còn hiệu lực, cạnh tranh trong ngành gia tăng.
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
7 thích
Phần thưởng
7
5
Chia sẻ
Bình luận
0/400
RugDocScientist
· 6giờ trước
Đợt sóng này hoàn toàn dựa vào card đồ họa à?
Xem bản gốcTrả lời0
LadderToolGuy
· 6giờ trước
Card đồ họa đều tăng lên điên cuồng, ai sẽ quản lý phí mạng đây?
Xem bản gốcTrả lời0
TheShibaWhisperer
· 6giờ trước
重在 tăng vị thế光模块这波~
Xem bản gốcTrả lời0
RugDocDetective
· 6giờ trước
Card đồ họa đang tăng tốc sẽ sớm va vào bức tường tốc độ mạng.
Nhu cầu mạng trong thời đại AI tăng vọt, sáng tạo truyền thông đón nhận cơ hội mới.
Mạng lưới thời đại AI: Nhu cầu đến từ đâu, đổi mới sẽ đi về đâu?
Mạng lưới là một phần quan trọng trong thời đại mô hình AI lớn. Trong thời đại mô hình lớn, chúng ta đã thấy sự gia tăng nhanh chóng của các thiết bị mạng như mô-đun quang, bộ chuyển mạch, và nhu cầu bùng nổ. Tuy nhiên, thị trường vẫn hiểu khá nông về lý do tại sao thẻ đồ họa cần phải đi kèm với nhiều mô-đun quang, cũng như tại sao truyền thông lại trở thành điểm đau của mô hình lớn. Bài viết này sẽ bắt đầu từ nguyên lý, khám phá lý do tại sao mạng lưới trở thành "vị trí trung tâm" mới trong thời đại AI, và từ những thay đổi công nghiệp mới nhất, thảo luận về sự đổi mới của mạng trong tương lai cùng với những cơ hội đầu tư đứng sau.
Nhu cầu mạng chủ yếu đến từ ba khía cạnh:
Kích thước mô hình ngày càng lớn yêu cầu cụm máy chủ nhiều để giải quyết vấn đề huấn luyện.
Mạng ngày càng được sử dụng để đồng bộ hóa các tham số mô hình giữa các card đồ họa, đặt ra yêu cầu cao hơn về mật độ và dung lượng mạng.
Đào tạo mô hình lớn kéo dài hàng tháng, chi phí sự cố mạng rất cao, yêu cầu về độ ổn định tăng lên.
Đổi mới mạng chủ yếu thể hiện ở ba hướng:
Thay đổi phương tiện truyền thông: Mô-đun quang không chỉ theo đuổi tốc độ cao hơn mà còn giảm chi phí thông qua các phương pháp như LPO, LRO, quang silicon. Cáp đồng chiếm ưu thế trong việc kết nối trong tủ. Các công nghệ mới như Chiplet, Wafer-scaling đang thúc đẩy việc khám phá giới hạn kết nối dựa trên silicon.
Cạnh tranh giao thức mạng: giao thức truyền thông trong nút được liên kết với card đồ họa, như NV-LINK của Nvidia, Infinity Fabric của AMD. Giữa các nút chủ yếu là sự cạnh tranh giữa IB và Ethernet.
Thay đổi kiến trúc mạng: Kiến trúc lá và gốc có chi phí cao trong các cụm siêu lớn, kiến trúc Dragonfly, kiến trúc chỉ ray và các kiến trúc mới khác có khả năng trở thành hướng tiến hóa của các cụm siêu lớn thế hệ tiếp theo.
Lời khuyên đầu tư:
Hệ thống truyền thông các phần chính: Zhongji Xuchuang, New Yi Sheng, Tianfu Communication, Hu Dian Co.
Các khâu đổi mới trong hệ thống viễn thông: Longfly Fiber, Zhongtian Technology, Hengtong Optoelectronics, Shengke Communication.
Cảnh báo rủi ro: Nhu cầu AI không đạt kỳ vọng, quy luật mở rộng không còn hiệu lực, cạnh tranh trong ngành gia tăng.