Từ "Luyện đan" của mô hình lớn đến Khả năng tính toán mô hình mới
Mặc dù cơn sốt huấn luyện mô hình lớn đang diễn ra, nhưng sự thiếu hụt GPU cao cấp và chi phí khả năng tính toán cao đã trở thành vấn đề khó khăn cho ngành. Các doanh nghiệp đang tìm kiếm các phương pháp đổi mới để ứng phó với thách thức, trong khi dịch vụ khả năng tính toán cũng đang trở thành một mô hình kinh doanh mới.
Việc huấn luyện các mô hình AI quy mô lớn cần sự hỗ trợ của khả năng tính toán khổng lồ. Lấy một mô hình khí tượng lớn làm ví dụ, chỉ cần sử dụng 200 thẻ GPU trong hai tháng huấn luyện, chi phí có thể vượt quá 2 triệu nhân dân tệ. Đối với các mô hình lớn tổng quát, chi phí huấn luyện có thể lên tới hàng trăm triệu nhân dân tệ. Điều này khiến nhiều doanh nghiệp vừa và nhỏ khó có thể chịu đựng.
Đối mặt với tình trạng khan hiếm card GPU cao cấp, các doanh nghiệp đã áp dụng nhiều chiến lược ứng phó khác nhau:
Nâng cao chất lượng dữ liệu, cải thiện hiệu suất huấn luyện
Tối ưu hóa hạ tầng, thực hiện hoạt động ổn định của cụm quy mô lớn
Cải thiện khả năng tính toán tài nguyên, nâng cao tỷ lệ sử dụng
Áp dụng kiến trúc siêu máy tính thay thế cho kiến trúc điện toán đám mây
Sử dụng nền tảng GPU nội địa thay thế sản phẩm của NVIDIA
Trong khi đó, dịch vụ khả năng tính toán đang hình thành các chuỗi ngành và mô hình kinh doanh mới. Phía thượng nguồn cung cấp tài nguyên khả năng tính toán cơ bản, phía trung nguồn chịu trách nhiệm sản xuất và điều phối khả năng tính toán, phía hạ nguồn là các người dùng trong ngành. Các nhà cung cấp dịch vụ đám mây và các nhà cung cấp dịch vụ khả năng tính toán chuyên nghiệp đang trở thành những vai trò trung nguồn quan trọng.
Khả năng tính toán dịch vụ chủ yếu áp dụng hai mô hình tính phí theo lượng và theo năm hoặc tháng. Người dùng có thể chọn các hình thức khác nhau như instance GPU hoặc nền tảng MaaS. Trong tương lai, sẽ thúc đẩy "tích hợp khả năng tính toán và mạng", đạt được việc điều phối linh hoạt giữa các kiến trúc và khu vực khác nhau.
Mặc dù hiện tại ngành công nghiệp đang rất háo hức trong việc giành giật tài nguyên GPU cao cấp, nhưng về lâu dài, việc dịch vụ hóa khả năng tính toán là xu hướng không thể tránh khỏi. Các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị sẵn sàng cho sự chuyển mình sau khi thị trường trở lại với lý trí.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
10 thích
Phần thưởng
10
5
Chia sẻ
Bình luận
0/400
PoetryOnChain
· 17giờ trước
Phí luyện đan nhiều như vậy, không hổ danh là tiên thuật.
Xem bản gốcTrả lời0
ForeverBuyingDips
· 17giờ trước
Thẻ khai thác đều được mọi người tranh nhau sử dụng.
Xem bản gốcTrả lời0
LootboxPhobia
· 17giờ trước
200w phí đào tạo Được chơi cho Suckers
Xem bản gốcTrả lời0
OnchainDetective
· 17giờ trước
Khả năng tính toán đốt tiền bẫy rất rõ ràng, dữ liệu toàn bộ on-chain có thể truy xuất.
Xem bản gốcTrả lời0
StablecoinGuardian
· 17giờ trước
Không chơi được thì đừng chơi, không mua được card đồ họa mà còn muốn luyện đan.
Đào tạo mô hình lớn bước vào giai đoạn mới, Khả năng tính toán dịch vụ trở thành xu hướng tương lai.
Từ "Luyện đan" của mô hình lớn đến Khả năng tính toán mô hình mới
Mặc dù cơn sốt huấn luyện mô hình lớn đang diễn ra, nhưng sự thiếu hụt GPU cao cấp và chi phí khả năng tính toán cao đã trở thành vấn đề khó khăn cho ngành. Các doanh nghiệp đang tìm kiếm các phương pháp đổi mới để ứng phó với thách thức, trong khi dịch vụ khả năng tính toán cũng đang trở thành một mô hình kinh doanh mới.
Việc huấn luyện các mô hình AI quy mô lớn cần sự hỗ trợ của khả năng tính toán khổng lồ. Lấy một mô hình khí tượng lớn làm ví dụ, chỉ cần sử dụng 200 thẻ GPU trong hai tháng huấn luyện, chi phí có thể vượt quá 2 triệu nhân dân tệ. Đối với các mô hình lớn tổng quát, chi phí huấn luyện có thể lên tới hàng trăm triệu nhân dân tệ. Điều này khiến nhiều doanh nghiệp vừa và nhỏ khó có thể chịu đựng.
Đối mặt với tình trạng khan hiếm card GPU cao cấp, các doanh nghiệp đã áp dụng nhiều chiến lược ứng phó khác nhau:
Trong khi đó, dịch vụ khả năng tính toán đang hình thành các chuỗi ngành và mô hình kinh doanh mới. Phía thượng nguồn cung cấp tài nguyên khả năng tính toán cơ bản, phía trung nguồn chịu trách nhiệm sản xuất và điều phối khả năng tính toán, phía hạ nguồn là các người dùng trong ngành. Các nhà cung cấp dịch vụ đám mây và các nhà cung cấp dịch vụ khả năng tính toán chuyên nghiệp đang trở thành những vai trò trung nguồn quan trọng.
Khả năng tính toán dịch vụ chủ yếu áp dụng hai mô hình tính phí theo lượng và theo năm hoặc tháng. Người dùng có thể chọn các hình thức khác nhau như instance GPU hoặc nền tảng MaaS. Trong tương lai, sẽ thúc đẩy "tích hợp khả năng tính toán và mạng", đạt được việc điều phối linh hoạt giữa các kiến trúc và khu vực khác nhau.
Mặc dù hiện tại ngành công nghiệp đang rất háo hức trong việc giành giật tài nguyên GPU cao cấp, nhưng về lâu dài, việc dịch vụ hóa khả năng tính toán là xu hướng không thể tránh khỏi. Các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị sẵn sàng cho sự chuyển mình sau khi thị trường trở lại với lý trí.