Dari model besar "menyuling" ke mode daya komputasi baru
Meski ada gelombang besar dalam pelatihan model besar, kekurangan GPU kelas atas dan tingginya biaya daya komputasi telah menjadi tantangan dalam industri. Perusahaan-perusahaan mencari cara inovatif untuk menghadapi tantangan ini, sementara layanan daya komputasi juga semakin menjadi model bisnis baru.
Melatih model AI skala besar membutuhkan dukungan Daya Komputasi yang sangat besar. Sebagai contoh, untuk model cuaca besar tertentu, hanya dengan menggunakan 200 kartu GPU selama dua bulan pelatihan, biayanya bisa melebihi 2 juta yuan. Sedangkan untuk model besar umum, biaya pelatihannya bisa mencapai puluhan miliar yuan. Hal ini membuat banyak perusahaan kecil dan menengah sulit untuk menanggung.
Menghadapi situasi di mana kartu GPU kelas atas sulit didapat, perusahaan telah mengambil berbagai strategi untuk menghadapinya:
Meningkatkan kualitas data, meningkatkan efisiensi pelatihan
Mengoptimalkan infrastruktur untuk mencapai operasi stabil dari kluster skala besar
Meningkatkan Daya Komputasi sumber daya penjadwalan, meningkatkan pemanfaatan
Menggunakan arsitektur superkomputer sebagai pengganti arsitektur komputasi awan
Menggunakan platform GPU lokal sebagai pengganti produk Nvidia
Sementara itu, layanan Daya Komputasi sedang membentuk rantai industri dan model bisnis baru. Hulu menyediakan sumber daya Daya Komputasi dasar, tengah bertanggung jawab atas produksi dan penjadwalan Daya Komputasi, sementara hilir adalah pengguna industri. Penyedia layanan cloud dan penyedia layanan Daya Komputasi profesional sedang menjadi peran penting di sektor tengah.
Layanan Daya Komputasi terutama mengadopsi dua model yaitu penagihan berdasarkan penggunaan dan paket tahunan/bulanan. Pengguna dapat memilih berbagai bentuk seperti instansi GPU atau platform MaaS. Di masa depan, akan ada kemajuan "integrasi Daya Komputasi dan jaringan", untuk mewujudkan penjadwalan yang fleksibel lintas arsitektur dan lintas wilayah.
Meskipun industri saat ini sangat antusias merebut sumber daya GPU kelas atas, namun dalam jangka panjang, layanan daya komputasi adalah arah yang tidak terelakkan. Penyedia layanan daya komputasi perlu bersiap-siap dan mempersiapkan diri untuk transisi setelah pasar kembali ke rasionalitas.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
10 Suka
Hadiah
10
5
Bagikan
Komentar
0/400
PoetryOnChain
· 16jam yang lalu
Biaya alkimia sebanyak ini, pantas saja itu adalah seni ilahi.
Lihat AsliBalas0
ForeverBuyingDips
· 17jam yang lalu
Kartu miner semuanya direbut orang-orang untuk digunakan.
Lihat AsliBalas0
LootboxPhobia
· 17jam yang lalu
200w biaya pelatihan Dianggap Bodoh lokasi
Lihat AsliBalas0
OnchainDetective
· 17jam yang lalu
Daya Komputasi membakar uang jebakan yang jelas, data seluruhnya on-chain dapat dilacak.
Lihat AsliBalas0
StablecoinGuardian
· 17jam yang lalu
Jangan bermain jika tidak mampu. Jika tidak mampu membeli kartu grafis, jangan berharap bisa melakukan alkimia.
Pelatihan model besar memasuki tahap baru, Daya Komputasi sebagai layanan menjadi tren masa depan
Dari model besar "menyuling" ke mode daya komputasi baru
Meski ada gelombang besar dalam pelatihan model besar, kekurangan GPU kelas atas dan tingginya biaya daya komputasi telah menjadi tantangan dalam industri. Perusahaan-perusahaan mencari cara inovatif untuk menghadapi tantangan ini, sementara layanan daya komputasi juga semakin menjadi model bisnis baru.
Melatih model AI skala besar membutuhkan dukungan Daya Komputasi yang sangat besar. Sebagai contoh, untuk model cuaca besar tertentu, hanya dengan menggunakan 200 kartu GPU selama dua bulan pelatihan, biayanya bisa melebihi 2 juta yuan. Sedangkan untuk model besar umum, biaya pelatihannya bisa mencapai puluhan miliar yuan. Hal ini membuat banyak perusahaan kecil dan menengah sulit untuk menanggung.
Menghadapi situasi di mana kartu GPU kelas atas sulit didapat, perusahaan telah mengambil berbagai strategi untuk menghadapinya:
Sementara itu, layanan Daya Komputasi sedang membentuk rantai industri dan model bisnis baru. Hulu menyediakan sumber daya Daya Komputasi dasar, tengah bertanggung jawab atas produksi dan penjadwalan Daya Komputasi, sementara hilir adalah pengguna industri. Penyedia layanan cloud dan penyedia layanan Daya Komputasi profesional sedang menjadi peran penting di sektor tengah.
Layanan Daya Komputasi terutama mengadopsi dua model yaitu penagihan berdasarkan penggunaan dan paket tahunan/bulanan. Pengguna dapat memilih berbagai bentuk seperti instansi GPU atau platform MaaS. Di masa depan, akan ada kemajuan "integrasi Daya Komputasi dan jaringan", untuk mewujudkan penjadwalan yang fleksibel lintas arsitektur dan lintas wilayah.
Meskipun industri saat ini sangat antusias merebut sumber daya GPU kelas atas, namun dalam jangka panjang, layanan daya komputasi adalah arah yang tidak terelakkan. Penyedia layanan daya komputasi perlu bersiap-siap dan mempersiapkan diri untuk transisi setelah pasar kembali ke rasionalitas.