Daya Komputasi Layanan: Model Bisnis Baru di Era Model Besar
Pelatihan model besar meningkatkan permintaan akan Daya Komputasi, mendorong layanan Daya Komputasi menjadi model bisnis yang sedang berkembang. Meskipun saat ini terjadi kekurangan GPU kelas atas dan biaya yang tinggi, dalam jangka panjang, pasokan Daya Komputasi akan beralih dari pasar penjual ke pasar pembeli.
Melatih model skala besar memerlukan sumber daya daya komputasi yang besar. Sebagai contoh, model besar vertikal dengan ratusan juta parameter dapat memiliki biaya pelatihan yang melebihi 2 juta yuan. Sementara untuk model besar umum, biaya ini mungkin perlu meningkat seratus kali lipat. Di industri ini, umumnya diyakini bahwa tanpa investasi miliaran yuan, sulit untuk terus berinvestasi dalam penelitian dan pengembangan model besar.
Menghadapi Daya Komputasi yang pendek, perusahaan mengambil berbagai langkah untuk menghadapinya:
Menggunakan data berkualitas tinggi untuk meningkatkan efisiensi pelatihan
Mengoptimalkan infrastruktur, mencapai operasi stabil di atas seribu kalori
Meningkatkan Daya Komputasi sumber daya penjadwalan
Beralih dari arsitektur komputasi awan ke arsitektur superkomputer
Menggunakan platform domestik sebagai pengganti GPU Nvidia
Bagi sebagian besar perusahaan, memilih penyedia layanan daya komputasi profesional lebih menguntungkan daripada membangun pusat data sendiri. Hal ini mendorong layanan daya komputasi menjadi model bisnis yang baru muncul.
Daya Komputasi layanan didasarkan pada daya komputasi yang beragam, terhubung melalui jaringan daya komputasi, dan menghasilkan daya komputasi heterogen secara terpusat. Ini tidak hanya mencakup daya komputasi, tetapi juga mengemas penyimpanan, jaringan, dan sumber daya lainnya, diserahkan dalam bentuk API dan lainnya.
Dalam rantai industri daya komputasi:
Perusahaan hulu menyediakan sumber daya Daya Komputasi dasar
Perusahaan menengah bertanggung jawab atas Daya Komputasi produksi dan pasokan
Perusahaan hilir menyediakan layanan nilai tambah berdasarkan Daya Komputasi.
Saat ini, model penagihan utama termasuk penagihan berdasarkan penggunaan dan paket tahunan/bulanan. Di masa depan, "integrasi dan penggabungan komputasi jaringan" akan mendukung penjadwalan sumber daya lintas arsitektur, lintas wilayah, dan lintas penyedia layanan.
Seiring dengan normalisasi permintaan model besar, Daya Komputasi layanan sedang berkembang pesat menjadi rantai industri dan model bisnis yang unik. Meskipun saat ini kekurangan GPU high-end menyebabkan fenomena "perebutan chip", dalam jangka panjang, penyedia Daya Komputasi perlu bersiap menghadapi kemungkinan dan mempersiapkan diri untuk kembalinya pasar yang rasional.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Daya Komputasi layanan: Laut Biru Baru dan Transformasi Industri di Era Model Besar
Daya Komputasi Layanan: Model Bisnis Baru di Era Model Besar
Pelatihan model besar meningkatkan permintaan akan Daya Komputasi, mendorong layanan Daya Komputasi menjadi model bisnis yang sedang berkembang. Meskipun saat ini terjadi kekurangan GPU kelas atas dan biaya yang tinggi, dalam jangka panjang, pasokan Daya Komputasi akan beralih dari pasar penjual ke pasar pembeli.
Melatih model skala besar memerlukan sumber daya daya komputasi yang besar. Sebagai contoh, model besar vertikal dengan ratusan juta parameter dapat memiliki biaya pelatihan yang melebihi 2 juta yuan. Sementara untuk model besar umum, biaya ini mungkin perlu meningkat seratus kali lipat. Di industri ini, umumnya diyakini bahwa tanpa investasi miliaran yuan, sulit untuk terus berinvestasi dalam penelitian dan pengembangan model besar.
Menghadapi Daya Komputasi yang pendek, perusahaan mengambil berbagai langkah untuk menghadapinya:
Bagi sebagian besar perusahaan, memilih penyedia layanan daya komputasi profesional lebih menguntungkan daripada membangun pusat data sendiri. Hal ini mendorong layanan daya komputasi menjadi model bisnis yang baru muncul.
Daya Komputasi layanan didasarkan pada daya komputasi yang beragam, terhubung melalui jaringan daya komputasi, dan menghasilkan daya komputasi heterogen secara terpusat. Ini tidak hanya mencakup daya komputasi, tetapi juga mengemas penyimpanan, jaringan, dan sumber daya lainnya, diserahkan dalam bentuk API dan lainnya.
Dalam rantai industri daya komputasi:
Saat ini, model penagihan utama termasuk penagihan berdasarkan penggunaan dan paket tahunan/bulanan. Di masa depan, "integrasi dan penggabungan komputasi jaringan" akan mendukung penjadwalan sumber daya lintas arsitektur, lintas wilayah, dan lintas penyedia layanan.
Seiring dengan normalisasi permintaan model besar, Daya Komputasi layanan sedang berkembang pesat menjadi rantai industri dan model bisnis yang unik. Meskipun saat ini kekurangan GPU high-end menyebabkan fenomena "perebutan chip", dalam jangka panjang, penyedia Daya Komputasi perlu bersiap menghadapi kemungkinan dan mempersiapkan diri untuk kembalinya pasar yang rasional.