Bilgi İşlem Gücü Yeni Bir Ticaret Modeli Haline Geliyor Büyük Model Heyecanı Sektör Dönüşümünü Destekliyor

Güç almak için ön koşul, bilgi işlem gücünün yeni bir iş modeli haline gelmesidir. Büyük model eğitimindeki heyecan nihayetinde sona erecek, bilgi işlem gücü hizmeti sağlayıcıları ise tedbir almalı ve yönlerini zamanında ayarlamalıdır.

Son zamanlarda, Tsinghua Üniversitesi'nden 3 yıl önce mezun olan bir araştırmacı, 200 GPU kartı kullanarak, yaklaşık 2 aylık bir süre içinde, milyar parametreli bir meteoroloji alanı büyük modeli eğitti. Saatte 7,8 TL'lik GPU kullanım ücreti hesaplandığında, bu modelin eğitim maliyeti 2 milyon TL'yi geçebilir. Eğer eğitilen model genel bir büyük model olsaydı, maliyet yüz kat artabilirdi.

Şu anda Çin'de 100'den fazla 10 milyar parametre ölçeğinde büyük model bulunmaktadır. Ancak, sektörde büyük model eğitimine olan talep, yüksek kaliteli GPU eksikliği ile karşı karşıya kalmaktadır. Bilgi İşlem Gücü maliyetleri yüksek ve bilgi işlem ile finansman eksikliği sektörün önündeki en doğrudan sorun haline gelmiştir.

Yüksek kaliteli GPU'ların kıtlığı, sektör tarafından kabul edilen bir sorun haline geldi. Zirve döneminde, bir NVIDIA A100'ün fiyatı iki üç yüz bin liraya kadar yükseldi, tek bir A100 sunucusunun aylık kiralama ücreti de 5-7 bin liraya çıktı. Yine de, yüksek fiyatlar bile çipi almak için yeterli olmayabiliyor; bazı tedarikçiler, tedarikçi taahhütlerinin ihlali ile karşılaştı.

Bir bulut bilişim şirketinin yöneticisi şunları söyledi: "Birçok müşterimiz yüksek kaliteli GPU kaynakları istiyor, ancak mevcut tedarik geniş pazar talebini tamamen karşılayamıyor."

Sektörde genel olarak, büyük model pazarındaki yoğun rekabetle birlikte, sektörün coşku yerine rasyonelliğe döneceği, şirketlerin de beklenen değişikliklere göre maliyetleri kontrol edip stratejilerini ayarlayacağı düşünülmektedir.

Karşı karşıya kaldıkları bilgi işlem gücü kıtlığı nedeniyle, şirketler çeşitli yanıt yöntemlerini keşfediyorlar:

1. Daha yüksek kaliteli veriler kullanarak eğitim verimliliğini artırın
2. Altyapı kapasitesini artırmak, 1000 Kcal'dan fazla stabil uzun süreli çalışma sağlamak
3. Bilgi İşlem Gücü kaynaklarının dağıtımını optimize et, verimliliği artır.
4. Bulut bilişim mimarisinden süper bilgisayar mimarisine geçiş maliyetleri düşürür.
5. Yerli GPU platformlarını Nvidia yerine kullanmak

Ancak, bu yöntemler genel işletmeler için büyük projelerdir. Bu nedenle, birçok algoritma ekibi profesyonel Bilgi İşlem Gücü hizmet sağlayıcılarıyla işbirliği yapmayı tercih etmektedir. Kalori seviyesindeki GPU kümeleri ölçek etkisini gerçekleştirebilir, Bilgi İşlem Gücü hizmet sağlayıcılarını seçmek marjinal maliyetleri düşürebilir.

Yapay zekanın yaygınlaşması ile, KOBİ'lerin bilgi işlem gücünü kolay ve düşük maliyetle kullanabilmesi son derece önemlidir. İster büyük modellerin bilgi işlem gücüne olan acil ihtiyacı, ister bilgi işlem gücü uygulamalarında çözülmesi gereken çeşitli sorunlar olsun, hepsi bilgi işlem gücünün yeni bir hizmet modeli haline geldiğini göstermektedir.

Bilgi İşlem Gücü hizmetinin özü, yeni hesaplama teknolojileri aracılığıyla heterojen bilgi işlem gücünün birleştirilmiş çıktısını sağlamak ve bulut bilişim, büyük veri, AI gibi teknolojilerle entegrasyonudur. Bu sadece bilgi işlem gücünü değil, aynı zamanda depolama, ağ gibi kaynakların entegrasyonunu da içerir ve hizmetler API gibi biçimlerde sunulur.

Güç işlem endüstri zincirinde, üst akış şirketleri temel kaynakları sağlar, orta akış şirketleri güç üretimi ve tedarikinden sorumludur, alt akış şirketleri ise güç hizmetlerinin kullanıcılarıdır. Orta akış şirketlerinin hizmet yeteneği ne kadar güçlü olursa, uygulama tarafı için gereken şartlar o kadar düşük olur ve güç işlem gücünün yaygın gelişimine o kadar faydalı olur.

Şu anda, kullanım başına ücretlendirme ve yıllık/aylık abonelik, bilgi işlem gücü hizmetinin ana ücretlendirme modlarıdır. Sektör ayrıca "hesaplama ve ağın entegre birleşimini" teşvik etmekte, farklı mimari, coğrafi ve servis sağlayıcılar arasında kaynak planlamasını desteklemektedir.

Büyük model yüksek performans hesaplama gereksinimlerinin normalleşmesiyle birlikte, bilgi işlem gücü hizmetleri hızla benzersiz bir endüstri zinciri ve iş modeli oluşturmaktadır. Mevcut yüksek kaliteli GPU kıtlığı ve bilgi işlem gücü maliyetinin yüksek olması geçici bir durumdur. Uzun vadede, bilgi işlem gücü hizmetleşmesi kesin bir trenddir, hizmet sağlayıcılar şimdiden hazırlık yapmalı ve piyasa değişikliklerine hazır olmalıdır.