Puissance de calcul Services : un nouveau modèle commercial à l'ère des grands modèles
La demande en puissance de calcul pour l'entraînement des grands modèles a poussé les services de puissance de calcul à devenir un nouveau modèle commercial émergent. Bien que l'offre de GPU haut de gamme soit actuellement rare et coûteuse, à long terme, l'offre de puissance de calcul finira par passer d'un marché de vendeurs à un marché d'acheteurs.
L'entraînement de grands modèles à grande échelle nécessite d'importantes ressources en puissance de calcul. Prenons l'exemple d'un modèle vertical avec des centaines de millions de paramètres, dont le coût d'entraînement pourrait dépasser 2 millions de yuans. En ce qui concerne les grands modèles généraux, ce coût pourrait devoir être multiplié par cent. Il est généralement admis que sans des milliards de fonds, il est difficile de continuer à investir dans la recherche et le développement de grands modèles.
Face à la Puissance de calcul insuffisante, les entreprises ont adopté diverses mesures de réponse :
Utiliser des données de haute qualité pour améliorer l'efficacité de l'entraînement
Optimiser l'infrastructure pour un fonctionnement stable au-dessus de 1000 kilocalories.
Améliorer la capacité de gestion des ressources de puissance de calcul
Passer de l'architecture de cloud computing à l'architecture de supercalculateur
Utiliser des plateformes nationales pour remplacer les GPU Nvidia
Pour la plupart des entreprises, choisir un fournisseur de services de puissance de calcul professionnel est plus avantageux que de construire un centre de données soi-même. Cela a conduit à l'émergence des services de puissance de calcul en tant que nouveau modèle commercial.
Les services de puissance de calcul sont basés sur une puissance de calcul diversifiée, se connectant via un réseau de puissance de calcul pour fournir de manière unifiée une puissance de calcul hétérogène. Cela inclut non seulement la puissance de calcul, mais encapsule également des ressources telles que le stockage et le réseau, livrées sous forme d'API.
Dans la chaîne de l'industrie de la puissance de calcul :
Les entreprises en amont fournissent des ressources de puissance de calcul
Les entreprises intermédiaires sont responsables de la production et de l'approvisionnement en puissance de calcul.
Les entreprises en aval offrent des services à valeur ajoutée basés sur la puissance de calcul
Les modèles de facturation dominants actuellement incluent la facturation à l'utilisation et les forfaits annuels ou mensuels. À l'avenir, "l'intégration de la puissance de calcul et du réseau" supportera la gestion des ressources à travers les architectures, les régions et les fournisseurs de services.
Avec la normalisation de la demande pour les grands modèles, la Puissance de calcul des services se développe rapidement pour devenir une chaîne industrielle et un modèle commercial uniques. Bien que la pénurie actuelle de GPU haut de gamme provoque un phénomène de "razzia sur les puces", à long terme, les fournisseurs de services de Puissance de calcul doivent anticiper et se préparer à un retour rationnel du marché.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
15 J'aime
Récompense
15
4
Partager
Commentaire
0/400
SillyWhale
· 07-30 08:13
C'est monté au plafond.
Voir l'originalRépondre0
BearMarketMonk
· 07-29 07:24
La GPU est la vraie vérité.
Voir l'originalRépondre0
RegenRestorer
· 07-29 07:17
La GPU est vraiment une machine à imprimer de l'argent.
Puissance de calcul : une nouvelle mer bleue et une transformation industrielle à l'ère des grands modèles
Puissance de calcul Services : un nouveau modèle commercial à l'ère des grands modèles
La demande en puissance de calcul pour l'entraînement des grands modèles a poussé les services de puissance de calcul à devenir un nouveau modèle commercial émergent. Bien que l'offre de GPU haut de gamme soit actuellement rare et coûteuse, à long terme, l'offre de puissance de calcul finira par passer d'un marché de vendeurs à un marché d'acheteurs.
L'entraînement de grands modèles à grande échelle nécessite d'importantes ressources en puissance de calcul. Prenons l'exemple d'un modèle vertical avec des centaines de millions de paramètres, dont le coût d'entraînement pourrait dépasser 2 millions de yuans. En ce qui concerne les grands modèles généraux, ce coût pourrait devoir être multiplié par cent. Il est généralement admis que sans des milliards de fonds, il est difficile de continuer à investir dans la recherche et le développement de grands modèles.
Face à la Puissance de calcul insuffisante, les entreprises ont adopté diverses mesures de réponse :
Pour la plupart des entreprises, choisir un fournisseur de services de puissance de calcul professionnel est plus avantageux que de construire un centre de données soi-même. Cela a conduit à l'émergence des services de puissance de calcul en tant que nouveau modèle commercial.
Les services de puissance de calcul sont basés sur une puissance de calcul diversifiée, se connectant via un réseau de puissance de calcul pour fournir de manière unifiée une puissance de calcul hétérogène. Cela inclut non seulement la puissance de calcul, mais encapsule également des ressources telles que le stockage et le réseau, livrées sous forme d'API.
Dans la chaîne de l'industrie de la puissance de calcul :
Les modèles de facturation dominants actuellement incluent la facturation à l'utilisation et les forfaits annuels ou mensuels. À l'avenir, "l'intégration de la puissance de calcul et du réseau" supportera la gestion des ressources à travers les architectures, les régions et les fournisseurs de services.
Avec la normalisation de la demande pour les grands modèles, la Puissance de calcul des services se développe rapidement pour devenir une chaîne industrielle et un modèle commercial uniques. Bien que la pénurie actuelle de GPU haut de gamme provoque un phénomène de "razzia sur les puces", à long terme, les fournisseurs de services de Puissance de calcul doivent anticiper et se préparer à un retour rationnel du marché.