Puissance de calcul devient un nouveau modèle commercial La vague des grands modèles propulse la transformation de l'industrie
La condition préalable à la capture de la puissance de calcul est que la puissance de calcul devient un nouveau modèle commercial. La frénésie de l'entraînement des grands modèles finira par s'estomper, et les fournisseurs de services de puissance de calcul doivent anticiper et ajuster leur direction en temps voulu.
Récemment, un chercheur diplômé de l'Université Tsinghua depuis 3 ans a utilisé 200 cartes GPU et a passé environ 2 mois à entraîner un grand modèle dans le domaine météorologique avec un nombre de paramètres atteignant des centaines de millions. En se basant sur un coût d'utilisation des GPU de 7,8 yuans de l'heure, le coût d'entraînement de ce modèle pourrait dépasser 2 millions de yuans. Et si le modèle entraîné était un grand modèle généraliste, le coût pourrait augmenter de cent fois.
Actuellement, la Chine compte plus de 100 grands modèles avec une échelle de 10 milliards de paramètres. Cependant, l'entraînement de ces grands modèles, qui attire l'industrie, fait face à une pénurie de GPU haut de gamme. Le coût de la puissance de calcul est élevé, et le manque de puissance de calcul et de financements devient le problème le plus direct auquel l'industrie est confrontée.
La pénurie de GPU haut de gamme est devenue un problème reconnu dans l'industrie. À son apogée, le prix d'un NVIDIA A100 atteignait deux à trois cent mille yuans, et le loyer mensuel d'un serveur A100 a également grimpé à 50 000-70 000 yuans. Malgré cela, un prix élevé ne garantit pas l'achat de puces, certains fournisseurs ayant même rencontré des situations de non-respect de contrat de la part des fournisseurs.
Un cadre d'une entreprise de cloud computing a déclaré : "Nous avons de nombreux clients qui souhaitent des ressources GPU haut de gamme, mais l'offre actuelle ne peut pas totalement satisfaire la demande du marché."
Il est généralement admis dans l'industrie qu'avec la concurrence féroce sur le marché des grands modèles, le secteur reviendra à la rationalité après une période d'enthousiasme, et les entreprises contrôleront leurs coûts et ajusteront leurs stratégies en fonction des changements anticipés.
Face à la pénurie de puissance de calcul, les entreprises explorent diverses méthodes d'adaptation :
Utiliser des données de meilleure qualité pour améliorer l'efficacité de l'entraînement
Améliorer la capacité des infrastructures pour assurer un fonctionnement stable pendant une longue période à plus de mille kilowatts.
Optimiser la Puissance de calcul des ressources, améliorer le taux d'utilisation
Passer de l'architecture de cloud computing à l'architecture de supercalcul réduit les coûts
Utiliser une plateforme GPU nationale à la place de NVIDIA
Cependant, ces méthodes représentent de grands travaux pour les entreprises en général. Par conséquent, de nombreuses équipes d'algorithmes choisissent de collaborer avec des fournisseurs de puissance de calcul professionnels. Des clusters GPU de niveau kilocalorie sont nécessaires pour réaliser des économies d'échelle, et choisir un fournisseur de puissance de calcul peut réduire les coûts marginaux.
Avec la généralisation de l'application de l'intelligence artificielle, il est devenu essentiel pour les petites et moyennes entreprises d'accéder facilement et à moindre coût aux ressources de puissance de calcul. Que ce soit la demande pressante en puissance de calcul pour les grands modèles ou les divers problèmes qui doivent être résolus dans l'application de la puissance de calcul, tout cela démontre que la puissance de calcul est devenue un nouveau modèle de service.
L'essence des services de puissance de calcul est de réaliser une sortie unifiée de puissance de calcul hétérogène grâce à de nouvelles technologies de calcul, et de s'intégrer avec des technologies telles que le cloud computing, le big data, l'IA, etc. Cela inclut non seulement la puissance de calcul, mais aussi l'intégration de ressources telles que le stockage et le réseau, livrées sous forme de services via des API.
Dans la chaîne de l'industrie de la puissance de calcul, les entreprises en amont fournissent des ressources de base, les entreprises intermédiaires sont responsables de la production et de l'approvisionnement en puissance de calcul, tandis que les entreprises en aval sont les utilisateurs des services de puissance de calcul. Plus la capacité de service des entreprises intermédiaires est forte, plus le seuil d'accès pour les utilisateurs d'applications est bas, ce qui favorise le développement inclusif de la puissance de calcul.
Actuellement, la facturation à l'usage et les abonnements annuels et mensuels sont les principaux modèles de tarification des services de puissance de calcul. L'industrie promeut également l'"intégration de la puissance de calcul et du réseau", soutenant la planification des ressources à travers les architectures, les régions et les fournisseurs de services.
Avec la normalisation de la demande en haute performance de calcul des grands modèles, les services de Puissance de calcul sont en train de former rapidement une chaîne industrielle et un modèle commercial uniques. Bien que la pénurie actuelle de GPU haut de gamme et le coût élevé de la Puissance de calcul ne soient que des phénomènes temporaires, à long terme, la service de Puissance de calcul est une tendance certaine. Les fournisseurs de services doivent anticiper et se préparer aux changements du marché.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
15 J'aime
Récompense
15
8
Partager
Commentaire
0/400
MechanicalMartel
· 07-20 19:06
Il est maintenant difficile de recevoir des fonds.
Voir l'originalRépondre0
BearMarketNoodler
· 07-20 12:52
Il y a trop de gens idiots avec de l'argent, investir des centaines de millions devient un problème même pour réaliser un bénéfice basique.
Voir l'originalRépondre0
PortfolioAlert
· 07-19 12:22
Il ne l'achète pas quand c'est bon marché.
Voir l'originalRépondre0
AirdropChaser
· 07-19 04:54
L'argent brûle plus vite qu'il ne hausse.
Voir l'originalRépondre0
SellTheBounce
· 07-19 04:54
Puissance de calcul big pump est le meilleur point de shorting
Voir l'originalRépondre0
LiquidationWizard
· 07-19 04:54
Cessez de jouer, tout le monde se bat pour les GPU.
Voir l'originalRépondre0
LeekCutter
· 07-19 04:50
S'allonger, regarder le spectacle en mangeant des graines de melon, avoir de l'argent ne vaut pas mieux que d'avoir une carte.
Voir l'originalRépondre0
TopEscapeArtist
· 07-19 04:42
Cette vague de GPU suit le même schéma que le minage de cartes graphiques en 2018, j'ai profité du bas.
Nouveaux modèles commerciaux dans la vague de la puissance de calcul : pénurie et opportunités coexistantes
Puissance de calcul devient un nouveau modèle commercial La vague des grands modèles propulse la transformation de l'industrie
La condition préalable à la capture de la puissance de calcul est que la puissance de calcul devient un nouveau modèle commercial. La frénésie de l'entraînement des grands modèles finira par s'estomper, et les fournisseurs de services de puissance de calcul doivent anticiper et ajuster leur direction en temps voulu.
Récemment, un chercheur diplômé de l'Université Tsinghua depuis 3 ans a utilisé 200 cartes GPU et a passé environ 2 mois à entraîner un grand modèle dans le domaine météorologique avec un nombre de paramètres atteignant des centaines de millions. En se basant sur un coût d'utilisation des GPU de 7,8 yuans de l'heure, le coût d'entraînement de ce modèle pourrait dépasser 2 millions de yuans. Et si le modèle entraîné était un grand modèle généraliste, le coût pourrait augmenter de cent fois.
Actuellement, la Chine compte plus de 100 grands modèles avec une échelle de 10 milliards de paramètres. Cependant, l'entraînement de ces grands modèles, qui attire l'industrie, fait face à une pénurie de GPU haut de gamme. Le coût de la puissance de calcul est élevé, et le manque de puissance de calcul et de financements devient le problème le plus direct auquel l'industrie est confrontée.
La pénurie de GPU haut de gamme est devenue un problème reconnu dans l'industrie. À son apogée, le prix d'un NVIDIA A100 atteignait deux à trois cent mille yuans, et le loyer mensuel d'un serveur A100 a également grimpé à 50 000-70 000 yuans. Malgré cela, un prix élevé ne garantit pas l'achat de puces, certains fournisseurs ayant même rencontré des situations de non-respect de contrat de la part des fournisseurs.
Un cadre d'une entreprise de cloud computing a déclaré : "Nous avons de nombreux clients qui souhaitent des ressources GPU haut de gamme, mais l'offre actuelle ne peut pas totalement satisfaire la demande du marché."
Il est généralement admis dans l'industrie qu'avec la concurrence féroce sur le marché des grands modèles, le secteur reviendra à la rationalité après une période d'enthousiasme, et les entreprises contrôleront leurs coûts et ajusteront leurs stratégies en fonction des changements anticipés.
Face à la pénurie de puissance de calcul, les entreprises explorent diverses méthodes d'adaptation :
Cependant, ces méthodes représentent de grands travaux pour les entreprises en général. Par conséquent, de nombreuses équipes d'algorithmes choisissent de collaborer avec des fournisseurs de puissance de calcul professionnels. Des clusters GPU de niveau kilocalorie sont nécessaires pour réaliser des économies d'échelle, et choisir un fournisseur de puissance de calcul peut réduire les coûts marginaux.
Avec la généralisation de l'application de l'intelligence artificielle, il est devenu essentiel pour les petites et moyennes entreprises d'accéder facilement et à moindre coût aux ressources de puissance de calcul. Que ce soit la demande pressante en puissance de calcul pour les grands modèles ou les divers problèmes qui doivent être résolus dans l'application de la puissance de calcul, tout cela démontre que la puissance de calcul est devenue un nouveau modèle de service.
L'essence des services de puissance de calcul est de réaliser une sortie unifiée de puissance de calcul hétérogène grâce à de nouvelles technologies de calcul, et de s'intégrer avec des technologies telles que le cloud computing, le big data, l'IA, etc. Cela inclut non seulement la puissance de calcul, mais aussi l'intégration de ressources telles que le stockage et le réseau, livrées sous forme de services via des API.
Dans la chaîne de l'industrie de la puissance de calcul, les entreprises en amont fournissent des ressources de base, les entreprises intermédiaires sont responsables de la production et de l'approvisionnement en puissance de calcul, tandis que les entreprises en aval sont les utilisateurs des services de puissance de calcul. Plus la capacité de service des entreprises intermédiaires est forte, plus le seuil d'accès pour les utilisateurs d'applications est bas, ce qui favorise le développement inclusif de la puissance de calcul.
Actuellement, la facturation à l'usage et les abonnements annuels et mensuels sont les principaux modèles de tarification des services de puissance de calcul. L'industrie promeut également l'"intégration de la puissance de calcul et du réseau", soutenant la planification des ressources à travers les architectures, les régions et les fournisseurs de services.
Avec la normalisation de la demande en haute performance de calcul des grands modèles, les services de Puissance de calcul sont en train de former rapidement une chaîne industrielle et un modèle commercial uniques. Bien que la pénurie actuelle de GPU haut de gamme et le coût élevé de la Puissance de calcul ne soient que des phénomènes temporaires, à long terme, la service de Puissance de calcul est une tendance certaine. Les fournisseurs de services doivent anticiper et se préparer aux changements du marché.