Potencia computacional servicio: un nuevo modelo de negocio en la era de los grandes modelos
La demanda de potencia computacional para el entrenamiento de grandes modelos ha impulsado los servicios de potencia computacional a convertirse en un nuevo modelo de negocio emergente. Aunque actualmente hay escasez de GPUs de alta gama y los costos son altos, a largo plazo, la oferta de potencia computacional finalmente pasará de un mercado de vendedores a un mercado de compradores.
Entrenar modelos a gran escala requiere enormes recursos de potencia computacional. Tomando como ejemplo un modelo vertical con cientos de millones de parámetros, su costo de entrenamiento podría superar los 2 millones de yuanes. En el caso de un modelo general, este costo podría aumentar hasta cien veces. En la industria se considera comúnmente que sin varios miles de millones de fondos es difícil invertir de manera sostenible en el desarrollo de grandes modelos.
Ante la escasez de potencia computacional, las empresas han tomado diversas medidas para hacer frente a la situación:
Utilizar datos de alta calidad para mejorar la eficiencia del entrenamiento
Optimizar la infraestructura para lograr un funcionamiento estable de más de mil calorías.
Mejorar la capacidad de programación de la potencia computacional
Transición de la arquitectura de computación en la nube a la arquitectura de supercomputación
Utilizar plataformas nacionales en lugar de GPU de Nvidia
Para la mayoría de las empresas, elegir un proveedor de servicios de potencia computacional profesional es más ventajoso que construir un centro de datos propio. Esto ha llevado a que los servicios de potencia computacional se conviertan en un nuevo modelo de negocio emergente.
El servicio de potencia computacional se basa en una potencia computacional diversificada, conectando a través de una red de potencia computacional y saliendo de manera unificada potencia computacional heterogénea. No solo incluye potencia computacional, sino que también encapsula recursos como almacenamiento, red, entre otros, entregados en forma de API.
En la cadena de suministro de potencia computacional:
Las empresas upstream proporcionan recursos básicos de potencia computacional
Las empresas de minería son responsables de la producción y suministro de Potencia computacional
Las empresas downstream ofrecen servicios de valor agregado basados en Potencia computacional.
Actualmente, los modelos de facturación más comunes incluyen la facturación por consumo y la facturación anual o mensual. En el futuro, "la integración y fusión de la potencia computacional y la red" apoyará la programación de recursos entre arquitecturas, regiones y proveedores de servicios.
Con la normalización de la demanda de modelos grandes, los servicios de potencia computacional están desarrollándose rápidamente para convertirse en una cadena de industria y un modelo de negocio únicos. Aunque actualmente la escasez de GPU de alta gama ha provocado el fenómeno de "robo de chips", a largo plazo, los proveedores de servicios de potencia computacional deben prepararse con antelación para el regreso racional del mercado.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
15 me gusta
Recompensa
15
4
Compartir
Comentar
0/400
SillyWhale
· 07-30 08:13
Ha llegado al techo.
Ver originalesResponder0
BearMarketMonk
· 07-29 07:24
La GPU es la única verdad.
Ver originalesResponder0
RegenRestorer
· 07-29 07:17
La GPU es realmente una máquina de imprimir dinero.
Potencia computacional servicio: un nuevo océano azul y transformación industrial en la era de los grandes modelos
Potencia computacional servicio: un nuevo modelo de negocio en la era de los grandes modelos
La demanda de potencia computacional para el entrenamiento de grandes modelos ha impulsado los servicios de potencia computacional a convertirse en un nuevo modelo de negocio emergente. Aunque actualmente hay escasez de GPUs de alta gama y los costos son altos, a largo plazo, la oferta de potencia computacional finalmente pasará de un mercado de vendedores a un mercado de compradores.
Entrenar modelos a gran escala requiere enormes recursos de potencia computacional. Tomando como ejemplo un modelo vertical con cientos de millones de parámetros, su costo de entrenamiento podría superar los 2 millones de yuanes. En el caso de un modelo general, este costo podría aumentar hasta cien veces. En la industria se considera comúnmente que sin varios miles de millones de fondos es difícil invertir de manera sostenible en el desarrollo de grandes modelos.
Ante la escasez de potencia computacional, las empresas han tomado diversas medidas para hacer frente a la situación:
Para la mayoría de las empresas, elegir un proveedor de servicios de potencia computacional profesional es más ventajoso que construir un centro de datos propio. Esto ha llevado a que los servicios de potencia computacional se conviertan en un nuevo modelo de negocio emergente.
El servicio de potencia computacional se basa en una potencia computacional diversificada, conectando a través de una red de potencia computacional y saliendo de manera unificada potencia computacional heterogénea. No solo incluye potencia computacional, sino que también encapsula recursos como almacenamiento, red, entre otros, entregados en forma de API.
En la cadena de suministro de potencia computacional:
Actualmente, los modelos de facturación más comunes incluyen la facturación por consumo y la facturación anual o mensual. En el futuro, "la integración y fusión de la potencia computacional y la red" apoyará la programación de recursos entre arquitecturas, regiones y proveedores de servicios.
Con la normalización de la demanda de modelos grandes, los servicios de potencia computacional están desarrollándose rápidamente para convertirse en una cadena de industria y un modelo de negocio únicos. Aunque actualmente la escasez de GPU de alta gama ha provocado el fenómeno de "robo de chips", a largo plazo, los proveedores de servicios de potencia computacional deben prepararse con antelación para el regreso racional del mercado.