Potencia computacional se convierte en un nuevo modelo de negocio La ola de grandes modelos impulsa la transformación de la industria
El premisa para la captura de potencia computacional es que la potencia computacional se está convirtiendo en un nuevo modelo de negocio. La ola de entrenamiento de modelos grandes eventualmente pasará, y los proveedores de servicios de potencia computacional necesitan prepararse con anticipación y ajustar su dirección a tiempo.
Recientemente, un investigador que se graduó de la Universidad Tsinghua hace 3 años utilizó 200 tarjetas GPU y dedicó aproximadamente 2 meses para entrenar un modelo grande en el campo de la meteorología con una cantidad de parámetros que alcanza el nivel de cientos de millones. Según el costo de uso de GPU de 7.8 yuanes por hora, el costo de entrenar este modelo podría superar los 2 millones de yuanes. Y si se tratara de un modelo grande general, el costo podría aumentar hasta cien veces.
Actualmente, en China ya hay más de 100 modelos grandes con una escala de 10 mil millones de parámetros. Sin embargo, el entrenamiento de estos grandes modelos, al que la industria se ha lanzado en masa, enfrenta la difícil situación de la escasez de GPU de alta gama. El alto costo de la potencia computacional y la falta de esta, así como de financiamiento, se han convertido en los problemas más directos que enfrenta la industria.
La escasez de GPUs de alta gama se ha convertido en un problema reconocido en la industria. En su apogeo, el precio de una NVIDIA A100 alcanzó entre dos y trescientos mil yuanes, y el alquiler mensual de un servidor A100 también subió a entre 50,000 y 70,000 yuanes. A pesar de esto, el alto precio no siempre garantiza la compra de chips, y algunos proveedores incluso han enfrentado situaciones de incumplimiento por parte de los suministradores.
Un ejecutivo de una empresa de computación en la nube declaró: "Tenemos muchos clientes que desean recursos de GPU de alta gama, pero la oferta actual no puede satisfacer completamente la amplia demanda del mercado."
Se considera ampliamente en la industria que, con la intensa competencia en el mercado de modelos grandes, el sector regresará a la racionalidad desde la euforia, y las empresas controlarán costos y ajustarán estrategias según los cambios esperados.
Ante la escasez de potencia computacional, las empresas están explorando diversas formas de respuesta:
Usar datos de mayor calidad para mejorar la eficiencia del entrenamiento
Mejorar la capacidad de infraestructura para lograr un funcionamiento estable durante un largo período de tiempo por encima de mil kilocalorías.
Optimizar la Potencia computacional y aumentar la tasa de utilización
Pasar de una arquitectura de computación en la nube a una arquitectura de supercomputación reduce costos
Usar plataformas de GPU nacionales en lugar de Nvidia
Sin embargo, estos métodos son grandes proyectos para las empresas en general. Por lo tanto, muchos equipos de algoritmos eligen colaborar con proveedores de servicios de potencia computacional. Solo los clústeres de GPU de nivel kilocaloría pueden lograr economías de escala, y elegir un proveedor de potencia computacional puede reducir el costo marginal.
Con la proliferación de la aplicación de la inteligencia artificial, se vuelve crucial que las pequeñas y medianas empresas puedan utilizar recursos de potencia computacional de manera conveniente y a bajo costo. Ya sea la urgente demanda de potencia computacional por parte de grandes modelos, o los diversos problemas que necesitan ser resueltos en la aplicación de la potencia computacional, todo esto refleja que la potencia computacional se ha convertido en un nuevo modelo de servicio.
La esencia del servicio de potencia computacional es lograr una salida unificada de potencia computacional heterogénea a través de nuevas tecnologías de cálculo, y fusionarse con tecnologías como la computación en la nube, grandes datos, IA, entre otras. No solo incluye potencia computacional, sino también la integración de recursos como almacenamiento y redes, que se entregan en forma de servicios a través de API.
En la cadena de la industria de la potencia computacional, las empresas upstream proporcionan recursos básicos, las empresas midstream son responsables de la producción y suministro de potencia computacional, mientras que las empresas downstream son los usuarios de los servicios de potencia computacional. Cuanto más fuerte sea la capacidad de servicio de las empresas midstream, menor será la barrera para las aplicaciones, lo que favorecerá el desarrollo inclusivo de la potencia computacional.
Actualmente, la facturación por uso y los paquetes anuales y mensuales son los principales modelos de cobro por servicios de Potencia computacional. La industria también está promoviendo la "integración y fusión de redes y potencia computacional", apoyando la programación de recursos a través de arquitecturas, regiones y proveedores de servicios.
Con la normalización de la demanda de computación de alto rendimiento para modelos grandes, los servicios de potencia computacional están formando rápidamente una cadena de industria y un modelo de negocio únicos. Aunque actualmente hay escasez de GPU de alta gama y los costos de potencia computacional son altos, esto es solo un fenómeno temporal. A largo plazo, la servitización de la potencia computacional es una tendencia segura, y los proveedores de servicios necesitan prepararse con anticipación para los cambios en el mercado.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
15 me gusta
Recompensa
15
8
Compartir
Comentar
0/400
MechanicalMartel
· 07-20 19:06
Ahora es difícil recoger dinero.
Ver originalesResponder0
BearMarketNoodler
· 07-20 12:52
Hay demasiadas personas ingenuas con dinero, invertir cientos de millones se convierte en un problema incluso para obtener ganancias básicas.
Ver originalesResponder0
PortfolioAlert
· 07-19 12:22
No compra cuando está barato
Ver originalesResponder0
AirdropChaser
· 07-19 04:54
El dinero se quema más rápido de lo que sube.
Ver originalesResponder0
SellTheBounce
· 07-19 04:54
La Gran aumento de la potencia computacional es el mejor punto para hacer shorting.
Ver originalesResponder0
LiquidationWizard
· 07-19 04:54
Deja de jugar, todos están acaparando GPUs.
Ver originalesResponder0
LeekCutter
· 07-19 04:50
Acostado, comiendo sandías y viendo la obra. Tener dinero no es tan bueno como tener una tarjeta.
Ver originalesResponder0
TopEscapeArtist
· 07-19 04:42
GPU esta vez sigue el mismo patrón que la minería de tarjetas gráficas en 2018, compré en el fondo.
Nuevos modelos de negocio en la ola de potencia computacional: escasez y oportunidades coexistentes
Potencia computacional se convierte en un nuevo modelo de negocio La ola de grandes modelos impulsa la transformación de la industria
El premisa para la captura de potencia computacional es que la potencia computacional se está convirtiendo en un nuevo modelo de negocio. La ola de entrenamiento de modelos grandes eventualmente pasará, y los proveedores de servicios de potencia computacional necesitan prepararse con anticipación y ajustar su dirección a tiempo.
Recientemente, un investigador que se graduó de la Universidad Tsinghua hace 3 años utilizó 200 tarjetas GPU y dedicó aproximadamente 2 meses para entrenar un modelo grande en el campo de la meteorología con una cantidad de parámetros que alcanza el nivel de cientos de millones. Según el costo de uso de GPU de 7.8 yuanes por hora, el costo de entrenar este modelo podría superar los 2 millones de yuanes. Y si se tratara de un modelo grande general, el costo podría aumentar hasta cien veces.
Actualmente, en China ya hay más de 100 modelos grandes con una escala de 10 mil millones de parámetros. Sin embargo, el entrenamiento de estos grandes modelos, al que la industria se ha lanzado en masa, enfrenta la difícil situación de la escasez de GPU de alta gama. El alto costo de la potencia computacional y la falta de esta, así como de financiamiento, se han convertido en los problemas más directos que enfrenta la industria.
La escasez de GPUs de alta gama se ha convertido en un problema reconocido en la industria. En su apogeo, el precio de una NVIDIA A100 alcanzó entre dos y trescientos mil yuanes, y el alquiler mensual de un servidor A100 también subió a entre 50,000 y 70,000 yuanes. A pesar de esto, el alto precio no siempre garantiza la compra de chips, y algunos proveedores incluso han enfrentado situaciones de incumplimiento por parte de los suministradores.
Un ejecutivo de una empresa de computación en la nube declaró: "Tenemos muchos clientes que desean recursos de GPU de alta gama, pero la oferta actual no puede satisfacer completamente la amplia demanda del mercado."
Se considera ampliamente en la industria que, con la intensa competencia en el mercado de modelos grandes, el sector regresará a la racionalidad desde la euforia, y las empresas controlarán costos y ajustarán estrategias según los cambios esperados.
Ante la escasez de potencia computacional, las empresas están explorando diversas formas de respuesta:
Sin embargo, estos métodos son grandes proyectos para las empresas en general. Por lo tanto, muchos equipos de algoritmos eligen colaborar con proveedores de servicios de potencia computacional. Solo los clústeres de GPU de nivel kilocaloría pueden lograr economías de escala, y elegir un proveedor de potencia computacional puede reducir el costo marginal.
Con la proliferación de la aplicación de la inteligencia artificial, se vuelve crucial que las pequeñas y medianas empresas puedan utilizar recursos de potencia computacional de manera conveniente y a bajo costo. Ya sea la urgente demanda de potencia computacional por parte de grandes modelos, o los diversos problemas que necesitan ser resueltos en la aplicación de la potencia computacional, todo esto refleja que la potencia computacional se ha convertido en un nuevo modelo de servicio.
La esencia del servicio de potencia computacional es lograr una salida unificada de potencia computacional heterogénea a través de nuevas tecnologías de cálculo, y fusionarse con tecnologías como la computación en la nube, grandes datos, IA, entre otras. No solo incluye potencia computacional, sino también la integración de recursos como almacenamiento y redes, que se entregan en forma de servicios a través de API.
En la cadena de la industria de la potencia computacional, las empresas upstream proporcionan recursos básicos, las empresas midstream son responsables de la producción y suministro de potencia computacional, mientras que las empresas downstream son los usuarios de los servicios de potencia computacional. Cuanto más fuerte sea la capacidad de servicio de las empresas midstream, menor será la barrera para las aplicaciones, lo que favorecerá el desarrollo inclusivo de la potencia computacional.
Actualmente, la facturación por uso y los paquetes anuales y mensuales son los principales modelos de cobro por servicios de Potencia computacional. La industria también está promoviendo la "integración y fusión de redes y potencia computacional", apoyando la programación de recursos a través de arquitecturas, regiones y proveedores de servicios.
Con la normalización de la demanda de computación de alto rendimiento para modelos grandes, los servicios de potencia computacional están formando rápidamente una cadena de industria y un modelo de negocio únicos. Aunque actualmente hay escasez de GPU de alta gama y los costos de potencia computacional son altos, esto es solo un fenómeno temporal. A largo plazo, la servitización de la potencia computacional es una tendencia segura, y los proveedores de servicios necesitan prepararse con anticipación para los cambios en el mercado.