Вычислительная мощность становится новой бизнес-моделью, а бум больших моделей способствует трансформации отрасли
Предпосылкой захвата вычислительной мощности является то, что вычислительная мощность становится новой бизнес-моделью. Волнение вокруг обучения больших моделей в конечном итоге угаснет, и провайдеры услуг вычислительной мощности должны заранее подготовиться и вовремя скорректировать направление.
Недавно исследователь, окончивший Туньхуа университет три года назад, используя 200 графических процессоров (GPU), потратил около двух месяцев на обучение крупной модели в области метеорологии с количеством параметров на уровне сотен миллионов. При расчете стоимости использования GPU в 7,8 юаня в час, стоимость обучения этой модели может превысить 2 миллиона юаней. Если бы обучалась универсальная крупная модель, стоимость могла бы увеличиться в сотни раз.
В настоящее время в Китае уже более 100 крупных моделей с масштабом в 10 миллиардов параметров. Тем не менее, массовое обучение крупных моделей в отрасли сталкивается с проблемой нехватки высокопроизводительных GPU. Высокие затраты на вычислительную мощность и отсутствие вычислительных ресурсов и финансирования становятся самыми насущными проблемами в отрасли.
Недостаток высококачественных GPU стал общепризнанной проблемой в отрасли. В пик спроса цена на одну видеокарту NVIDIA A100 достигала двух-трех сотен тысяч юаней, а ежемесячная аренда одного сервера A100 возросла до 50-70 тысяч юаней. Тем не менее, даже такая высокая цена не гарантирует получение чипов, некоторые поставщики также сталкивались с ситуациями, когда поставщики нарушали обязательства.
Некоторые высокопрофильные руководители облачных вычислений заявили: "У нас много клиентов, которые хотят высококачественные GPU-ресурсы, но в настоящее время предложение не может полностью удовлетворить широкий рыночный спрос."
В отрасли широко считается, что с интенсивной конкуренцией на рынке крупных моделей, индустрия вернется к рациональности после периода энтузиазма, и компании будут контролировать затраты и корректировать стратегию в зависимости от ожидаемых изменений.
面对 Вычислительная мощность 短缺,企业正在探索多种应对方法:
Используйте более качественные данные для повышения эффективности обучения
Повышение мощности инфраструктуры, достижение стабильной работы более 1000 калорий в течение длительного времени
Оптимизация вычислительной мощности, повышение коэффициента использования
Переход от облачной архитектуры к архитектуре суперкомпьютеров снижает затраты
Используйте отечественную платформу GPU вместо NVIDIA
Однако эти методы являются огромными проектами для обычных компаний. Поэтому многие алгоритмические команды выбирают сотрудничество с профессиональными поставщиками вычислительной мощности. Для достижения эффекта масштаба требуется кластер GPU на уровне ккал, выбор поставщика вычислительной мощности может снизить предельные затраты.
С учетом распространения искусственного интеллекта, становится жизненно важным обеспечить малым и средним предприятиям удобный и недорогой доступ к вычислительной мощности. Независимо от того, является ли это настоятельной потребностью больших моделей в вычислительной мощности или разнообразными проблемами, которые необходимо решить в приложениях вычислительной мощности, все это подчеркивает, что вычислительная мощность уже стала новой моделью обслуживания.
Суть сервиса вычислительной мощности заключается в обеспечении единого вывода гетерогенной вычислительной мощности с помощью новых вычислительных технологий и интеграции с такими технологиями, как облачные вычисления, большие данные и ИИ. Он включает не только вычислительную мощность, но и интеграцию таких ресурсов, как хранение и сеть, с доставкой услуг в форме API.
В отрасли вычислительной мощности высокие компании предоставляют базовые ресурсы, средние компании отвечают за производство и поставку вычислительной мощности, а низшие компании являются пользователями услуг вычислительной мощности. Чем выше сервисные способности средних компаний, тем ниже порог для пользователей, что способствует более широкому развитию вычислительной мощности.
В настоящее время основными моделями收费 для вычислительных услуг являются почасовая оплата и подписка на год или месяц. Отрасль также продвигает "интеграцию вычислений и сети", поддерживая распределение ресурсов между различными архитектурами, регионами и поставщиками услуг.
С ростом потребности в высокопроизводительных вычислениях больших моделей, услуги вычислительной мощности быстро формируют уникальную индустриальную цепочку и бизнес-модели. Хотя в настоящее время существует нехватка высококлассных GPU и высокие затраты на вычислительную мощность, это лишь временное явление. В долгосрочной перспективе, сервис вычислительной мощности является определенной тенденцией, и поставщикам услуг необходимо заранее подготовиться к изменениям на рынке.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
15 Лайков
Награда
15
8
Поделиться
комментарий
0/400
MechanicalMartel
· 07-20 19:06
Собрать деньги стало трудно сейчас
Посмотреть ОригиналОтветить0
BearMarketNoodler
· 07-20 12:52
Люди глупы, денег слишком много. Несколько миллиардов вложены, и даже базовая прибыль становится проблемой.
Посмотреть ОригиналОтветить0
PortfolioAlert
· 07-19 12:22
Когда дешево, он не покупает.
Посмотреть ОригиналОтветить0
AirdropChaser
· 07-19 04:54
Деньги сгорают быстрее, чем растут.
Посмотреть ОригиналОтветить0
SellTheBounce
· 07-19 04:54
Вычислительная мощность большой памп это лучшая точка для шортить
Посмотреть ОригиналОтветить0
LiquidationWizard
· 07-19 04:54
Не играй, все抢ают GPU.
Посмотреть ОригиналОтветить0
LeekCutter
· 07-19 04:50
Лежать, есть арбуз и смотреть представление. Иметь деньги не так важно, как иметь карту.
Посмотреть ОригиналОтветить0
TopEscapeArtist
· 07-19 04:42
GPU этот раунд похож на майнинг видеокарт в 2018 году, я подловил дно.
Новая бизнес-модель в эпоху вычислительной мощности: нехватка и возможности сосуществуют
Вычислительная мощность становится новой бизнес-моделью, а бум больших моделей способствует трансформации отрасли
Предпосылкой захвата вычислительной мощности является то, что вычислительная мощность становится новой бизнес-моделью. Волнение вокруг обучения больших моделей в конечном итоге угаснет, и провайдеры услуг вычислительной мощности должны заранее подготовиться и вовремя скорректировать направление.
Недавно исследователь, окончивший Туньхуа университет три года назад, используя 200 графических процессоров (GPU), потратил около двух месяцев на обучение крупной модели в области метеорологии с количеством параметров на уровне сотен миллионов. При расчете стоимости использования GPU в 7,8 юаня в час, стоимость обучения этой модели может превысить 2 миллиона юаней. Если бы обучалась универсальная крупная модель, стоимость могла бы увеличиться в сотни раз.
В настоящее время в Китае уже более 100 крупных моделей с масштабом в 10 миллиардов параметров. Тем не менее, массовое обучение крупных моделей в отрасли сталкивается с проблемой нехватки высокопроизводительных GPU. Высокие затраты на вычислительную мощность и отсутствие вычислительных ресурсов и финансирования становятся самыми насущными проблемами в отрасли.
Недостаток высококачественных GPU стал общепризнанной проблемой в отрасли. В пик спроса цена на одну видеокарту NVIDIA A100 достигала двух-трех сотен тысяч юаней, а ежемесячная аренда одного сервера A100 возросла до 50-70 тысяч юаней. Тем не менее, даже такая высокая цена не гарантирует получение чипов, некоторые поставщики также сталкивались с ситуациями, когда поставщики нарушали обязательства.
Некоторые высокопрофильные руководители облачных вычислений заявили: "У нас много клиентов, которые хотят высококачественные GPU-ресурсы, но в настоящее время предложение не может полностью удовлетворить широкий рыночный спрос."
В отрасли широко считается, что с интенсивной конкуренцией на рынке крупных моделей, индустрия вернется к рациональности после периода энтузиазма, и компании будут контролировать затраты и корректировать стратегию в зависимости от ожидаемых изменений.
面对 Вычислительная мощность 短缺,企业正在探索多种应对方法:
Однако эти методы являются огромными проектами для обычных компаний. Поэтому многие алгоритмические команды выбирают сотрудничество с профессиональными поставщиками вычислительной мощности. Для достижения эффекта масштаба требуется кластер GPU на уровне ккал, выбор поставщика вычислительной мощности может снизить предельные затраты.
С учетом распространения искусственного интеллекта, становится жизненно важным обеспечить малым и средним предприятиям удобный и недорогой доступ к вычислительной мощности. Независимо от того, является ли это настоятельной потребностью больших моделей в вычислительной мощности или разнообразными проблемами, которые необходимо решить в приложениях вычислительной мощности, все это подчеркивает, что вычислительная мощность уже стала новой моделью обслуживания.
Суть сервиса вычислительной мощности заключается в обеспечении единого вывода гетерогенной вычислительной мощности с помощью новых вычислительных технологий и интеграции с такими технологиями, как облачные вычисления, большие данные и ИИ. Он включает не только вычислительную мощность, но и интеграцию таких ресурсов, как хранение и сеть, с доставкой услуг в форме API.
В отрасли вычислительной мощности высокие компании предоставляют базовые ресурсы, средние компании отвечают за производство и поставку вычислительной мощности, а низшие компании являются пользователями услуг вычислительной мощности. Чем выше сервисные способности средних компаний, тем ниже порог для пользователей, что способствует более широкому развитию вычислительной мощности.
В настоящее время основными моделями收费 для вычислительных услуг являются почасовая оплата и подписка на год или месяц. Отрасль также продвигает "интеграцию вычислений и сети", поддерживая распределение ресурсов между различными архитектурами, регионами и поставщиками услуг.
С ростом потребности в высокопроизводительных вычислениях больших моделей, услуги вычислительной мощности быстро формируют уникальную индустриальную цепочку и бизнес-модели. Хотя в настоящее время существует нехватка высококлассных GPU и высокие затраты на вычислительную мощность, это лишь временное явление. В долгосрочной перспективе, сервис вычислительной мощности является определенной тенденцией, и поставщикам услуг необходимо заранее подготовиться к изменениям на рынке.