Обчислювальна потужність стає новою комерційною моделлю, бум великих моделей сприяє трансформації галузі

Передумовою захоплення обчислювальної потужності є те, що обчислювальна потужність стає новою бізнес-моделлю. Хвиля навчання великих моделей рано чи пізно вщухне, постачальникам послуг обчислювальної потужності потрібно заздалегідь підготуватися і вчасно коригувати напрям.

Нещодавно, дослідник, який закінчив Тяньцзіньський університет три роки тому, використав 200 графічних карт, провівши приблизно 2 місяці на навчання моделі великого масштабу в галузі метеорології з кількістю параметрів на рівні мільйонів. Виходячи з вартості використання GPU в 7,8 юанів за годину, витрати на навчання цієї моделі можуть перевищити 2 мільйони юанів. А якщо навчати універсальну велику модель, витрати можуть зрости в сотні разів.

Наразі в Китаї вже є понад 100 великих моделей з масштабом в 10 мільярдів параметрів. Однак, швидкий розвиток тренування великих моделей в галузі стикається з проблемою нестачі висококласних GPU. Високі витрати на обчислювальну потужність, відсутність обчислювальної потужності та фінансування стали найбільш безпосередніми проблемами, що стоять перед галуззю.

Недостаток висококласних графічних процесорів став визнаною проблемою в галузі. У пікові часи ціна однієї відеокарти NVIDIA A100 сягала двох-трьох десятків тисяч юанів, а місячна оренда одного сервера A100 зросла до 5-7 тисяч юанів. Навіть незважаючи на це, висока ціна не завжди гарантує можливість придбати чіпи, деякі постачальники також стикалися з випадками невиконання зобов'язань постачальниками.

Директор однієї з компаній хмарних обчислень заявив: "У нас є багато клієнтів, які хочуть високоякісних ресурсів GPU, але наразі постачання не може повністю задовольнити широкий попит на ринку."

В галузі загалом вважається, що з огляду на жорстку конкуренцію на ринку великих моделей, галузь повернеться до раціональності після бурхливого зростання, а компанії також контролюватимуть витрати та коригуватимуть стратегію відповідно до очікуваних змін.

В умовах нестачі обчислювальної потужності компанії досліджують різні методи реагування:

1. Використання даних вищої якості для підвищення ефективності навчання
2. Підвищення потужності інфраструктури, забезпечення стабільної роботи протягом тривалого часу понад тисячу калорій.
3. Оптимізація обчислювальної потужності ресурсів, підвищення використання
4. Перехід від архітектури хмарних обчислень до архітектури суперкомп'ютерів знижує витрати
5. Використання вітчизняної платформи GPU замість NVIDIA

Однак ці методи є величезними проектами для звичайних підприємств. Тому багато алгоритмічних команд обирають співпрацювати з професійними постачальниками обчислювальної потужності. Кластери GPU на рівні тисячі калорій можуть досягти ефекту масштабу, обираючи постачальників обчислювальної потужності, можна знизити граничні витрати.

З поширенням штучного інтелекту стає вкрай важливим забезпечити малим і середнім підприємствам зручний та низьковитратний доступ до обчислювальної потужності. Незалежно від того, чи йдеться про термінову потребу великих моделей в обчислювальній потужності, чи про різні проблеми, які потрібно вирішити в застосуванні обчислювальної потужності, все це свідчить про те, що обчислювальна потужність вже стала новою моделлю послуг.

Суть сервісу обчислювальної потужності полягає в реалізації єдиного виходу гетерогенних обчислювальних потужностей за допомогою нових обчислювальних технологій та їх інтеграції з такими технологіями, як хмарні обчислення, великі дані, штучний інтелект тощо. Це не тільки включає обчислювальну потужність, але й інтеграцію ресурсів, таких як зберігання, мережа та ін., у формі надання послуг через API.

У ланцюгу промисловості обчислювальної потужності, підприємства верхнього рівня надають базові ресурси, підприємства середнього рівня відповідають за виробництво та постачання обчислювальної потужності, тоді як підприємства нижнього рівня є користувачами послуг обчислювальної потужності. Чим сильніша сервісна спроможність підприємств середнього рівня, тим нижчими є бар'єри для застосувань, що сприяє розвитку обчислювальної потужності в рамках загального доступу.

Наразі основними моделями оплати за послуги обчислювальної потужності є обчислення за використанням та річна або місячна підписка. Галузь також просуває "інтеграцію обчислень і мереж", підтримуючи розподіл ресурсів між різними архітектурами, регіонами та постачальниками послуг.

З огляду на нормалізацію потреб у обчислювальній потужності для великих моделей, обчислювальні послуги швидко формують унікальний виробничий ланцюг і бізнес-модель. Хоча наразі спостерігається нестача висококласних GPU та високі витрати на обчислювальну потужність, це лише тимчасове явище. У довгостроковій перспективі обчислювальні послуги є певною тенденцією, постачальники послуг повинні заздалегідь підготуватися до змін на ринку.