Обучение больших моделей вступает в новую фазу, сервисы вычислительной мощности становятся будущей тенденцией

robot
Генерация тезисов в процессе

От больших моделей "炼丹" до новой модели вычислительной мощности

Хотя бум обучения больших моделей процветает, нехватка высококлассных GPU и высокие затраты на вычислительную мощность стали серьезными проблемами для отрасли. Компании стремятся найти инновационные решения для преодоления вызовов, в то время как услуги вычислительной мощности становятся новой бизнес-моделью.

Обучение крупных AI-моделей требует огромной вычислительной мощности. Например, для обучения одной метеорологической модели с использованием всего 200 графических процессоров в течение двух месяцев, стоимость может превысить 2 миллиона юаней. А для универсальных моделей стоимость обучения может достигать десятков миллионов юаней. Это делает обучение труднодоступным для многих малых и средних предприятий.

В условиях нехватки высококачественных графических процессоров компании приняли различные стратегии реагирования:

  1. Повышение качества данных, увеличение эффективности обучения
  2. Оптимизация инфраструктуры для обеспечения стабильной работы крупномасштабных кластеров
  3. Улучшение распределения вычислительной мощности, повышение коэффициента использования
  4. Использование суперкомпьютерной архитектуры вместо облачной архитектуры
  5. Использование отечественной платформы GPU вместо продуктов Nvidia

В то же время, вычислительная мощность услуги формирует новую промышленную цепочку и бизнес-модели. Верхний уровень предоставляет базовые ресурсы вычислительной мощности, средний уровень отвечает за производство и распределение вычислительной мощности, а нижний уровень — это пользователи отрасли. Облачные сервисы и профессиональные поставщики услуг вычислительной мощности становятся важными игроками на среднем уровне.

Вычислительная мощность услуги в основном использует два режима: оплату по мере использования и подписку на год или месяц. Пользователи могут выбирать различные формы, такие как экземпляры GPU или платформы MaaS. В будущем будет продвигаться "интеграция вычислений и сети", чтобы обеспечить гибкое распределение между архитектурами и регионами.

Несмотря на то, что в настоящее время отрасль стремится захватить высококачественные ресурсы GPU, в долгосрочной перспективе сервисы вычислительной мощности становятся неизбежными. Провайдерам вычислительной мощности необходимо заранее подготовиться к трансформации после разумного возвращения рынка.

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 5
  • Поделиться
комментарий
0/400
PoetryOnChainvip
· 14ч назад
Цена на алхимические зелья такая высокая, не зря это искусство仙术.
Посмотреть ОригиналОтветить0
ForeverBuyingDipsvip
· 15ч назад
Карточки для майнинга все хотят использовать.
Посмотреть ОригиналОтветить0
LootboxPhobiavip
· 15ч назад
200w тренировочные расходы разыгрывайте людей как лохов
Посмотреть ОригиналОтветить0
OnchainDetectivevip
· 15ч назад
Вычислительная мощность сжигает деньги, это очевидно. Данные полностью в блокчейне и могут быть отслежены.
Посмотреть ОригиналОтветить0
StablecoinGuardianvip
· 15ч назад
Не играй, если не можешь себе этого позволить. Не можешь позволить видеокарту, но хочешь заниматься алхимией.
Посмотреть ОригиналОтветить0
  • Закрепить