H200, B300, MI355X и Gaudi 3: выбор платформы для аренды
Сравниваем память, программную среду и условия проверки модели перед арендой.
| Платформа | Память одного | Сумма для 8 | Полоса памяти одного | Среда |
|---|---|---|---|---|
| NVIDIA H200 SXM | 141 ГБ HBM3e | 1 128 ГБ | 4,8 ТБ/с | CUDA |
| NVIDIA B300 SXM | 288 ГБ HBM3e | 2 304 ГБ | До 8 ТБ/с | CUDA |
| AMD Instinct MI355X | 288 ГБ HBM3e | 2 304 ГБ | До 8 ТБ/с | ROCm |
| Intel Gaudi 3 OAM | 128 ГБ HBM2e | 1 024 ГБ | До 3,7 ТБ/с | Intel Gaudi software |
Память восьми устройств указана суммарно и не становится автоматически единым пулом для приложения. Пропускная способность — пиковая для памяти одного ускорителя, не скорость генерации токенов. Сравнение относится к указанным вариантам ускорителей; состав OEM-сервера уточняется отдельно.
Наличие, цена и возможность аренды каждой конфигурации подтверждаются в предложении. Совместимость PyTorch, vLLM и сторонних расширений проверяется для конкретных версий: поддержка одного фреймворка не гарантирует перенос приложения без изменений.
Начните с приложения, а не с названия ускорителя
Запишите точное имя и версию модели, формат весов, длину входа и ответа, количество одновременных запросов. Для сервиса задайте требования ко времени до первого токена, скорости ответа и доле ошибок. Для обучения — размер датасета, способ обучения, точность и время до нужного качества. Эти условия должны быть одинаковыми в тестах всех платформ.
Что можно узнать из характеристик
Больший объём HBM позволяет разместить больше весов и KV-кеша, но сам по себе не обещает более быстрый инференс. Кроме весов память занимают активации, рабочие буферы и программное окружение. Если модель распределяется между ускорителями, важны межсоединения и выбранная схема параллелизма. Память сервера нельзя оценивать только сложением цифр в спецификации.
Совместимость до оплаты
Для NVIDIA проверьте версии CUDA, драйвера и движка. Для MI355X — поддержку оборудования и модели выбранным стеком ROCm. Для Gaudi 3 — поддерживаемое программное окружение Intel Gaudi и нужные операторы. Особенно внимательно проверьте собственные CUDA-расширения, нестандартные операции и квантование. Контейнер, работавший на NVIDIA, не является доказательством совместимости с другой архитектурой.
Как выбрать между предложениями
Сопоставьте цену полного узла за одинаковый период, включённые CPU, RAM, диски, трафик, поддержку и минимальный срок. Сравните количество успешно выполненной работы при одинаковом качестве. Расходы на перенос приложения и время инженера тоже входят в выбор. Актуальные цены, наличие и возможность теста запрашиваются отдельно.
Что прислать для подбора
Укажите модель, окружение, требуемую память, число ускорителей, срок аренды и критерии производительности. Если платформа ещё не выбрана, попросите несколько вариантов под один и тот же тестовый сценарий.
Каталог GPU
Частые вопросы
Как быстро запускается GPU?
Срок запуска зависит от модели GPU, их количества и наличия мощностей. Мы называем его при заявке вместе с ценой и конфигурацией.
Что входит в инстанс?
Состав зависит от выбранного предложения. До запуска согласуем GPU, CPU, RAM, диски, сеть, окружение, способ доступа и границы технической поддержки.
Как проходит оплата?
Безналичная оплата по договору: счёт, закрывающие документы. Порядок расчётов и стоимость фиксируем в коммерческом предложении.
Нужно ли описывать задачу?
Нет. Если конфигурация известна, достаточно указать оборудование, количество, срок аренды и желаемую дату запуска. Замену параметров согласуем отдельно.
Кто представляет VikiCloud?
Проект представляет ООО «Кьюбиэс». Контрагента, порядок оплаты и обязанности сторон фиксируем в документах до заказа.
Можно протестировать GPU перед арендой?
Пробный доступ обсуждаем индивидуально под задачу — уточните это в заявке, и мы предложим формат теста вместе с расчётом.
Заявка
Получить расчёт
Укажите конфигурацию и срок аренды. Если нужна помощь с выбором, добавьте описание нагрузки — это необязательно.