GPU для fine-tuning LLM
Дообучайте языковые модели на своих данных без покупки сервера: арендуйте H100 или H200 на нужный срок.
Fine-tuning — типичная задача с пиковой нагрузкой: несколько дней интенсивных вычислений, затем простой. Покупать под это сервер за миллионы рублей невыгодно.
Для LoRA/QLoRA моделей 7–34B обычно хватает одной GPU с 80 ГБ памяти. Для полного fine-tuning и моделей 70B+ понадобится больше памяти на GPU (H200, 141 ГБ) или несколько GPU.
Инфраструктура приходит с CUDA, драйверами NVIDIA и Docker. Можно запускать привычные стеки: PyTorch, Transformers, Axolotl, Unsloth, DeepSpeed. Конфигурацию под вашу модель и объём данных подбираем по запросу.
Читайте также
AMD MI355X или NVIDIA B300 для инференса LLM
У серверов с восемью MI355X и восемью B300 одинаковый суммарный объём памяти. Как понять, на каком из них выгоднее запускать вашу модель?
Intel Gaudi 3: как посчитать стоимость инференса
Сравнить предложения по аренде Gaudi 3 и GPU можно на одном наборе запросов. Покажем расчёт цены миллиона выходных токенов с учётом простоя.
Как выбрать GPU для нейросети
H100, H200, B200 или A100: чем отличаются и когда какая нужна.
Что нужно для обучения своей модели
Данные, GPU и на что реально уходит время и бюджет.
Сколько GPU нужно для Qwen 72B на 300 пользователей
Расчёт по архитектуре модели и KV cache, а не угадывание «300 юзеров = N карт».
Дообучение LLM на переписке поддержки
Типовой сценарий: адаптировать open-source LLM под тон и терминологию компании.
Частые вопросы
Как быстро запускается GPU?
Срок запуска зависит от модели GPU, их количества и наличия мощностей. Мы называем его при заявке вместе с ценой и конфигурацией.
Что входит в инстанс?
Состав зависит от выбранного предложения. До запуска согласуем GPU, CPU, RAM, диски, сеть, окружение, способ доступа и границы технической поддержки.
Как проходит оплата?
Безналичная оплата по договору: счёт, закрывающие документы. Порядок расчётов и стоимость фиксируем в коммерческом предложении.
Нужно ли описывать задачу?
Нет. Если конфигурация известна, достаточно указать оборудование, количество, срок аренды и желаемую дату запуска. Замену параметров согласуем отдельно.
Кто представляет VikiCloud?
Проект представляет ООО «Кьюбиэс». Контрагента, порядок оплаты и обязанности сторон фиксируем в документах до заказа.
Можно протестировать GPU перед арендой?
Пробный доступ обсуждаем индивидуально под задачу — уточните это в заявке, и мы предложим формат теста вместе с расчётом.
Заявка
Получить расчёт
Укажите конфигурацию и срок аренды. Если нужна помощь с выбором, добавьте описание нагрузки — это необязательно.