Дообучение LLM на переписке поддержки
Команда хочет, чтобы модель отвечала на типовые обращения клиентов в стиле компании и с учётом её терминологии, не отправляя переписку во внешний API.
Как обычно решают такую задачу
Берут open-source модель 7–13B параметров и датасет из нескольких тысяч размеченных диалогов.
Дообучают методом LoRA/QLoRA — это не требует полного дообучения всех весов и укладывается в память одной GPU с 80 ГБ.
После обучения модель разворачивают на inference с той же или менее мощной GPU, в зависимости от нагрузки.
Подходящие GPU
Подробнее о задаче: fine-tuning
Частые вопросы
Как быстро запускается GPU?
Срок запуска зависит от модели GPU, их количества и наличия мощностей. Мы называем его при заявке вместе с ценой и конфигурацией.
Что входит в инстанс?
Состав зависит от выбранного предложения. До запуска согласуем GPU, CPU, RAM, диски, сеть, окружение, способ доступа и границы технической поддержки.
Как проходит оплата?
Безналичная оплата по договору: счёт, закрывающие документы. Порядок расчётов и стоимость фиксируем в коммерческом предложении.
Нужно ли описывать задачу?
Нет. Если конфигурация известна, достаточно указать оборудование, количество, срок аренды и желаемую дату запуска. Замену параметров согласуем отдельно.
Кто представляет VikiCloud?
Проект представляет ООО «Кьюбиэс». Контрагента, порядок оплаты и обязанности сторон фиксируем в документах до заказа.
Можно протестировать GPU перед арендой?
Пробный доступ обсуждаем индивидуально под задачу — уточните это в заявке, и мы предложим формат теста вместе с расчётом.
Заявка
Обсудить похожую задачу
Укажите конфигурацию и срок аренды. Если нужна помощь с выбором, добавьте описание нагрузки — это необязательно.