Материалы по теме «h100»
Гайд
Как выбрать GPU для нейросети
H100, H200, B200 или A100: чем отличаются и когда какая нужна.
ГайдСколько GPU нужно для Qwen 72B на 300 пользователей
Расчёт по архитектуре модели и KV cache, а не угадывание «300 юзеров = N карт».
КейсДообучение LLM на переписке поддержки
Типовой сценарий: адаптировать open-source LLM под тон и терминологию компании.
ЗадачаFine-tuning LLM
Дообучение моделей на ваших данных: LoRA, QLoRA, полный fine-tuning.
ЗадачаInference
Продакшен-инференс LLM и мультимодальных моделей: vLLM, TGI, Triton.
ЗадачаLLM / Training
Предобучение и обучение больших моделей на многоGPU-серверах.
ЗадачаRAG
Эмбеддинги, реранкеры и генерация для корпоративного поиска.