Как выбрать GPU/AI-сервер под задачу
1. Определите тип нагрузки
Для обучения крупных моделей (LLM, мультимодальные сети) выбирайте платформы на 8–10 GPU в 4U/5U корпусе: SDY-5126-TNRT на 2× EPYC 9005/9004 и SDY-421GU-TNXR с 8 GPU на 2× Xeon дают нужную пропускную способность межсоединений. Для инференса и сред ML-обучения хватает 2U шасси с 4 GPU: SDY-4210D и SDY-4208-i4 удерживают тепловой пакет в стоечных лимитах при долговременной нагрузке.
2. Сверьте стойко-энергетический бюджет
ЦОД на 7–15 кВт на стойку требует 2U форм-фактора с 4 GPU. Если мощность выше (20+ кВт), целесообразны 4U/5U конфигурации с разнесённым охлаждением. Все AI-серверы Sanduoyun поставляются с резервированными блоками питания 80+ Platinum/Titanium и допускают горячую замену PSU без остановки вычислений.
3. Проверьте сетевую связность между GPU
Для распределённого обучения критичны топологии NVLink/InfiniBand. SDY-5126-TNRT поддерживает до 8 NVLink-мостов между GPU, а SDY-S4124GS комплектуется 24× NVMe для высокопроизводительных кластеров с прямым обменом данными между узлами.
4. Закажите пилот перед поставкой партии
Sanduoyun отгружает один демо-узел за 7–10 рабочих дней для нагрузочного тестирования на ваших данных. После подтверждения метрик (FPS, latency, утилизация GPU) согласовывается спецификация всей партии. Это исключает риск несовместимости фреймворка (PyTorch, vLLM, Triton) с конкретной платформой.
5. Учтите требования по охлаждению ЦОД
Серверы на 8 GPU в 4U/5U корпусе выделяют 2,5–4 кВт тепла под нагрузкой. Проверьте, что кондиционирование стойки рассчитано на эту мощность, иначе GPU будут троттлить и реальная производительность упадёт на 20–30%. Sanduoyun по запросу предоставляет тепловую карту каждой модели и рекомендации по организации холодного/горячего коридора.
6. Согласуйте сроки и логистику
Стандартный цикл поставки — 15–25 рабочих дней с момента оплаты. Для срочных проектов возможна авиадоставка за 5–7 дней, однако таможенное оформление занимает не менее 3 дней. Закладывайте в план 2 недели на развёртывание и интеграцию в существующую инфраструктуру, включая настройку BMC, RAID и сетевых интерфейсов.
