Чтобы подобрать сервер GIGABYTE под несколько GPU, начните с типа нагрузки: для обучения больших моделей нужна плотная 8-GPU платформа на HGX с интерконнектом NVLink, а для инференса, рендеринга и виртуализации обычно достаточно сервера с PCIe-видеокартами. Дальше под выбранный класс проверяют четыре вещи: число линий PCIe на каждый ускоритель, запас по питанию, систему охлаждения и совместимость GPU с платформой. Ниже — пошаговый разбор.
С чего начать выбор сервера под GPU?
Главная ошибка — выбирать сервер по числу слотов, не считая остальное. Многокарточная конфигурация упирается не в количество посадочных мест, а в баланс ресурсов. Перед заказом ответьте на вопросы:
- Какая нагрузка? Обучение моделей, инференс, научные расчёты или виртуализация GPU — у каждой свои требования к памяти и интерконнекту.
- Сколько GPU и каких? От этого зависит форм-фактор (4U, 5U, 8U), питание и охлаждение.
- Нужен ли быстрый обмен между GPU? Если да — смотрите на HGX-платформы с NVLink, а не на набор независимых PCIe-карт.
- Где сервер будет стоять? Нагрузка на стойку, подвод холода и электропитание ограничивают плотность.
HGX-baseboard или PCIe-карты: что выбрать?
Это развилка, которая определяет всю конфигурацию. Baseboard-платформы (NVIDIA HGX, AMD OAM) дают тесную связь между ускорителями и максимальную производительность на больших моделях, но это монолитное и дорогое решение. Серверы с PCIe-картами гибче: можно ставить разное число и модели карт, проще обслуживать и дешевле масштабировать.
| Критерий | HGX / OAM baseboard | PCIe-видеокарты |
|---|---|---|
| Связь между GPU | NVLink / Infinity Fabric, высокая | через PCIe, ниже |
| Типовое число GPU | 8 на baseboard | 2-8 карт |
| Гибкость конфигурации | фиксированная | высокая |
| Лучше всего под | обучение больших моделей, HPC | инференс, рендеринг, виртуализация |
| Масштабирование | узлами/стойками | по числу карт |
Как посчитать PCIe-линии и питание?
Производительность многокарточного сервера легко загубить нехваткой линий PCIe или питания. Чтобы этого не произошло:
- Линии PCIe. Для полноценной работы каждому ускорителю желательны полноценные x16 Gen5. Проверьте, что выбранные процессоры (Intel Xeon или AMD EPYC) дают достаточно линий на все карты без деления пополам в узких местах.
- Питание. Сложите типовое энергопотребление всех GPU, CPU, накопителей и добавьте запас. Блоки питания должны быть с резервированием и достаточной суммарной мощностью.
- Память и накопители. Под ИИ-нагрузки берут большой объём оперативной памяти и быстрые NVMe — узкое место часто не в GPU, а в скорости подачи данных.
- Стойка. Проверьте, выдержит ли стойка и СКС электропитание и теплоотвод плотного узла.
Воздушное или жидкостное охлаждение под несколько GPU?
Чем плотнее GPU в корпусе, тем критичнее теплоотвод. Воздушное охлаждение проще и подходит для большинства конфигураций до средней плотности — не требует контура жидкости и легче в обслуживании. Прямое жидкостное охлаждение (DLC) и СЖО снимают тепло эффективнее, дают поднять плотность стойки и снизить энергозатраты на охлаждение, но требуют подготовленного машинного зала. Если планируете крупный кластер под ИИ — закладывайте жидкостный вариант на этапе проектирования, а не после.
Как проверить совместимость перед заказом?
Перед закупкой согласуйте совместимость по списку: конкретные модели GPU должны официально поддерживаться выбранной платформой; форм-фактор карт (двойная ширина, длина) — помещаться в корпус; процессоры и память — быть в списке поддержки платы; а версия прошивки BMC/BIOS — актуальной. Этот этап лучше проходить вместе с поставщиком, который проверит конфигурацию по документации производителя до заказа.
Сколько GPU можно поставить в один сервер GIGABYTE?
Зависит от платформы: PCIe-серверы обычно рассчитаны на 4-8 видеокарт, а baseboard-платформы HGX/OAM — на 8 ускорителей на одной плате с быстрым интерконнектом. Для большего числа GPU строят кластер из нескольких узлов. Точное число под конкретную модель карт стоит проверять по спецификации платформы.
Подойдёт ли обычный rack-сервер под GPU?
Ограниченно. В стоечные R-серверы можно поставить одну-две PCIe-карты, если хватает питания, линий PCIe и охлаждения. Но под несколько мощных ускорителей и тем более под обучение моделей нужна специализированная GPU-платформа G-серии с усиленным питанием и продуманным теплоотводом.
Можно ли смешивать разные модели GPU в одном сервере?
В PCIe-конфигурациях технически можно ставить разные карты, но для вычислительных кластеров это не рекомендуется: разнородные GPU усложняют распределение нагрузки и могут снижать общую эффективность. Для обучения и HPC обычно используют однородный набор ускорителей. Смешанные конфигурации оправданы редко и требуют проработки под конкретную задачу.
Что важнее для ИИ — число GPU или интерконнект?
Для обучения больших моделей критичен быстрый обмен между ускорителями, поэтому baseboard-платформы с NVLink часто выигрывают у россыпи независимых PCIe-карт даже при том же числе GPU. Для инференса и независимых задач, наоборот, важнее суммарное число карт и гибкость. Выбор зависит от профиля нагрузки.
Нужно подобрать сервер под несколько GPU? Поможем рассчитать конфигурацию GIGABYTE под вашу нагрузку, проверим совместимость и организуем легальную поставку — подробности на странице gigabyte.vistlan.ru. Спроектируем вычислительную инфраструктуру в рамках проектирования и монтажа ЛВС и подберём решения при замене импортного оборудования.