Japan bare metal · выделенный сервер

Выделенный сервер AMD
и NVIDIA DGX Spark,
целиком для одного клиента

Серверный центр находится в Токио, Япония. На двух карточках справа по очереди показаны отсеки EPYC 7543P и унифицированная память DGX Spark; каждая ведёт на страницу с характеристиками.

Без платы за установку | Без контракта | Расчёты в долларах США

Отсеки · прямое подключение NVMeВыделенный · Токио
BAY 01TBNVMe · напрямую · установлено
BAY 11TBNVMe · напрямую · установлено
BAY 2Можно добавить 2TBОпция · отдельное подключение
BAY 3Можно добавить 2TBОпция · отдельное подключение
Установлено 2 × 1TB · доступно 2TB · без аппаратного RAIDМожно добавить до 2 × 2TB
AMD EPYC 7543P 32C / 64T2.8 / 3.7 GHz256MB L3Выделенный

Слайд 1 / 2 · выделенный сервер AMD

Сервер с прямым подключением NVMe

На общем облачном хранилище скорость IO нестабильна, а запросы зависят от нагрузки. Два диска подключены напрямую к этому серверу, поэтому скорость чтения и записи зависит только от его собственной нагрузки.

  • Два NVMe по 1TB с прямым подключением, без общего хранилища
  • AMD EPYC 7543P, 32 ядра и 64 потока; процессор целиком выделен одному клиенту
  • Канал 250 Mbps включён, без ограничения трафика
Унифицированная память · GB10DGX SPARK · Токио
128GB LPDDR5x, унифицированная памятьОбщий пул для CPU и GPU
CPU · 20 ядер ArmGPU · Blackwell
NVMe 0 · фиксированный4TB
Сеть · фиксированная1 Gbps без ограничения трафика · 1 IPv4
NVIDIA GB10 Grace BlackwellARM64NVIDIA DGX OS

Слайд 2 / 2 · устройство DGX Spark

Устройство DGX Spark

Целое устройство для локального инференса больших языковых моделей и экспериментов с тонкой настройкой. Готовый комплект ПО позволяет сразу приступить к работе, но поддерживаются только ARM64 и NVIDIA DGX OS.

  • Суперчип NVIDIA GB10 Grace Blackwell
  • 128GB LPDDR5x унифицированной памяти, общий пул для CPU и GPU
  • 4TB NVMe, фиксированная конфигурация без дополнительных опций
Два варианта · сравнение

Выделенный сервер для хранения или устройство для разработки ИИ — каждому своё

Первый вариант подойдёт для постоянного хранения данных, образов и резервных копий; второй — для инференса моделей и экспериментов с CUDA. Тарифы, характеристики и страницы заказа у них отдельные.

EPYC · Physical

Выделенный сервер AMD

Для ZFS-зеркал, файлового хранилища и виртуализации. Аренда на месяц невыгодна для тестов всего на несколько дней.

Процессор
AMD EPYC 7543P · 32C/64T
Память
128GB / 256GB DDR4-3200 ECC — 2 варианта
Диски
2 × 1TB NVMe с прямым подключением, без аппаратного RAID
Канал
250 Mbps, без ограничения трафика
IPv4
1 выделенный адрес
ОС
14 бесплатных систем; лицензия Windows Server оплачивается помесячно
Аренда AMD ›
GB10 · ARM64

Устройство NVIDIA DGX Spark

Для локального инференса больших моделей, экспериментов с тонкой настройкой и разработки на CUDA. Оплата в сутки; программы для x86 и Windows на этом устройстве не работают.

Чип
NVIDIA GB10 Grace Blackwell
Память
128GB LPDDR5x, унифицированная память
Диск
4TB NVMe
Канал
1 Gbps, без ограничения трафика
ОС
NVIDIA DGX OS
Архитектура
ARM64
Аренда DGX Spark ›
Преимущество 1 · Хранение

Два диска по 1TB подключены отдельно: доступно 2TB, а не 1TB после RAID-1

Аппаратный массив не настроен: система видит каждый NVMe отдельно. Администратор сам выбирает программное зеркало, чередование или отдельные точки монтирования. Можно добавить от 0 до 2 NVMe-дисков по 2TB; они также подключаются напрямую.

2 × 1TBВключено · доступно 2TB · опционально + 0–2 × 2TB NVMe
1TB
BAY 0
1TB
BAY 1
+2TB
BAY 2
+2TB
BAY 3
Подходит

Администраторам, настраивающим ZFS или программный RAID

Зеркалирование, снимки и проверка целостности полностью под контролем администратора; способ использования дисков можно менять под задачи. Компромисс: отказоустойчивость нужно настраивать и регулярно проверять самостоятельно.

Не подходит

Сценариям с управляемой серверным центром отказоустойчивостью

Аппаратного RAID нет, поэтому неисправный диск не заменяется автоматически. За отказоустойчивость и резервное копирование отвечает клиент, замену диска выполняет серверный центр.

Преимущество 2 · Вычисления

AMD EPYC 7543P целиком выделен одному клиенту

При сжатии, проверке и дедупликации можно задействовать все 64 потока без конкуренции с соседями. Компромисс: аренда всего сервера оплачивается и в периоды простоя.

Сокет
Один AMD EPYC 7543P
Ядра
32 ядра / 64 потока
Частота
Базовая 2.8GHz / до 3.7GHz
Кэш
256MB L3
Память
DDR4-3200 ECC · 128GB или 256GB
32C / 64T

Ядра и потоки одного процессора, без совместного использования CPU

3.7GHz

Максимальная частота; базовая — 2.8GHz

256MB

Кэш L3 хранит часто используемые данные для проверки и дедупликации на чипе

Преимущество 3 · Периоды оплаты

Четыре периода оплаты, без платы за установку и контракта

Оплата за месяц подойдёт, чтобы сначала проверить план размещения дисков; годовая — для уже сформированного пула резервных копий. Цена за месяц одинакова при любом периоде: меняется только число месяцев в одном платеже.

За месяц1 месяц
За квартал3 месяца
За полгода6 месяцев
За год12 месяцев

К оплате = месячная сумма × число месяцев · скидок за период нетПо окончании срока услуга прекращается без продления

Общий ресурс · выделенный · собственный

Три варианта: общий VPS, выделенный сервер или собственная стойка

Для каждого варианта указаны подходящие и неподходящие сценарии. Выбор зависит от объёма данных, требований к IO и готовности самостоятельно заниматься оборудованием.

Критерий сравнения Общий VPSSHARED Выделенный серверONUCLOUD · EPYC 7543P Своя стойкаCOLOCATION
Выделение ресурсов Несколько клиентов используют CPU и диски одного хост-сервера AMD EPYC 7543P и два NVMe целиком выделены одному клиенту Оборудование принадлежит владельцу; стойка и электропитание оплачиваются отдельно
Стабильность вычислений и IO Зависит от нагрузки соседей; во время резервного копирования IO может проседать NVMe подключены напрямую; IO зависит только от нагрузки самого сервера Зависит от самостоятельно приобретённого оборудования и сети
Предоставление Настройка в панели, параметры можно менять в любое время Опции выбираются в конфигураторе; IP и учётные данные доступны в панели управления Закупку, установку и подключение оборудования нужно организовать самостоятельно
Начальные затраты Низкие, можно начать с нескольких ядер От $472 в месяц, без платы за установку и контракта Разовые затраты на оборудование плюс долгосрочная аренда стойки
Подходит ПодходитКраткие тесты на нескольких ядрах, гибкое масштабирование по часам ПодходитZFS-зеркала, пулы резервного копирования, хост Proxmox VE ПодходитКомандам, которым важно владеть оборудованием
Не подходит Не подходитДолгосрочное резервное копирование больших объёмов и стабильный IO Не подходитКраткие задачи на несколько дней или нагрузка с масштабированием по часам Не подходитКомандам, которые не хотят заниматься закупкой, заменой дисков и установкой
Крупный план открытого жёсткого диска с пластинами и считывающей головкой — три варианта планирования дисковых отсеков
Планирование дисков

Выберите конфигурацию для файлов, ZFS-зеркала или удалённого резервного копирования

Сначала решите, нужно ли зеркалирование данных, затем определите число дополнительных дисков. Чем больше дисков, тем выше ёмкость и месячная сумма.

2TBВ комплекте 2 × 1TB

Файловое хранилище

Два диска по 1TB можно подключить отдельно или объединить в пул для общих папок и часто используемых данных. Без зеркала отказ диска потребует восстановления из удалённой копии.

4TBДобавить 1 диск 2TB

ZFS-зеркало

Два диска по 1TB объединяются в зеркало для системы и часто используемых данных, дополнительный диск 2TB используется для локальных снимков. В зеркале доступен 1TB; при отказе одного диска данные сохраняются.

6TBДобавить 2 диска по 2TB

Удалённые резервные копии

Два дополнительных диска по 2TB можно объединить в зеркало ёмкостью 2TB для удалённых копий. Это максимальная ёмкость; месячная сумма увеличивается с добавлением обоих дисков.

Указана сырая ёмкость; после зеркалирования доступная ёмкость уменьшается вдвое. Каждый дополнительный диск 2TB подключается отдельно, без аппаратного массива.

Канал и трафик

250 Mbps включено; доступны 1 Gbps и 2 Gbps — все варианты без лимита трафика

За любой объём удалённых резервных копий в TB в месяц дополнительная плата за трафик не взимается. Стоимость зависит от скорости порта; надбавки и сценарии использования указаны на странице аренды AMD.

Тарифы канала AMD ›
250 MbpsВключено · без лимита трафика
1 GbpsОпция · без лимита трафика
2 GbpsОпция · без лимита трафика
DGX Spark · GB10

Устройство DGX Spark: локальный инференс, тонкая настройка и разработка на CUDA

Устройство целиком выделено одному клиенту; CUDA и программный стек NVIDIA AI предустановлены. Конфигурация фиксированная: можно сразу приступать к разработке, но добавить память или диски нельзя.

Чип
NVIDIA GB10 Grace Blackwell
CPU
20 ядер Arm
Память
128GB LPDDR5x, унифицированная память
Диск
4TB NVMe
Сеть
1 Gbps без ограничения трафика · 1 IPv4
$15 в суткиК оплате = число суток × цена за сутки · без скидок · без платы за установку
ARM64

Программы для ARM и CUDA готовы к работе; приложения для x86 и Windows не запускаются.

NVIDIA DGX OS

Программный стек установлен; доступна только эта система, установить другой дистрибутив нельзя.

Полные характеристики DGX ›
Пучки оптоволоконных и сетевых кабелей, подключённых к портам сетевого оборудования в серверном центре
1 Gbps без ограничения трафика · веса моделей загружаются самостоятельно
Кому подойдёт

Оцените решение по своей нагрузке

Для каждого сценария обозначены ограничения. Если нужны лишь несколько ядер для кратких тестов или масштабирование по часам, общий VPS обойдётся дешевле.

Proxmox VE

Хост виртуализации

EPYC 7543P поддерживает AMD-V и NPT; диски виртуальных машин размещаются на NVMe с прямым подключением. При запуске одной-двух небольших машин сервер будет использоваться не полностью.

Подходящие сценарии ›
Database

Базы данных и middleware

Задержки запросов не зависят от колебаний нагрузки общего хранилища. Репликацию и зеркалирование нужно настроить самостоятельно; серверный центр не обеспечивает резервирование.

Подходящие сценарии ›
IPv4 · 256

Международные проекты

Число отдельных IPv4-адресов можно увеличить до 256. Подходит для фиксированного исходящего адреса и панелей нескольких магазинов; для выхода через несколько городов не подойдёт.

Подходящие сценарии ›
Windows Server

Сервисы на Windows

Лицензии Standard / Datacenter оплачиваются помесячно, подключение — по RDP. Стоимость лицензии включается в месячную сумму отдельно.

Подходящие сценарии ›
DGX Spark · Inference

Инференс моделей и эксперименты с тонкой настройкой

По данным NVIDIA, 128GB унифицированной памяти позволяют выполнять квантованный инференс моделей примерно на 200B параметров и тонкую настройку LoRA / QLoRA примерно для 70B параметров. Программы для x86 и обучение на нескольких устройствах не поддерживаются.

Подходящие сценарии ›
Цены и заказ

Где посмотреть цены и оформить заказ

Два варианта тарифицируются отдельно и не пересчитываются друг в друга. На страницах цен указаны все опции и правила расчёта. Расчёты ведутся в долларах США; доступные способы оплаты перечислены в конфигураторе.

AMD EPYC 7543P

Два месячных тарифа и опции — на странице аренды AMD

На странице отдельно указаны месячные тарифы для 128GB и 256GB, дополнительные диски 2TB, варианты канала, дополнительные IPv4 и лицензии Windows Server. После выбора конфигурации заказ оформляется через конфигуратор.

Аренда AMDКонфигураторДанные в панели
NVIDIA DGX Spark

Цена за сутки и характеристики — на странице DGX

На странице аренды DGX указаны фиксированная конфигурация, цена $15 в сутки и сравнение с размером моделей. Перед заказом необходимо подтвердить, что ARM64 не поддерживает программы для x86 и Windows, доступна только NVIDIA DGX OS, а по окончании срока данные удаляются. Затем на странице заказа DGX выбирается число суток.

Аренда DGXЗаказ DGXSSH-данные в панели
AlmaLinuxDebianUbuntu ServerFreeBSDProxmox VEWindows ServerNVIDIA DGX OS

На выделенном сервере AMD доступны 14 бесплатных систем и Windows Server с помесячной лицензией: Linux — по SSH, Windows — по RDP; NVIDIA DGX OS доступна только на устройстве DGX Spark

Материалы для администраторов

Заметки OnuCloud о хранении и серверах

Материалы сгруппированы по дискам, сети и рабочим нагрузкам. Актуальные характеристики аренды указаны на страницах соответствующих продуктов.