Выделенная система · среда для AI-экспериментов

Аренда DGX: NVIDIA DGX Spark целиком

Вся система выделяется одному клиенту. Дата-центр находится в Токио, Япония.

Для локального запуска больших языковых моделей, экспериментов по дообучению, разработки на CUDA и проверки прототипов AI-приложений. Сначала проверьте совместимость ПО с ARM64, затем спланируйте срок аренды для загрузки весов, запуска задач и экспорта результатов.

Оформить аренду DGX в OnuCloud — выбрать срок

Система предоставляется с фиксированной конфигурацией, модели не предустановлены. Полные характеристики и ограничения приведены ниже.

Сетевая разводка и кабельные соединения, необходимые для работы сервиса с выделенной системой
Сетевая разводка. Конфигурация услуги определяется характеристиками на этой странице; фотография не показывает внешний вид DGX Spark.
Фиксированная конфигурация

От суперчипа до системы: характеристики целиком

CPU, унифицированная память, накопитель и сеть DGX Spark предоставляются в единой конфигурации. Система подходит для воспроизводимых экспериментов в заданных пределах оборудования, но не для проектов, которым после аренды потребуется наращивать ресурсы.

Конфигурация системы NVIDIA DGX Spark от OnuCloud
Параметр Характеристики и условия использования
Суперчип NVIDIA GB10 Grace Blackwell
CPU 20 ядер Arm: 10 × Cortex-X925 + 10 × Cortex-A725
Унифицированная память 128 ГБ LPDDR5x общей памяти для CPU и GPU; это не два отдельных объёма памяти, которые можно сложить.
Локальное хранилище 4 ТБ NVMe фиксированной ёмкости, установить дополнительные накопители нельзя.
Сеть 1 Гбит/с без ограничения трафика, пропускную способность изменить нельзя.
Публичный IP-адрес 1 фиксированный IPv4-адрес, добавить IP-адреса нельзя.
Операционная система NVIDIA DGX OS на базе Ubuntu 24.04 с предустановленными CUDA и программным стеком NVIDIA AI; модели не предустановлены.
Архитектура ARM64. Необходимо проверить совместимость зависимостей проекта, образов контейнеров и исполняемых файлов.

Доступна только NVIDIA DGX OS; заменить её на Windows, Proxmox VE или другой дистрибутив нельзя. В фиксированной конфигурации нельзя выбрать объём памяти, накопителя, пропускную способность или количество IPv4-адресов.

Срок аренды под график эксперимента

Стоимость зависит от числа дней, а не от конфигурации

Цена — $15 в день, срок аренды — от 1 до 365 дней. К оплате: число дней × дневная цена. Скидок и контрактов нет. Ниже приведены примеры расчёта срока аренды, а не обещание длительности тестирования.

Аренда на 1 день

$15к оплате

1 × $15 = $15

Подходит для интенсивной проверки, если зависимости уже подтверждены, а тестовые скрипты готовы. В план также нужно включить загрузку весов и перенос результатов.

Аренда на 7 дней

$105к оплате

7 × $15 = $105

Подходит для сравнения моделей по нескольким циклам, настройки параметров инференса или проверки подхода к дообучению. Следует заложить время на повторную загрузку, устранение проблем с зависимостями и повторные тесты.

Аренда на 30 дней

$450к оплате

30 × $15 = $450

Подходит для итераций над прототипом с чётко определённой датой завершения. Стоимость рассчитывается по числу дней, дневная цена не меняется при увеличении срока аренды.

Срок аренды должен покрывать подготовку, загрузку, эксперименты и экспорт данных. Завершение загрузки не означает завершения эксперимента; после выполнения задач нужно также запланировать перенос данных.

Сначала оцените память, затем выбирайте задачи

Размер модели — ориентир, а не гарантия производительности

По данным NVIDIA, 128 ГБ унифицированной памяти подходят примерно для инференса квантованных моделей с 200B параметров и дообучения методом LoRA / QLoRA моделей примерно с 70B параметров. Требования к ресурсам у этих задач различаются, поэтому сравнивать их только по числу параметров нельзя.

Квантованный инференс: около 200B параметров

Квантованные веса занимают меньше места, но во время работы также требуется память для кэша контекста, фреймворка и системы. Ориентир по размеру модели не гарантирует работу с любой длиной контекста или числом параллельных запросов.

Перед развёртыванием зафиксируйте точность квантования, длину контекста, целевую параллельность и версии зависимостей, а затем проверьте расход памяти и время отклика на реальной нагрузке.

128 ГБ общей памяти · общая для CPU и GPU

LoRA / QLoRA: около 70B параметров

Речь идёт о параметрически эффективном дообучении, а не о гарантии полного обучения модели. Фактический расход памяти зависит от длины последовательности, размера пакета, оптимизатора и реализации фреймворка.

Подходит для проверки всего контура обучения на небольшом наборе данных с последующим расширением эксперимента. Задачи, требующие обучения на нескольких машинах или более крупного пула ресурсов, не входят в назначение этой системы.

128 ГБ общей памяти · проверьте на фактических настройках обучения
Как выбрать и что учесть

Выделенная система для экспериментов с понятными сроками

DGX Spark подходит для краткосрочных AI-проектов с заранее определёнными требованиями к оборудованию. Выбирать систему следует по совместимости программного стека и требованиям задач, а не только по объёму унифицированной памяти в сравнении с другими серверами.

Подходит: оценка моделей и проверка прототипов

Сравнение квантованных моделей, проверка интерфейсов инференс-сервисов, тестирование процессов RAG или эксперименты с LoRA / QLoRA. Срок аренды проще спланировать эффективно, если входные данные, критерии оценки и место для экспорта результатов определены заранее.

Для разработки на CUDA также необходимо проверить зависимости для ARM64. Выделенная система решает вопрос распределения ресурсов, но не заменяет проверку совместимости приложений.

Сначала проверьте зависимости и данные, затем планируйте этапы эксперимента

Не подходит: если нужны другая архитектура или иная конфигурация ресурсов

Система не запускает программы x86 и Windows, не предоставляет кластер из нескольких машин и не позволяет расширить конфигурацию дополнительными накопителями или памятью. Если задача требует таких возможностей, необходимо выбрать другую среду.

Проекты, рассчитанные на длительную круглосуточную работу с оплатой за месяц, не подходят для описанного здесь формата аренды: продукт оплачивается только по дням.

Требования к совместимости и расширению нужно определить до оформления заказа
Загрузка весов тоже входит в срок аренды

Планирование передачи данных начинается с файлов моделей

Модели не предустановлены: веса и наборы данных необходимо загружать самостоятельно. 1 Гбит/с — это скорость канала; фактическое время загрузки зависит также от сервера-источника, маршрута сети, числа параллельных загрузок и распаковки. Теоретическая скорость не гарантирует срок предоставления услуги или загрузки.

Сетевые кабели и подключение к интернету — этап загрузки весов моделей
Сетевая инфраструктура; время загрузки зависит от всего маршрута передачи данных, а не только от скорости порта.

Теоретический ориентир для 1 Гбит/с

Расчёт по размеру файла и скорости канала с округлением; не учитываются накладные расходы протокола, ограничение скорости, проверка целостности и обработка файлов.

Для планирования срока аренды; не является результатом измерений
Размер файла Примерное расчётное время
40 ГБ 5,5 минуты
100 ГБ 14 минут
140 ГБ 19 минут

На системном диске 4 ТБ NVMe размещаются система, веса, наборы данных, кэш и результаты экспериментов; весь объём нельзя считать хранилищем только для моделей. При планировании ёмкости учитывайте несколько версий весов и промежуточные контрольные точки.

Сначала предусмотрите экспорт данных

Данные удаляются по окончании срока аренды — перенесите результаты заранее

По окончании аренды DGX Spark данные удаляются. До этого необходимо самостоятельно создать резервные копии весов моделей, контрольных точек обучения, результатов оценки, кода и итоговых файлов. Арендованную систему нельзя использовать как единственную копию данных.

Управление данными в период аренды

До начала работы определите место для резервных копий, а во время экспериментов сохраняйте контрольные точки, пригодные для восстановления. После экспорта проверьте целостность файлов и сохраните параметры запуска и сведения о среде, чтобы иметь возможность воспроизвести эксперимент, а не только сохранить файлы модели.

Перенос больших файлов тоже занимает время. Между последней задачей и окончанием аренды нужно оставить достаточно времени на экспорт и проверку целостности.

Завершите перенос и проверку целостности до окончания аренды

Подключение и работа с системой

После предоставления системы SSH-реквизиты доступны в консоли. Для подключения к NVIDIA DGX OS используется предоставленный IPv4-адрес. BMC / IPMI на системе отсутствует; аппаратная перезагрузка и переустановка ОС оформляются через заявку в консоли.

В заявке укажите этап выполнения задачи, описание проблемы и уже выполненные проверки. Не публикуйте пароли и ключи в общедоступных материалах или теме письма.

Открыть консоль OnuCloud
Проверьте каждый пункт перед заказом

Три условия, от которых зависит возможность запуска проекта

Все условия перечислены на этой странице — важная информация не скрыта в сворачиваемых разделах. Перед выбором срока аренды на странице оформления заказа необходимо подтвердить эти три пункта.

  1. 01

    Архитектура ARM64

    Программы x86 и Windows не запускаются. Проверьте, поддерживают ли ARM64 двоичные зависимости проекта, расширения Python и образы контейнеров. Если зависимости нельзя перенести, не следует оформлять заказ, ориентируясь только на подходящий объём памяти.

  2. 02

    Только DGX OS

    Используется фиксированная система NVIDIA DGX OS на базе Ubuntu 24.04 с CUDA и программным стеком NVIDIA AI. Другие дистрибутивы и Windows не предоставляются; модели нужно подготовить и загрузить самостоятельно.

  3. 03

    Удаление данных по окончании аренды

    Результаты экспериментов и модели необходимо резервировать самостоятельно. Сначала определите путь переноса данных и способ проверки целостности, затем планируйте срок аренды. После его окончания система не будет хранить веса, контрольные точки и файлы проекта.

Определите рамки эксперимента, затем выберите срок аренды

Фиксированная цена DGX Spark от OnuCloud — $15 в день, срок аренды — от 1 до 365 дней. Проверьте требования ARM64 и DGX OS и запланируйте перенос данных до окончания аренды, затем выберите срок на отдельной странице оформления заказа.

Оформить аренду DGX в OnuCloud — выбрать срок Посмотреть аренду AMD от OnuCloud