Унифицированная память — не отдельная видеопамять
128GB LPDDR5x используют совместно CPU и GPU; эту память занимают система, рабочая среда и модели. При оценке возможности загрузить модель следует учитывать точность весов, контекст, кэш и процессы приложений. Весь указанный объём нельзя считать доступным только для весов модели.
Сначала программная среда, затем срок аренды
NVIDIA DGX OS основана на Ubuntu 24.04 и включает CUDA и программный стек NVIDIA AI. Модели не предустановлены; веса и зависимости приложений нужно подготовить самостоятельно. Если существующая программа зависит от двоичных файлов x86 или Windows, сначала потребуется выбрать другое техническое решение, а не просто увеличить срок аренды.
Фиксированная сеть не гарантирует постоянное время загрузки
1 Gbps без ограничений по трафику подходит для загрузки весов и передачи результатов, но фактическая скорость зависит от сервера-источника, сети и приложения. В бюджет проекта следует включить подготовку, выполнение и экспорт результатов, а не только время обучения или инференса.