量化推理：约 200B 参数
量化后的权重更紧凑，但运行时还需为上下文缓存、框架与系统留出空间。模型规模参考不能等同于任意上下文长度或并发数都能运行。
部署前应记录量化精度、上下文长度、目标并发与依赖版本，再用实际工作负载验证内存占用和响应表现。
128GB 统一内存 · CPU 与 GPU 共用
整机独享 · AI 实验环境
DGX租赁：NVIDIA DGX Spark 整机
一台整机归一个客户，机房位于日本东京。
面向本地大模型推理、微调实验、CUDA 开发与 AI 应用原型验证。先核对 ARM64 软件兼容性，再安排权重下载、运行与结果导出的租期。
固定配置交付，不预装模型；完整规格与使用边界见下文。
固定配置登记
从超级芯片到系统，按整机核对
DGX Spark 的 CPU、统一内存、存储与网络按同一套配置提供。适合在确定的硬件边界内复现实验，不适合依靠租后加配来扩大资源的项目。
| 登记项目 | 交付规格与使用说明 |
|---|---|
| 超级芯片 | NVIDIA GB10 Grace Blackwell |
| CPU | 20 核 Arm：10 × Cortex-X925 + 10 × Cortex-A725 |
| 统一内存 | 128GB LPDDR5x 统一内存，CPU 与 GPU 共用；不是两份可相加的独立内存。 |
| 本地存储 | 4TB NVMe，固定容量，不能加盘。 |
| 网络 | 1 Gbps 不限流量，带宽不可调整。 |
| 公网地址 | 1 个固定 IPv4，不能增加 IP。 |
| 操作系统 | NVIDIA DGX OS，基于 Ubuntu 24.04，预装 CUDA 与 NVIDIA AI 软件栈；不预装模型。 |
| 架构 | ARM64。项目依赖、容器镜像与二进制程序均需核对架构兼容性。 |
系统只提供 NVIDIA DGX OS，不能更换为 Windows、Proxmox VE 或其他发行版。固定配置没有内存、硬盘、带宽或 IPv4 选配项。
按实验安排租期
天数决定应付，配置不参与加价
日价为 $15/天，租期可选 1–365 天。应付 = 天数 × 日价，不打折、无合约。以下是租期算例，不是性能测试所需时间的承诺。
1 天租期
$15本次应付
1 × $15 = $15
适合依赖已确认、测试脚本已准备完成的集中验证；权重下载与结果转存也需纳入时间安排。
7 天租期
$105本次应付
7 × $15 = $105
适合按轮次对比模型、调整推理参数或验证微调方案；应预留重新下载、排查依赖与复测的时间。
30 天租期
$450本次应付
30 × $15 = $450
适合有明确结束日期的原型迭代。仍按天数乘日价计算，不因租期延长而改变单价。
租期应覆盖准备、下载、实验与导出四个环节。下载完成不代表实验完成，任务结束后仍需安排数据转存。
先估内存，再选任务
模型规模是参考边界，不是吞吐保证
按 NVIDIA 官方口径，128GB 统一内存可用于约 200B 参数的量化推理，以及约 70B 参数的 LoRA / QLoRA 微调。两种任务的资源需求不同，不能只按参数量直接比较。
LoRA / QLoRA：约 70B 参数
这里指参数高效微调，不是全参数训练承诺。序列长度、批量大小、优化器与框架实现都会改变实际内存需求。
适合先用小样本验证训练链路，再扩大实验；需要多机训练或依赖更大资源池的任务，不属于本整机服务的定位。
128GB 统一内存 · 按实际训练设置验证
选法与取舍
围绕可结束的实验安排整机
DGX Spark 适合硬件需求已明确的短期 AI 项目。选择依据应是软件栈与任务边界，而不是仅凭统一内存容量判断能否替代其他服务器。
适合：模型评测与原型验证
对比量化模型、验证推理服务接口、测试检索增强流程，或开展 LoRA / QLoRA 实验。项目已有输入数据、评测标准和结果导出位置时，更容易安排有效租期。
CUDA 开发同样需要检查 ARM64 依赖。整机独享解决资源归属问题，不替代应用兼容性验证。
先确认依赖与数据，再安排实验轮次
不适合：依赖另一套架构或资源形态
不能运行 x86 程序或 Windows，不提供多机集群，也不能通过加盘、加内存扩展。若任务必须使用这些能力，应重新选择运行环境。
以按月长期挂机为采购前提的项目，也不适合套用本页租期方式；本产品只按天数计费。
兼容性与扩展要求应在下单前确定
权重下载也占用租期
传输预算从模型文件开始
系统不预装任何模型，权重与数据集需自行下载。1 Gbps 是链路速率，实际下载还受源站、网络路径、并发与解压过程影响，不能把理论值当成交付或下载时效。
1 Gbps 下的理论参考
按文件容量与链路速率估算并近似取整，未计入协议开销、限速、校验与文件处理。
| 文件容量 | 理论耗时约 |
|---|---|
| 40GB | 5.5 分钟 |
| 100GB | 14 分钟 |
| 140GB | 19 分钟 |
4TB NVMe 同时承载系统、权重、数据集、缓存与实验输出，不能全部视为模型存放空间。多版本权重与中间检查点应一并纳入容量规划。
数据出口先于任务启动
到期清除数据，结果提前转存
DGX Spark 到期后数据清除。模型权重、训练检查点、评测记录、代码与最终结果均需在到期前自行备份，不能把租用机器作为唯一副本。
租期内管理数据
任务开始前确定备份目的地，实验过程中保存可恢复的检查点。导出后核对文件完整性，并保留运行参数与环境记录，避免只有模型文件而无法复现实验。
大文件转存也需要时间，最后一轮任务与到期之间应留出完整的导出和校验安排。
到期前完成转存与完整性检查
接入与系统处理
交付后在控制台查看 SSH 凭据，使用提供的 IPv4 连接 NVIDIA DGX OS。本机没有 BMC / IPMI，硬重启与重装系统通过控制台工单处理。
工单应描述任务阶段、故障现象及已做的排查；不要在公开内容或邮件主题中放置密码、密钥等凭据。
下单前逐项核对
三项前提决定项目能否落地
以下条件在本页完整列出，不以收起内容代替说明。进入下单页后需确认这三项，再选择租用天数。
-
01
ARM64 架构
不能运行 x86 程序或 Windows。检查项目的二进制依赖、Python 扩展与容器镜像是否支持 ARM64；依赖无法迁移时，不应仅因内存容量合适而下单。
-
02
只有 DGX OS
系统固定为 NVIDIA DGX OS，基于 Ubuntu 24.04，包含 CUDA 与 NVIDIA AI 软件栈。不提供其他发行版或 Windows，模型需自行准备和下载。
-
03
到期清除数据
实验结果与模型均需自行备份。先确定转存路径与校验办法，再安排租期；到期后不能依赖机器继续保存权重、检查点或项目文件。
确定实验边界，再登记租用天数
OnuCloud DGX Spark 固定 $15/天，租期 1–365 天。核对 ARM64、DGX OS 与到期转存安排后，进入独立下单页完成天数选择。