量化推論：約 200B 參數
量化後的權重較精簡，但執行時仍須為上下文快取、框架與系統預留空間。模型規模參考不代表任何上下文長度或並行數都能執行。
部署前請記錄量化精度、上下文長度、目標並行數及相依版本，再以實際工作負載驗證記憶體用量與回應表現。
128GB 統一記憶體 · CPU 與 GPU 共用
整機獨享 · AI 實驗環境
DGX Spark 租用：NVIDIA DGX Spark 整機
一台整機由單一客戶獨享，機房位於日本東京。
適用於本機大型語言模型推論、微調實驗、CUDA 開發及 AI 應用原型驗證。請先確認 ARM64 軟體相容性，再規劃權重下載、執行與結果匯出的租用期間。
以固定規格交付，不預先安裝模型；完整規格與使用限制請見下文。
固定規格一覽
從超級晶片到系統，完整掌握整機規格
DGX Spark 的 CPU、統一記憶體、儲存空間與網路皆採用同一套固定規格。適合在明確的硬體限制內重現實驗；不適合仰賴租用後升級配置來擴充資源的專案。
| 項目 | 交付規格與使用說明 |
|---|---|
| 超級晶片 | NVIDIA GB10 Grace Blackwell |
| CPU | 20 核心 Arm：10 × Cortex-X925 + 10 × Cortex-A725 |
| 統一記憶體 | 128GB LPDDR5x 統一記憶體，由 CPU 與 GPU 共用；不是兩份可相加的獨立記憶體。 |
| 本機儲存空間 | 4TB NVMe，容量固定，無法加裝硬碟。 |
| 網路 | 1 Gbps 不限流量，頻寬不可調整。 |
| 公網 IP | 1 個固定 IPv4，無法增加 IP。 |
| 作業系統 | NVIDIA DGX OS，以 Ubuntu 24.04 為基礎，預先安裝 CUDA 與 NVIDIA AI 軟體堆疊；不預先安裝模型。 |
| 架構 | ARM64。請確認專案相依套件、容器映像檔與二進位程式皆支援此架構。 |
系統僅提供 NVIDIA DGX OS，無法改裝 Windows、Proxmox VE 或其他發行版。固定規格不提供記憶體、硬碟、頻寬或 IPv4 選配。
依實驗規劃租用期間
租用天數決定費用，配置不另加價
每日 $15，可租用 1–365 天。應付金額 = 天數 × 每日費用，不提供折扣，也無合約。以下為租期計算範例，並非性能測試所需時間的保證。
租用 1 天
$15本次應付
1 × $15 = $15
適合相依套件已確認、測試腳本已備妥的集中驗證；也請將權重下載與結果轉存時間納入規劃。
租用 7 天
$105本次應付
7 × $15 = $105
適合分階段比較模型、調整推論參數或驗證微調方案；請預留重新下載、排查相依問題及再次測試的時間。
租用 30 天
$450本次應付
30 × $15 = $450
適合有明確結束日期的原型迭代。費用仍按天數乘以每日費用計算，租期延長也不會改變單價。
租期應涵蓋準備、下載、實驗與匯出四個階段。下載完成不代表實驗已完成，任務結束後仍須安排資料轉存。
先估算記憶體，再選擇任務
模型規模僅供參考，不代表吞吐量保證
依 NVIDIA 官方說明，128GB 統一記憶體可用於約 200B 參數模型的量化推論，以及約 70B 參數模型的 LoRA / QLoRA 微調。兩類任務的資源需求不同，不能只按參數量直接比較。
LoRA / QLoRA：約 70B 參數
此處指參數高效微調，不代表可進行全參數訓練。序列長度、批次大小、最佳化器與框架實作都會影響實際記憶體需求。
適合先以小型資料集驗證訓練流程，再逐步擴大實驗；需要多機訓練或更大型資源池的任務，不適用於這項整機服務。
128GB 統一記憶體 · 依實際訓練設定驗證
選擇與取捨
為有明確結束時間的實驗選用整機
DGX Spark 適合硬體需求明確的短期 AI 專案。選擇時應考量軟體堆疊與任務需求，而非只憑統一記憶體容量判斷能否取代其他伺服器。
適合：模型評測與原型驗證
比較量化模型、驗證推論服務介面、測試檢索增強流程，或進行 LoRA / QLoRA 實驗。若專案已備妥輸入資料、評測標準與結果匯出位置，就更容易規劃有效的租用期間。
CUDA 開發也須檢查 ARM64 相依套件。整機獨享可確保資源專屬，不代表應用程式已通過相容性驗證。
先確認相依套件與資料，再規劃實驗輪次
不適合：依賴其他架構或資源配置
無法執行 x86 程式或 Windows、不提供多機叢集，也無法加裝硬碟或擴充記憶體。若任務必須具備這些能力，請改選其他執行環境。
若專案採購前提是按月長期執行，也不適用本頁的租用方式；本產品僅按天數計費。
下單前確認相容性與擴充需求
權重下載也會占用租期
從模型檔案開始估算傳輸時間
系統不預先安裝任何模型，權重與資料集須自行下載。1 Gbps 是連線速率；實際下載也會受來源站、網路路徑、並行數與解壓縮流程影響，理論值不代表交付或下載所需時間。
1 Gbps 理論值參考
依檔案容量與連線速率估算並取近似值，未計入通訊協定開銷、限速、校驗與檔案處理時間。
| 檔案容量 | 理論耗時約 |
|---|---|
| 40GB | 5.5 分鐘 |
| 100GB | 14 分鐘 |
| 140GB | 19 分鐘 |
4TB NVMe 同時存放系統、權重、資料集、快取與實驗輸出，並非全部容量都能用來存放模型。規劃儲存空間時，也請將多個版本的權重與中間檢查點納入考量。
先規劃資料匯出，再開始任務
到期後清除資料，請提前轉存結果
DGX Spark 租期到期後會清除資料。模型權重、訓練檢查點、評測紀錄、程式碼與最終結果都須在到期前自行備份，請勿將租用設備作為唯一副本。
租用期間管理資料
開始任務前先決定備份目的地，並在實驗過程中保存可還原的檢查點。匯出後請確認檔案完整性，並保留執行參數與環境紀錄，避免只留有模型檔案卻無法重現實驗。
大型檔案轉存也需要時間，最後一輪任務與租期到期之間，請預留完整的匯出與校驗時間。
到期前完成轉存與完整性檢查
連線與系統管理
交付後可在控制台查看 SSH 憑證，並使用提供的 IPv4 連線至 NVIDIA DGX OS。設備不含 BMC / IPMI；硬體重啟與系統重裝請透過控制台工單申請。
工單請說明任務階段、故障狀況及已進行的排查；請勿在公開內容或電子郵件主旨中放入密碼、金鑰等憑證。
下單前逐項確認
三項條件決定專案能否順利執行
本頁已完整列出以下條件，不會以收合內容取代說明。進入下單頁後，請確認這三項，再選擇租用天數。
-
01
ARM64 架構
無法執行 x86 程式或 Windows。請檢查專案的二進位相依項目、Python 擴充套件與容器映像檔是否支援 ARM64；若相依項目無法移植，不應只因記憶體容量合適就下單。
-
02
僅提供 DGX OS
系統固定為 NVIDIA DGX OS，以 Ubuntu 24.04 為基礎，並包含 CUDA 與 NVIDIA AI 軟體堆疊。不提供其他發行版或 Windows，模型須自行準備與下載。
-
03
到期後清除資料
實驗結果與模型都須自行備份。請先確認轉存路徑與校驗方式，再安排租期；到期後無法依賴設備繼續保存權重、檢查點或專案檔案。
確認實驗需求，再選擇租用天數
OnuCloud DGX Spark 固定每日 $15，可租用 1–365 天。確認 ARM64、DGX OS 與到期前轉存安排後，前往獨立下單頁選擇天數。