양자화 추론: 약 200B 파라미터
양자화된 가중치는 더 적은 공간을 차지하지만, 실행 시에는 KV 캐시와 프레임워크, 시스템을 위한 메모리도 필요합니다. 모델 규모만으로 임의의 컨텍스트 길이나 동시 요청 수까지 지원된다고 볼 수는 없습니다.
배포 전에 양자화 정밀도, 컨텍스트 길이, 목표 동시 요청 수와 의존성 버전을 정리한 뒤 실제 워크로드로 메모리 사용량과 응답 성능을 검증하세요.
128GB 통합 메모리 · CPU와 GPU가 공유
단독 서버 · AI 실험 환경
NVIDIA DGX Spark 단독 서버 대여
서버 한 대를 한 고객이 단독으로 사용하며, 일본 도쿄 데이터센터에서 운영됩니다.
온프레미스 환경에서의 대규모 언어 모델 추론, 미세 조정 실험, CUDA 개발, AI 애플리케이션 프로토타입 검증에 적합합니다. ARM64 소프트웨어 호환성을 먼저 확인한 다음, 모델 가중치 다운로드와 실행, 결과 내보내기에 필요한 기간을 정하세요.
고정 사양으로 제공되며 모델은 사전 설치되지 않습니다. 전체 사양과 사용 조건은 아래에서 확인하세요.
고정 사양 등록 정보
슈퍼칩부터 시스템까지, 서버 전체 사양 확인
DGX Spark는 CPU, 통합 메모리, 스토리지와 네트워크가 하나의 고정 사양으로 제공됩니다. 정해진 하드웨어 범위에서 실험을 재현하기에 적합하며, 대여 후 사양을 추가해 리소스를 확장해야 하는 프로젝트에는 적합하지 않습니다.
| 항목 | 제공 사양 및 사용 안내 |
|---|---|
| 슈퍼칩 | NVIDIA GB10 Grace Blackwell |
| CPU | 20코어 Arm: Cortex-X925 10개 + Cortex-A725 10개 |
| 통합 메모리 | 128GB LPDDR5x 통합 메모리. CPU와 GPU가 공유하며, 각각 별도로 제공되는 메모리가 아닙니다. |
| 로컬 스토리지 | 4TB NVMe 고정 용량. 드라이브 추가는 불가합니다. |
| 네트워크 | 1Gbps 무제한 트래픽. 대역폭 변경은 불가합니다. |
| 공인 IP 주소 | 고정 IPv4 주소 1개. IP 추가는 불가합니다. |
| 운영체제 | Ubuntu 24.04 기반 NVIDIA DGX OS. CUDA와 NVIDIA AI 소프트웨어 스택이 사전 설치되며, 모델은 포함되지 않습니다. |
| 아키텍처 | ARM64. 프로젝트 의존성, 컨테이너 이미지와 바이너리의 아키텍처 호환성을 확인해야 합니다. |
NVIDIA DGX OS만 제공되며 Windows, Proxmox VE 또는 다른 배포판으로 변경할 수 없습니다. 메모리, 스토리지, 대역폭 또는 IPv4 추가 옵션은 없습니다.
실험 일정에 맞춰 대여 기간 선택
대여료는 일수로 계산되며 사양에 따른 추가 요금은 없습니다
하루 $15이며 1~365일 중 선택할 수 있습니다. 결제 금액 = 선택 일수 × $15입니다. 장기 계약은 없습니다. 아래는 기간별 결제 예시이며, 성능 테스트에 필요한 시간을 보장하지 않습니다.
1일 대여
$15이번 결제 금액
1 × $15 = $15
의존성을 확인하고 테스트 스크립트를 준비한 뒤 집중적으로 검증하는 경우에 적합합니다. 모델 가중치 다운로드와 결과 저장 시간도 고려해야 합니다.
7일 대여
$105이번 결제 금액
7 × $15 = $105
모델을 차례로 비교하거나 추론 매개변수를 조정하고 미세 조정 방법을 검증하는 경우에 적합합니다. 재다운로드, 의존성 문제 해결과 재테스트에 필요한 시간도 확보하세요.
30일 대여
$450이번 결제 금액
30 × $15 = $450
종료일이 정해진 프로토타입 개발에 적합합니다. 결제 금액은 선택 일수에 $15를 곱해 계산하며, 이용 기간이 길어져도 하루 기준 금액은 동일합니다.
준비, 다운로드, 실험, 결과 내보내기까지 네 단계에 필요한 시간을 대여 기간에 포함하세요. 다운로드를 마쳤다고 실험까지 끝난 것은 아니며, 작업 종료 후 데이터 저장 시간도 필요합니다.
메모리 사용량을 먼저 파악하고 작업 선택
모델 규모는 참고 기준이며 처리량을 보장하지 않습니다
NVIDIA의 공식 기준에 따르면 128GB 통합 메모리는 약 200B 파라미터 모델의 양자화 추론과 약 70B 파라미터 모델의 LoRA / QLoRA 미세 조정에 사용할 수 있습니다. 두 작업은 리소스 요구량이 다르므로 파라미터 수만으로 단순 비교할 수 없습니다.
LoRA / QLoRA: 약 70B 파라미터
여기서 말하는 방식은 파라미터 효율 미세 조정이며, 전체 파라미터 학습을 보장하지 않습니다. 시퀀스 길이, 배치 크기, 옵티마이저와 프레임워크 구현에 따라 실제 메모리 요구량이 달라집니다.
소규모 데이터로 학습 과정을 먼저 검증한 뒤 실험을 확대하는 데 적합합니다. 멀티 노드 학습이나 더 큰 리소스 풀이 필요한 작업은 이 단독 서버의 용도에 해당하지 않습니다.
128GB 통합 메모리 · 실제 학습 설정으로 검증
선택 기준과 고려 사항
완료 시점이 명확한 실험에 맞춰 서버를 대여하세요
DGX Spark는 하드웨어 요구 사항이 확정된 단기 AI 프로젝트에 적합합니다. 다른 서버를 대체할 수 있는지는 통합 메모리 용량만으로 판단하지 말고 소프트웨어 스택과 작업 조건을 기준으로 확인하세요.
적합한 작업: 모델 평가 및 프로토타입 검증
양자화 모델 비교, 추론 서비스 인터페이스 검증, 검색 증강 생성(RAG) 흐름 테스트, LoRA / QLoRA 실험에 사용할 수 있습니다. 입력 데이터와 평가 기준, 결과 저장 위치를 미리 정하면 대여 기간을 효율적으로 계획할 수 있습니다.
CUDA 개발에서도 ARM64 의존성을 확인해야 합니다. 서버 단독 사용은 리소스 공유 문제를 해결하지만, 애플리케이션 호환성 검증을 대신하지는 않습니다.
의존성과 데이터를 확인한 뒤 실험 횟수를 계획하세요
적합하지 않은 작업: 다른 아키텍처나 리소스 구성이 필요한 경우
x86 프로그램이나 Windows는 실행할 수 없으며 멀티 노드 클러스터도 제공되지 않습니다. 스토리지나 메모리를 추가해 확장할 수도 없습니다. 이러한 기능이 필수라면 다른 실행 환경을 선택하세요.
월 단위 장기 상시 운영을 전제로 하는 프로젝트에도 이 대여 방식은 적합하지 않습니다. 이 제품은 일수 기준으로만 요금이 부과됩니다.
호환성과 확장 요건을 주문 전에 확인하세요
모델 가중치 다운로드에도 대여 기간이 필요합니다
전송 시간은 모델 파일부터 계산하세요
시스템에는 모델이 사전 설치되지 않으므로 가중치와 데이터 세트를 직접 다운로드해야 합니다. 1Gbps는 회선 속도이며, 실제 다운로드 시간은 원본 서버, 네트워크 경로, 동시 연결 수와 압축 해제 과정에 따라 달라집니다. 이론상 속도를 제공 시점이나 다운로드 완료 시간으로 간주할 수 없습니다.
1Gbps 기준 이론상 참고 시간
파일 크기와 회선 속도를 바탕으로 계산한 근삿값입니다. 프로토콜 오버헤드, 속도 제한, 무결성 검사와 파일 처리 시간은 포함하지 않습니다.
| 파일 크기 | 이론상 소요 시간 |
|---|---|
| 40GB | 약 5.5분 |
| 100GB | 약 14분 |
| 140GB | 약 19분 |
4TB NVMe에는 시스템, 가중치, 데이터 세트, 캐시와 실험 결과가 함께 저장되므로 전체 용량을 모델 저장 공간으로 사용할 수는 없습니다. 여러 버전의 가중치와 중간 체크포인트도 용량 계획에 포함하세요.
작업 시작 전에 데이터 반출 계획을 세우세요
대여 만료 시 데이터 삭제, 결과는 미리 저장
대여 기간이 끝나면 DGX Spark의 데이터가 삭제됩니다. 모델 가중치, 학습 체크포인트, 평가 기록, 코드와 최종 결과를 만료 전에 직접 백업해야 하며, 대여 서버를 유일한 저장본으로 사용해서는 안 됩니다.
대여 기간 중 데이터 관리
작업을 시작하기 전에 백업 위치를 정하고, 실험 중에는 복구 가능한 체크포인트를 저장하세요. 내보낸 뒤 파일 무결성을 확인하고 실행 매개변수와 환경 기록도 보관해야 모델 파일만으로 실험을 재현할 수 없는 상황을 피할 수 있습니다.
대용량 파일을 옮기는 데도 시간이 필요합니다. 마지막 작업과 대여 만료 사이에 내보내기와 검증을 마칠 시간을 충분히 확보하세요.
만료 전에 데이터 저장과 무결성 검사를 완료하세요
접속 및 시스템 작업
서버 제공 후 콘솔에서 SSH 인증 정보를 확인하고, 제공된 IPv4 주소로 NVIDIA DGX OS에 접속하세요. 이 서버에는 BMC / IPMI가 없습니다. 강제 재시작과 운영체제 재설치는 콘솔의 지원 티켓으로 요청하세요.
지원 티켓에는 작업 단계, 문제 증상과 이미 시도한 조치를 적어 주세요. 공개 게시물이나 이메일 제목에 비밀번호, 키와 같은 인증 정보를 포함하지 마세요.
주문 전에 하나씩 확인하세요
세 가지 전제 조건으로 프로젝트 실행 가능성을 확인하세요
아래 조건을 모두 이 페이지에 명시했습니다. 내용을 접어서 안내를 대신하지 않습니다. 주문 페이지에서 세 가지 조건을 확인한 뒤 대여 일수를 선택하세요.
-
01
ARM64 아키텍처
x86 프로그램과 Windows는 실행할 수 없습니다. 프로젝트의 바이너리 의존성, Python 확장 모듈과 컨테이너 이미지가 ARM64를 지원하는지 확인하세요. 의존성을 이전할 수 없다면 메모리 용량만 보고 주문하지 마세요.
-
02
DGX OS만 제공
운영체제는 Ubuntu 24.04 기반 NVIDIA DGX OS로 고정되며 CUDA와 NVIDIA AI 소프트웨어 스택이 포함됩니다. 다른 배포판이나 Windows는 제공되지 않습니다. 모델은 직접 준비하고 다운로드해야 합니다.
-
03
만료 시 데이터 삭제
실험 결과와 모델은 직접 백업해야 합니다. 대여 기간을 정하기 전에 데이터 저장 경로와 검증 방법을 정하세요. 만료 후에도 서버에 가중치, 체크포인트 또는 프로젝트 파일이 보관된다고 기대할 수 없습니다.
실험 범위를 정한 뒤 대여 일수를 선택하세요
OnuCloud DGX Spark는 하루 $15, 1~365일 대여할 수 있습니다. ARM64, DGX OS와 만료 전 데이터 저장 계획을 확인한 뒤 별도 주문 페이지에서 대여 기간을 선택하세요.