La mémoire unifiée n’est pas une mémoire vidéo dédiée
Les 128GB de LPDDR5x sont partagés entre le CPU et le GPU. Le système, l’environnement d’exécution et les modèles se partagent cette capacité. Pour vérifier qu’un modèle peut être chargé, tenez compte de la précision des poids, du contexte, du cache et des processus applicatifs : la capacité totale ne peut pas être considérée comme disponible uniquement pour les poids du modèle.
Vérifiez l’environnement logiciel avant la durée de location
NVIDIA DGX OS est basé sur Ubuntu 24.04 et inclut CUDA ainsi que la pile logicielle NVIDIA AI. Aucun modèle n’est préinstallé ; les poids et dépendances applicatives sont à préparer. Si un programme existant dépend de binaires x86 ou de Windows, prévoyez une autre solution technique plutôt que d’ajouter des jours de location.
Un débit fixe ne garantit pas une durée de téléchargement fixe
Le débit de 1 Gbps sans limite de trafic convient au téléchargement des poids et à l’export des résultats, mais la vitesse réelle dépend de la source des modèles, de la liaison et de l’application. Prévoyez le temps de préparation, d’exécution et d’exportation : ne comptez pas uniquement la durée de l’inférence ou de l’entraînement.