Deux cartes, un plan de répartition explicite
Commencez par choisir entre deux stratégies : une copie du modèle sur chaque carte pour traiter des données différentes, ou un modèle réellement réparti entre les GPU. Le parallélisme de données PyTorch ne transforme pas, à lui seul, deux mémoires en une seule réserve utilisable par un modèle trop volumineux.
Les 180 Go appartiennent à chaque B200. Pour les exploiter ensemble, documentez le découpage du modèle, les échanges entre processus et la sauvegarde des partitions. Un test court de communication et de restauration doit précéder la campagne complète.
Vérifier Blackwell avant d’optimiser
Préparez une distribution PyTorch et des extensions compilées compatibles avec B200. Une bibliothèque Python importée sans erreur peut encore échouer au premier noyau CUDA : testez donc le chargement, une passe avant, le calcul des gradients et l’écriture d’un checkpoint. Conservez les versions qui ont exécuté ce parcours.
Séparez ensuite compilation initiale et calcul stabilisé dans vos mesures. Cette distinction aide à décider si une optimisation mérite d’être conservée pour votre propre charge.
Quand choisir H200 ou MI300X
Si tout votre traitement tient sur une seule carte et n’utilise pas le second GPU, examinez le H200 SXM à 141 Go. Si votre priorité est une grande mémoire par carte avec un environnement ROCm maîtrisé, le MI300X à 192 Go constitue une autre piste. Le choix dépend d’abord du logiciel et du plan de calcul.
Planifier le lot et ses livrables
Prévoyez 3 jours pour valider le lancement distribué, 7 jours pour comparer plusieurs réglages et 30 jours pour une campagne accompagnée de checkpoints réguliers. Chaque lot commandé contient deux B200 ; vérifiez le total de cartes dans le récapitulatif.
Sélectionnez la durée, les lots et la préparation, puis renseignez prénom, nom et email. Choisissez votre crypto et son réseau ; après le transfert, « J’ai payé » enregistre votre signalement. Gardez la référence de commande avec le manifeste des exécutions.