Eine vollständige Software-Migration vorbereiten
Erstellen Sie eine Liste der Komponenten, die GPU-Berechnungen ausführen: PyTorch, Attention-Bibliotheken, Quantisierung und eventuelle eigene Operatoren. Ein portables Python-Skript kann von einer ausschließlich CUDA-basierten Erweiterung abhängen. Prüfen Sie jede Komponente mit der gewählten ROCm-Version, bevor Sie eine größere Kampagne starten.
In PyTorch für ROCm werden weiterhin die torch.cuda-Schnittstellen verwendet, um die GPU zu bezeichnen. Ersetzen Sie also nicht mechanisch alle Vorkommen durch „hip“: Identifizieren Sie das installierte Backend und testen Sie eine kleine echte Berechnung.
192 GB mit einem repräsentativen Test nutzen
Diese Kapazität schafft Platz für große Modelle, Aktivierungen oder Caches. Sie erlaubt es jedoch nicht, allein daraus die maximale Größe eines Modells abzuleiten: Präzision, Länge der Eingaben, Anpassungsmethode und temporäre Speicherbereiche verändern den Gesamtbedarf.
Bereiten Sie einen Fall vor, der Ihre längsten Eingaben und eine vollständige Sicherung umfasst. Vergleichen Sie die numerischen Ergebnisse der Migration mit einer für Ihre Aufgabe definierten Toleranz, statt implizit identische Dateien zwischen Plattformen zu verlangen.
Wann ein NVIDIA-Pfad beibehalten werden sollte
Wenn eine zentrale Erweiterung keinen nutzbaren ROCm-Pfad hat, kann der H200 SXM mit 141 GB das Projekt vereinfachen, indem er unter CUDA bleibt. Bei bereits portierbarer Software, aber geringerer Last sollten Sie auch den tatsächlichen Bedarf mit einer 80-GB-Karte vergleichen. Der zusätzliche Speicher muss ein identifiziertes Problem lösen und nicht nur eine Diagnose ersetzen.
Die Miete in Validierungsschritte aufteilen
Verwenden Sie 3 Tage zum Installieren, Testen und Notieren der Abweichungen; 7 Tage, um die Abhängigkeiten zu stabilisieren und Ihre Ausgaben zu vergleichen; 30 Tage für eine Kampagne, deren ROCm-Pfad validiert ist. Halten Sie die Systemdistribution und die Bibliotheksversionen im Manifest fest.
Wählen Sie MI300X, die Dauer, die Stapel und eine auf Ihren ROCm-Stack abgestimmte Vorbereitung. Vorname, Nachname und E-Mail bleiben die Bestelldaten; es wird kein KYC-Identitätsdokument verlangt. Wählen Sie anschließend die Krypto-Methode und melden Sie die Überweisung mit „J'ai payé“ (Ich habe bezahlt).