Een volledige softwaremigratie voorbereiden
Maak een lijst van de componenten die GPU-rekenwerk uitvoeren: PyTorch, attention-bibliotheken, quantisatie en eventuele eigen operatoren. Een draagbaar Python-script kan afhangen van een uitsluitend CUDA-extensie. Controleer elk onderdeel op de gekozen ROCm-versie voordat je een grote campagne start.
In PyTorch voor ROCm blijven de torch.cuda-interfaces gebruikt worden om de GPU aan te duiden. Vervang dus niet mechanisch alle voorkomens door "hip": stel vast welke backend geïnstalleerd is en test een kleine echte berekening.
192 GB benutten met een representatieve test
Deze capaciteit geeft ruimte aan grote modellen, activaties of caches. Ze laat op zich niet toe de maximale grootte van een model af te leiden: precisie, lengte van de invoer, aanpassingsmethode en tijdelijke ruimtes veranderen de totale behoefte.
Bereid een case voor met je langste invoer en een volledige back-up. Vergelijk de numerieke resultaten van de migratie met een tolerantie die voor jouw taak is gedefinieerd, in plaats van een impliciete eis van identieke bestanden tussen platforms.
Wanneer een NVIDIA-pad behouden
Als een centrale extensie geen bruikbaar ROCm-pad heeft, kan de H200 SXM met 141 GB het project vereenvoudigen door onder CUDA te blijven. Voor software die al overdraagbaar is maar met een kleinere werklast, vergelijk je ook de werkelijke behoefte met een kaart van 80 GB. Het extra geheugen moet een geïdentificeerd probleem oplossen, en niet alleen een diagnose vervangen.
De huur opdelen in validatiestappen
Gebruik 3 dagen om te installeren, testen en afwijkingen te noteren; 7 dagen om de afhankelijkheden te stabiliseren en je uitvoer te vergelijken; 30 dagen voor een campagne waarvan het ROCm-pad is gevalideerd. Leg de systeemdistributie en de bibliotheekversies vast in het manifest.
Selecteer MI300X, de duur, de batches en een voorbereiding die past bij je ROCm-stack. Voornaam, achternaam en e-mail blijven de bestelgegevens; er wordt geen KYC-identiteitsdocument gevraagd. Kies daarna de crypto-methode en meld de overdracht met 'Ik heb betaald'.