完全なソフトウェア移行を準備する
GPU計算を実行するコンポーネントをリストアップしてください：PyTorch、アテンションライブラリ、量子化、および必要に応じて自作オペレーター。ポータブルなPythonスクリプトが、CUDA専用の拡張機能に依存している場合があります。大規模なキャンペーンを開始する前に、選択したROCmバージョンで各コンポーネントを検証してください。
ROCm用のPyTorchでは、GPUを指すためにtorch.cudaインターフェースが引き続き使用されます。したがって、すべての出現箇所を機械的に「hip」に置き換えないでください。インストールされているバックエンドを特定し、小さな実際の計算をテストしてください。
代表的なテストで192 GBを活用する
この容量は大規模なモデル、アクティベーション、キャッシュに余地を与えます。ただし、これだけではモデルの最大サイズを判断できません。精度、入力長、適応方法、一時領域によって必要な総量は変わるからです。
最も長い入力を含み、完全なバックアップを取得したケースを用意してください。プラットフォーム間でファイルが同一であるという暗黙の要件を課すのではなく、タスクに対して定めた許容範囲で移行後の数値結果を比較しましょう。
NVIDIA の経路を維持すべき場合
中核となる拡張機能に使用可能な ROCm 経路がない場合は、141 GB の H200 SXM が CUDA のままプロジェクトを簡素化できます。すでに移植可能なソフトウェアだが負荷がより小さい場合は、実際の必要量を 80 GB のカードとも比較してください。追加メモリは、単に診断を置き換えるのではなく、特定された問題を解決するものでなければなりません。
レンタルを検証段階に分割する
3 日間はインストール、テスト、差異の記録に。7 日間は依存関係の安定化と出力の比較に。30 日間は ROCm 経路が検証済みのキャンペーンに使用します。システムのディストリビューションとライブラリのバージョンをマニフェストに記録してください。
MI300X、期間、ロット、および ROCm スタックに適した準備を選択します。氏名とメールアドレスは注文時の連絡先であり、KYC の身分証明書は一切求められません。その後、暗号資産の方法を選択し、「支払いました」で送金を報告します。