拡張する前にシナリオを収める
短い目標を選びましょう。文書セットの処理、いくつかのパラメータの調整、一連の画像生成などです。完全なサンプルをロードし、メモリのピークを記録します。シナリオが失敗したら、一度に 1 つの次元 — バッチ、長さ、解像度 — を減らして、どれが必要量を左右しているかを理解しましょう。
勾配の蓄積は、マイクロバッチから実効バッチを構築するのに役立ちます。ただし、単純な推論パスよりも状態が多くの領域を占めるトレーニングステップの測定を省略できるわけではありません。
試行用ノートブックから抜け出す
プロトタイプが動作したら、その手順を明示的な設定を受け取るスクリプトにエクスポートします。モデル、入力、パッケージのバージョン、出力先を固定します。実行順序が不明なノートブックは、何日も変更を重ねた後に比較するのが難しくなります。
CUDAの読み込みを確認し、既知の出力を生成する小さなテストを用意しておきます。PyTorchや拡張機能のアップデートでプロジェクトの経路が変わった場合に、すぐに気づくことができます。
24 GBを超えるべきタイミング
32 GBと互換性のあるBlackwellスタックがニーズに合うなら、RTX 5090に移行します。割り当てが24 GBを大きく超える場合は、RTX A6000のような48 GBのカードを選びます。Ampereで既に認定済みで要件が控えめなアプリケーションであれば、RTX 3090も比較対象として適切です。
各期間に明確な成果を設定する
3日間では、再実行可能なスクリプトと初期測定を目指します。7日間では、データセットを同時に変更せずにパラメータを比較します。30日間では、チェックポイント付きの複数の試行と、ワークスペース外に保存するまとめを計画します。
レンタルするには、ロット、期間、環境を選択し、アカウントを作成するかログインします。次に、暗号資産とネットワークを選択します。送金が完了したら「支払いました」を使用し、アカウントで申請のステータスを確認できます。