ソフトウェアを書き直す前にデータを拡大する
より大きな画像でのセグメンテーション、一連の中間テンソル、複数コンポーネントの同時読み込みなどが48 GBを正当化する場合があります。既に動作している例を再利用し、制限となっていた次元を徐々に拡大します。このアプローチは、ハードウェア、モデル、ライブラリを同時に変更するよりも的確な答えを与えます。
カードの容量とテンソルに利用可能な量を混同しないでください。GPUコンテキスト、ライブラリ、バッファもメモリを使用します。採用するシナリオには余裕を見込んでおきましょう。
Ampereの互換性チェーンを維持する
プロジェクト固有のCUDA拡張機能とそのインストール方法を文書化します。通常のデータ型と次元でそれらの実行をテストします。Ampereとの互換性があるからといって、すべてのパッケージのすべてのバージョンが作業なしに組み合わせられるわけではありません。
複数のロットを借りる場合は、独立したタスクを分散するか、1つの計算を分割するかを選びます。いずれの場合も、プロセスと出力を明示的に割り当ててください。プログラムが追加のカードを利用できるようにしておく必要があります。
48 GB：容量と目的を比較する
RTX 6000 Adaは48 GBを保持し、同じメモリ予算で異なる生成を検討できます。A40はバッチ処理向けに比較すべき48 GBのAmpereの別オプションです。モデルがこの容量をさらに超える場合、80 GBのA100 SXMによってプログラムの早すぎる分割を避けられます。
再開を前提としたレンタル
3日間あればシナリオの拡張を検証できます。1週間あれば出力を確認しながらコーパスの処理をカバーできます。30日間の場合は、完了したファイルのマニフェストと、すでに成功した処理をやり直さない再開方法を用意してください。
設定に期間とロットを保持し、準備を選択してから名、姓、メールを入力します。暗号資産での支払いは、表示されたネットワークと金額に従います。送金後、「支払いました」の報告は注文内で確認でき、検証状況も表示されます。