Увеличить данные до переписывания ПО
Сегментация на более крупных изображениях, серия промежуточных тензоров или несколько компонентов, загруженных вместе, могут оправдать 48 ГБ. Возьмите уже работающий пример, а затем постепенно увеличивайте то измерение, которое вас ограничивало. Такой подход даёт более точный ответ, чем одновременная смена железа, модели и библиотеки.
Не путайте ёмкость карты с объёмом, доступным для ваших тензоров. Контекст GPU, библиотеки и буферы тоже занимают память; предусмотрите запас в выбранном сценарии.
Сохранить цепочку совместимости Ampere
Задокументируйте CUDA-расширения, специфичные для проекта, и то, как они были установлены. Проверьте их работу с вашими обычными типами данных и размерностями. Совместимость с Ampere не означает, что все версии всех пакетов сочетаются без доработок.
Если вы арендуете несколько лотов, выберите между распределением независимых задач и разделением одного вычисления. В обоих случаях явно назначайте процессы и выходные данные; программа должна уметь использовать дополнительные карты.
48 ГБ: сравнить ёмкость и задачу
RTX 6000 Ada сохраняет 48 ГБ и позволяет изучить другое поколение при том же бюджете памяти. A40 — ещё один вариант Ampere на 48 ГБ, который стоит сравнить для пакетной обработки. Если модель превышает и эту ёмкость, A100 SXM на 80 ГБ может избежать преждевременного дробления программы.
Аренда, рассчитанная на продолжение
Три дня позволяют подтвердить увеличение сценария. Неделя может охватить обработку корпуса с контролем выходных данных. На 30 дней подготовьте манифест завершённых файлов и продолжение, которое не повторяет уже успешно выполненное.
Укажите срок и лоты в конфигурации, выберите подготовку, затем заполните имя, фамилию и email. Криптоплатёж идёт по указанной сети и сумме. После перевода отметка «Я оплатил» остаётся доступной в заказе вместе со статусом проверки.