1. Визначте результат, перш ніж вибирати карту
Виберіть зразок, який проходить через усю вашу програму. Для інференсу візьміть кілька репрезентативних вхідних даних і очікуваний формат вихідних. Для адаптації моделі передбачте короткий запуск, який читає дані, виконує оновлення та записує контрольну точку. Мета — перевірити весь шлях, перш ніж довірити йому фінальний обсяг.
Наведемо навчальний приклад: ви хочете класифікувати документи. Підготуйте дванадцять ідентифікованих документів, серед яких кілька різних довжин і один випадок, який програма має коректно відхилити. Визначте дозволені категорії та призначення результатів. Усі дванадцять ідентифікаторів мають з’явитися у зведенні рівно один раз, із прийнятим результатом або явною помилкою. Цей сценарій слід адаптувати до вашої програми; він не передбачає жодної конкретної моделі чи пропускної здатності.
Прокрутіть таблицю, щоб побачити всі стовпці.| Що перевірити | Критерій, підготовлений до запуску |
|---|---|
| Вхідні дані | 12 унікальних ідентифікаторів; читабельні файли; передбачено один невалідний випадок. |
| Результати | Одна дозволена категорія на прийнятий документ; жодного вигаданого ідентифікатора. |
| Невдачі | Причина, прив’язана до кожного відхиленого документа; жодного тихого зникнення. |
| Завершення тесту | Прийняті + відхилені = 12; звіт і результати перевірено з копії. |
2. Виберіть бекенд, пам’ять і тариф
Почніть із бібліотек проєкту. Залежність від CUDA спрямовує вас до ланцюжка NVIDIA; тариф MI300X вимагає розглянути підтримку ROCm, зокрема розширень. Офіційний селектор PyTorch розрізняє систему та обчислювальну платформу: копіювання команди з іншої машини не є перевіркою сумісності.
Далі порівняйте пам’ять, потрібну для репрезентативного завдання: ваги, вхідні дані, проміжні обчислення та стани, властиві вашому методу. Розміру файлу моделі недостатньо. Якщо ви ще не знаєте пікового значення, залиште це як мету пілоту, не заявляючи, що модель поміститься лише за кількістю параметрів.
Виберіть 3, 7 або 30 днів і від 1 до 10 лотів. Лот містить одну карту, крім B200, який містить дві. Кілька карт не розподіляють програму автоматично й не об’єднують свою пам’ять. Закладайте в тривалість встановлення, перевірки, обчислення та експорт; дванадцять документів пілоту слугують для перевірки процедури, а не для механічного передбачення тривалості всієї кампанії.
3. Підготуйте теку, яка переживе зміну машини
Зберіть ревізію коду, залежності, посилання на дані й модель, параметри та команду запуску. Вкажіть, як окремо надавати необхідні доступи. Шлях до вашого домашнього каталогу не є процедурою перенесення: замініть неявні припущення параметрами та перевірте шляхи з теки проєкту.
Підготовка Ubuntu, PyTorch, Blender або власна, вибрана в конфігурації, виражає вашу потребу. Вона не доводить, що ваш проєкт, його розширення чи ліцензії вже встановлені. Опишіть, що має бути наявним, а потім перевірте фактично отримане середовище, перш ніж починати обробку.
Для нашої партії документів збережіть незмінні пілотні вхідні дані, файл параметрів і окрему теку результатів для кожної спроби. Також напишіть, як переглядати зведення. Ця тека не мусить бути великою; вона має запобігти тому, щоб успіх залежав від забутої комірки, старого термінала чи не скопійованого файлу.
проєкт/
README.md # встановлення, запуск, перевірка
requirements-rebuild.txt # задокументовані залежності та походження
config/pilote.json # параметри без секретів
data/pilote/ # 12 дозволених вхідних даних
src/ # ваша програма
runs/ # окрема підтека для кожної спроби4. Перевірте замовлення, а потім дотримуйтеся кроків сервісу
Підсумок має відповідати вашому вибору: модель, тривалість, лоти, загальна кількість карт, підготовка та сума в USD. Загальна сума — це ціна лота за тривалість, помножена на кількість лотів. Ціна лота B200 уже включає його дві карти: не множте вдруге на кількість GPU.
Для першого замовлення створіть обліковий запис із зазначенням імені, прізвища, email та пароля. Якщо у вас уже є обліковий запис, увійдіть; якщо ви вже увійшли, дані підставлені автоматично. Обліковий запис дає змогу переглядати замовлення та баланс з іншого браузера. Процес не вимагає ні процедури KYC, ні документа, що посвідчує особу.
Щоб оплатити криптовалютою, використайте актив, мережу, адресу, суму та строк, зазначені для відповідного платежу. Після переказу «Я оплатив» фіксує ваше повідомлення. Воно не підтверджує ні отримання коштів, ні надання послуги. Достатній баланс у USD також може повністю покрити вартість оренди. Далі дотримуйтеся інформації про підготовку та доступів, які фактично надані.
5. Перевірте запуск перед фінальним обсягом
Коли ресурс надано, визначте інтерпретатор, який фактично використовується, та завантажене середовище. Запустіть мінімальну діагностику перед вашим застосунком. Успішний імпорт PyTorch не доводить обчислення на GPU; успішне просте обчислення не підтверджує всі розширення моделі. Тека діагностики описує цю прогресію та надає ресурс для завантаження.
Потім запустіть свій пілот у новому каталозі виводу. Для документів перевірте ідентифікатори, категорії, кількість успішних результатів та очікувані відмови. Розгляньте кілька результатів разом з їхніми вхідними даними: синтаксично коректний вивід може залишатися неправильним для використання. Переходьте до повного корпусу лише після того, як запишете, що було прийнято, а що ще потрібно виправити.
Якщо запуск не вдається, зафіксуйте першу помилку та досягнутий етап. Перевірте інтерпретатор, перш ніж перевстановлювати; шляхи, перш ніж копіювати; розмір вхідних даних, перш ніж збільшувати batch. Змінюйте лише один фактор за раз. Якщо процес триває довго, організуйте його моніторинг окремо від інтерактивного з'єднання, яке ви використали для запуску.
6. Отримайте придатний доказ і вирішіть, що робити далі
Скопіюйте результати та їхній підсумок у місце, яке ви контролюєте, а потім перевірте цю копію. Переконайтеся, що вона містить параметри та посилання, необхідні для розуміння результату. Не вважайте файл, що є в обчислювальному середовищі, своєю єдиною резервною копією. Зробіть цю перевірку під час пілота, не чекаючи на завершення терміну оренди.
Для навчання додайте тест відновлення в новому процесі. Мініпроєкт Kernodeck демонструє метод на CPU; ваш застосунок ще має кваліфікувати власні стани, точність і дані. Для незалежних документів відновлення радше полягає у визначенні завершених елементів і тих, які потрібно обробити повторно.
Ваше фінальне рішення може полягати в запуску запланованого обсягу, виправленні середовища або перегляді конфігурації. Збережіть це рішення разом з його обґрунтуванням. Пілот, який виявляє несумісність, є корисним: він перетворює нечітку проблему на точну умову, яку потрібно вирішити, перш ніж витрачати більше обчислень.