1. Zdefiniuj wynik, zanim wybierzesz kartę
Wybierz próbkę przechodzącą przez całą Twoją aplikację. W przypadku wnioskowania zacznij od kilku reprezentatywnych danych wejściowych i oczekiwanego formatu wyjściowego. W przypadku dostrajania modelu zaplanuj krótkie uruchomienie, które odczytuje dane, wykonuje aktualizację i zapisuje checkpoint. Celem jest sprawdzenie pełnej ścieżki, zanim powierzysz jej docelowy wolumen.
Weźmy przykład dydaktyczny: chcesz klasyfikować dokumenty. Przygotuj dwanaście oznaczonych dokumentów o różnych długościach, w tym jeden przypadek, który program musi poprawnie odrzucić. Ustal dozwolone kategorie i miejsce docelowe wyników. Dwanaście identyfikatorów musi pojawić się dokładnie raz w podsumowaniu, z zaakceptowanym wynikiem lub jawnym błędem. Ten scenariusz należy dostosować do Twojej aplikacji; nie zakłada żadnego konkretnego modelu ani przepustowości.
Przewiń tabelę, aby zobaczyć wszystkie kolumny.| Punkt do sprawdzenia | Kryterium przygotowane przed uruchomieniem |
|---|---|
| Dane wejściowe | 12 unikalnych identyfikatorów; czytelne pliki; przewidziany jeden nieprawidłowy przypadek. |
| Wyniki | Jedna dozwolona kategoria na zaakceptowany dokument; żadnych wymyślonych identyfikatorów. |
| Niepowodzenia | Powód przypisany do każdego odrzuconego dokumentu; żadnego cichego zniknięcia. |
| Zakończenie próby | Zaakceptowane + odrzucone = 12; raport i wyniki zweryfikowane z kopii. |
2. Wybierz backend, pamięć i pakiet
Zacznij od bibliotek projektu. Zależność CUDA kieruje Cię w stronę łańcucha NVIDIA; oferta MI300X wymaga sprawdzenia wsparcia ROCm, zwłaszcza rozszerzeń. Oficjalny selektor PyTorch rozróżnia system i platformę obliczeniową: skopiowanie polecenia z innego komputera nie stanowi weryfikacji zgodności.
Następnie porównaj pamięć potrzebną dla reprezentatywnego zadania: wagi, dane wejściowe, obliczenia pośrednie i stany specyficzne dla Twojej metody. Rozmiar pliku modelu nie wystarcza. Jeśli nie znasz jeszcze szczytowego zapotrzebowania, pozostaw ten punkt jako cel pilotażu, nie ogłaszając, że model zmieści się na podstawie samej liczby parametrów.
Wybierz 3, 7 lub 30 dni oraz od 1 do 10 partii. Partia zawiera jedną kartę, z wyjątkiem B200, która zawiera dwie. Wiele kart nie rozdziela automatycznie programu ani nie łączy ich pamięci. Uwzględnij w czasie instalację, kontrole, obliczenia i eksport; dwanaście dokumentów pilotażowych służy do sprawdzenia procedury, a nie do mechanicznego przewidywania czasu trwania całej kampanii.
3. Przygotuj katalog, który przetrwa zmianę maszyny
Zbierz rewizję kodu, zależności, referencję danych i modelu, parametry oraz polecenie uruchomienia. Wskaż, jak oddzielnie dostarczyć niezbędne dostępy. Ścieżka do Twojego katalogu domowego nie jest procedurą transferu: zastąp ukryte założenia parametrami i zweryfikuj ścieżki z katalogu projektu.
Przygotowanie Ubuntu, PyTorch, Blender lub niestandardowe wybrane w konfiguracji wyraża Twoją potrzebę. Nie dowodzi, że Twój projekt, jego rozszerzenia lub licencje są już zainstalowane. Opisz, co ma być obecne, a następnie sprawdź faktycznie otrzymane środowisko przed rozpoczęciem przetwarzania.
W przypadku naszej partii dokumentów zachowaj niezmienne wejście pilotażowe, plik parametrów i oddzielny katalog wyników dla każdej próby. Opisz także, jak zweryfikować podsumowanie. Ten katalog nie musi być obszerny; ma zapobiec temu, by sukces zależał od zapomnianej komórki, starego terminala lub nieskopiowanego pliku.
projekt/
README.md # instalacja, uruchomienie, kontrola
requirements-rebuild.txt # udokumentowane zależności i pochodzenie
config/pilote.json # parametry bez sekretów
data/pilote/ # 12 dozwolonych danych wejściowych
src/ # Twoja aplikacja
runs/ # podkatalog dla każdej próby4. Sprawdź zlecenie, a następnie postępuj zgodnie z krokami usługi
Podsumowanie musi odpowiadać Twojemu wyborowi: model, czas trwania, partie, łączna liczba kart, przygotowanie i kwota w USD. Suma to cena partii za dany czas trwania pomnożona przez liczbę partii. Cena partii B200 zawiera już jej dwie karty: nie mnóż jej ponownie przez liczbę GPU.
Przy pierwszym zamówieniu utwórz konto, podając imię, nazwisko, adres e-mail i hasło. Jeśli masz już konto, zaloguj się; jeśli jesteś zalogowany, dane są wstępnie wypełnione. Konto pozwala odzyskać zamówienia i saldo z innej przeglądarki. Proces nie wymaga procedury KYC ani dokumentu tożsamości.
Aby zapłacić w krypto, użyj aktywa, sieci, adresu, kwoty i terminu wyświetlonych dla danej płatności. Po przelewie „Zapłaciłem” rejestruje Twoje zgłoszenie. Nie potwierdza ono otrzymania środków ani udostępnienia. Wystarczające saldo w USD może również w całości rozliczyć wynajem. Następnie śledź informacje o przygotowaniu i faktycznie przekazane dostępy.
5. Sprawdź uruchomienie przed docelowym wolumenem
Gdy zasób zostanie udostępniony, ustal, który interpreter jest faktycznie używany i jakie środowisko zostało załadowane. Uruchom minimalną diagnostykę przed swoją aplikacją. Udany import PyTorch nie dowodzi obliczeń na GPU; udane proste obliczenie nie waliduje wszystkich rozszerzeń modelu. Katalog diagnostyczny opisuje tę progresję i udostępnia zasób do pobrania.
Następnie uruchom swój pilot w nowym katalogu wyjściowym. W przypadku dokumentów sprawdź identyfikatory, kategorie, liczbę sukcesów i oczekiwane odrzucenia. Przejrzyj kilka wyników wraz z ich danymi wejściowymi: składniowo poprawny wynik może pozostać niepoprawny dla danego zastosowania. Do pełnego korpusu przejdź dopiero po zapisaniu, co zostało zaakceptowane, a co wymaga poprawy.
Jeśli uruchomienie się nie powiedzie, zanotuj pierwszy błąd i osiągnięty krok. Sprawdź interpreter, zanim zaczniesz reinstalować; ścieżki, zanim zaczniesz kopiować; rozmiar danych wejściowych, zanim zwiększysz batch. Zmieniaj jeden czynnik naraz. Jeśli proces trwa długo, zorganizuj jego monitorowanie niezależnie od interaktywnego połączenia użytego do jego uruchomienia.
6. Uzyskaj użyteczny dowód i zdecyduj, co dalej
Skopiuj wyniki i ich podsumowanie do miejsca, które kontrolujesz, a następnie przejrzyj tę kopię. Sprawdź, czy zawiera parametry i odwołania niezbędne do zrozumienia wyniku. Nie traktuj pliku znajdującego się w środowisku obliczeniowym jako swojej jedynej kopii zapasowej. Wykonaj tę kontrolę podczas pilotażu, nie czekając na koniec wynajmu.
W przypadku treningu dodaj test wznowienia w nowym procesie. Mini-projekt Kernodeck demonstruje metodę na CPU; Twoja aplikacja musi jeszcze zweryfikować własne stany, precyzję i dane. W przypadku niezależnych dokumentów wznowienie polega raczej na zidentyfikowaniu ukończonych elementów i tych do ponownego przetworzenia.
Twoja ostateczna decyzja może polegać na uruchomieniu zaplanowanego wolumenu, poprawieniu środowiska lub zmianie konfiguracji. Zachowaj tę decyzję wraz z jej uzasadnieniem. Pilot, który ujawnia niezgodność, jest użyteczny: zamienia niejasny problem w precyzyjny warunek do rozwiązania, zanim zaangażujesz więcej obliczeń.