Zwiększyć dane, zanim przepiszesz oprogramowanie
Segmentacja na większych obrazach, seria tensorów pośrednich lub kilka komponentów ładowanych razem mogą uzasadniać 48 GB. Wróć do już działającego przykładu, a następnie stopniowo zwiększaj wymiar, który Cię ograniczał. To podejście daje dokładniejszą odpowiedź niż jednoczesna zmiana sprzętu, modelu i biblioteki.
Nie myl pojemności karty z ilością dostępną dla Twoich tensorów. Kontekst GPU, biblioteki i bufory również zużywają pamięć; zaplanuj margines w wybranym scenariuszu.
Zachować łańcuch kompatybilności Ampere
Udokumentuj rozszerzenia CUDA specyficzne dla projektu i sposób ich instalacji. Przetestuj ich działanie z Twoimi zwykłymi typami danych i wymiarami. Kompatybilność z Ampere nie oznacza, że wszystkie wersje wszystkich pakietów łączą się bez pracy.
Jeśli wynajmujesz kilka partii, wybierz między rozdzieleniem niezależnych zadań a podziałem jednego obliczenia. W obu przypadkach przypisz procesy i wyniki jawnie; program musi wiedzieć, jak korzystać z dodatkowych kart.
48 GB: porównać pojemność i cel
RTX 6000 Ada zachowuje 48 GB i pozwala zbadać inną generację przy tym samym budżecie pamięci. A40 to inna opcja Ampere 48 GB do porównania dla przetwarzania wsadowego. Jeśli model nadal przekracza tę pojemność, A100 SXM 80 GB może zapobiec przedwczesnemu dzieleniu programu.
Wynajem pomyślany do wznowienia
Trzy dni pozwalają zweryfikować powiększenie scenariusza. Tydzień może objąć przetworzenie korpusu z kontrolą wyników. Na 30 dni przygotuj manifest ukończonych plików i wznowienie, które nie powtarza tego, co już się udało.
Zapisz czas trwania i partie w konfiguracji, wybierz przygotowanie, a następnie podaj imię, nazwisko i email. Płatność krypto przebiega według wyświetlanej sieci i kwoty. Po przelewie zgłoszenie „Zapłaciłem” pozostaje widoczne w zamówieniu wraz ze stanem weryfikacji.