Tam bir eğitim adımından başlama
İlk denemeniz veri okuma, ileri geçiş, gradyan hesaplama ve optimize edici güncellemesini kapsamalıdır. Partiyi artırmadan önce bu tam döngüyü ölçün. Ağırlıklar kullanılan belleğin yalnızca bir parçasıdır: aktivasyonlar ve eğitim durumları da 80 GB'a sığmalıdır.
Büyük örnekler dahil olmak üzere temsili bir giriş dizisi saklayın. Böylece tüm kampanyayı özellikle kolay bir ilk partiden yola çıkarak boyutlandırmaktan kaçınırsınız.
Karma hassasiyet ve kontrollü karşılaştırma
PyTorch, autocast ile bazı işlemler için uyarlanmış bir hassasiyet seçmenize olanak tanır. Bu ayarı kayıp fonksiyonunuz ve doğrulama ölçütleriniz üzerinde test edin. Etkinleştirilmiş bir seçenek sayısal kararlılığın kanıtı değildir: bir karşılaştırma çalıştırması, metrikler ve tam parametreleri saklayın.
Birden çok kart için GPU başına partiyi küresel partiden ayırın. Süreç sayısı ve gradyan birikimi, öğrenme oranıyla aynı şekilde protokolün parçasıdır.
SXM, PCIe veya daha fazla bellek
H100 PCIe 80 GB kapasitesini korur ve ağırlıklı olarak tek kartlı işler için karşılaştırmaya değer. GPU'lar arasında sık veri alışverişi için uygulamanızın gerçekte kullandığı topolojiyi ölçün; SXM adı bu kontrolün yerini tutmaz. Tanımlanan sorun öncelikle kart başına bellek yetersizliğiyse H200'ü tercih edin.
Devam ettirmeyi de içeren bir dönem ayırtın
Bir döngüyü ve bir checkpoint'i doğrulamak için 3 gün, bir ablasyon serisi için 7 gün veya takip edilen deneyler için 30 gün seçin. Bu takvime yalnızca eğitim epoch'larını değil, değerlendirme ve dışa aktarmayı da dahil edin.
Yapılandırıcıda PyTorch veya özel hazırlığı, batch'lerinizi ve sürenizi seçin. Siparişi kaydetmeden ve kripto ödemesini seçmeden önce hesabınızı oluşturun veya giriş yapın. "Ödeme yaptım" düğmesi transferi bildirmeye yarar; ödeme takibi hesabınızda görünmeye devam eder.