Een corpus opdelen in hervatbare eenheden
Geef voor feature-extractie, beeldanalyse of bestandstransformatie elke werkeenheid een stabiele identificatie. Schrijf het resultaat naar een deterministische locatie en noteer zowel successen als fouten. Een onderbreking moet het mogelijk maken de resterende items te hervatten zonder ontbrekende en ongeldige bestanden te verwarren.
Test dit mechanisme eerst op een paar heterogene invoeren. Het nuttige resultaat is een procedure die onvolledig werk kan detecteren, niet alleen een map met uitvoer.
De batch vinden die marge behoudt
De 48 GB laat je grotere batches verkennen dan een capaciteit van 24 GB, afhankelijk van de belasting. Varieer het aantal items zonder hun formaat te wijzigen en voeg dan de zwaarste gevallen toe. De gekozen batch moet deze schommelingen opvangen zonder het geheugen bij elke invoervariatie te verzadigen.
Maak in PyTorch onderscheid tussen geheugen dat door tensors wordt ingenomen en geheugen dat door de allocator wordt gereserveerd. Een hoog getal in de systeemtool betekent niet automatisch dat er een lek is; onderzoek de evolutie ervan en de objecten die het programma bijhoudt.
A40, RTX A6000 of L40S
De RTX A6000 blijft in de Ampere-familie met 48 GB en verdient een vergelijking voor jouw software. De L40S behoudt deze capaciteit op Ada, met name voor een pipeline gericht op inferentie of media. Als het corpus op 24 GB past en de batches klein zijn, controleer dan ook of een bescheidener kaart volstaat voor je doel.
Periode en te verwerken volume op elkaar afstemmen
Gebruik 3 dagen om het werk te schatten op basis van een steekproef, 7 dagen voor een eerste gecontroleerde campagne, of 30 dagen voor meerdere geplande golven. Een schatting uit je eigen test is nuttiger dan een extrapolatie op basis van de naam van de GPU.
Stel de A40-batches, de duur en de omgeving in, en vervolgens je contactgegevens. Bewaar na de crypto-keuze de bestelmap met het manifest van het corpus. De knop "Ik heb betaald" registreert de melding na de overschrijving en laat de verificatie zijn gang gaan.