De data vergroten voordat je de software herschrijft
Een segmentatie op grotere afbeeldingen, een reeks tussentijdse tensoren of meerdere componenten die samen worden geladen, kunnen 48 GB rechtvaardigen. Neem een al werkend voorbeeld en vergroot geleidelijk de dimensie die je beperkte. Deze aanpak geeft een nauwkeuriger antwoord dan tegelijk de hardware, het model en de bibliotheek te wijzigen.
Verwar de capaciteit van de kaart niet met de hoeveelheid die beschikbaar is voor je tensoren. De GPU-context, de bibliotheken en de buffers gebruiken ook geheugen; voorzie een marge in het gekozen scenario.
De Ampere-compatibiliteitsketen behouden
Documenteer de CUDA-extensies die eigen zijn aan het project en de manier waarop ze zijn geïnstalleerd. Test hun uitvoering met je gebruikelijke datatypes en dimensies. Compatibiliteit met Ampere betekent niet dat alle versies van alle pakketten zonder werk te combineren zijn.
Als je meerdere lots huurt, kies dan tussen het verdelen van onafhankelijke taken of het opsplitsen van één berekening. Wijs in beide gevallen de processen en de uitvoer expliciet toe; het programma moet weten hoe het de extra kaarten gebruikt.
48 GB: capaciteit en doel vergelijken
De RTX 6000 Ada behoudt 48 GB en laat je een andere generatie onderzoeken met hetzelfde geheugenbudget. De A40 is een andere Ampere-optie van 48 GB om te vergelijken voor batchverwerking. Als het model nog steeds deze capaciteit overschrijdt, kan de A100 SXM met 80 GB een voortijdige opsplitsing van het programma voorkomen.
Een huur die bedoeld is om te hervatten
Drie dagen volstaan om de uitbreiding van het scenario te valideren. Een week kan de verwerking van een corpus met controle van de uitvoer dekken. Bereid over 30 dagen een manifest van de voltooide bestanden voor en een hervatting die niet opnieuw doet wat al is gelukt.
Leg de looptijd en de lots vast in de configuratie, kies je voorbereiding en vul voornaam, achternaam en e-mail in. De cryptobetaling volgt het netwerk en het weergegeven bedrag. Na je overdracht blijft de melding ‘Ik heb betaald’ raadpleegbaar in de bestelling, met de verificatiestatus.