Schrijf de hypothese voordat je de berekening start
Beschrijf het gedrag dat je wilt verbeteren: documenten uit een domein classificeren, een antwoordformaat respecteren of gestructureerde informatie extraheren. Leg ook vast wat niet mag verslechteren. Voor extractie kan dat de geldigheid van het formaat en de aanwezigheid van vereiste velden zijn; voor classificatie een metriek per categorie in plaats van één enkel globaal gemiddelde.
Evalueer eerst het uitgangsmodel op een set die losstaat van de training. Bewaar de uitvoer en de configuratie van deze evaluatie. Zo kun je de aanpassing vergelijken met een concreet startpunt en een verbetering opsporen die beperkt blijft tot bepaalde voorbeelden. Houd de definitieve testdata apart: als je ze gebruikt om achtereenvolgens alle instellingen te kiezen, verzwakt uiteindelijk hun waarde als controle.
De data en hun opsplitsing voorbereiden
Versioneer de voorbeelden, de opschoningsregels en de transformaties. Zoek naar duplicaten tussen training en evaluatie en inspecteer een kleine steekproef na de exacte voorbewerking van het programma. Controleer voor tekst de tokenizer, de scheidingstekens, de truncatie en de posities waarop de loss wordt berekend. Controleer voor afbeeldingen de afmetingen en de transformaties die op de categorieën worden toegepast.
Voorbeeld van voorbereiding: neem enkele representatieve voorbeelden uit elke categorie, toon hun vorm na transformatie en controleer handmatig het verwachte doel. Voer daarna een volledige doorloop uit in de trainings- en evaluatielus. Deze methode zoekt naar fouten in data of bedrading; ze laat geen conclusie toe over de uiteindelijke kwaliteit van het model.
Kies de parameters die je traint
Een volledige fine-tuning werkt alle parameters bij die je model voorziet. Een methode zoals LoRA behoudt de basisgewichten en leert extra matrices van lage rang in gekozen modules. Deze keuze vermindert het aantal trainbare parameters, maar neemt niet weg dat je het basismodel moet laden en de activaties ervan moet verwerken.
Leg de gekozen modules, de trainbare parameters en eventuele extra opgeslagen lagen vast. Voor LoRA maakt de rang deel uit van de configuratie die je vergelijkt; hij volstaat niet om de kwaliteit te voorspellen. Controleer vanaf het begin of een update daadwerkelijk de verwachte parameters wijzigt. Bij de export moet de adapter gekoppeld blijven aan het basismodel en zijn exacte versie.
Een volledige trainingsstap dimensioneren
Valideer een stap met verliesberekening, backpropagatie en update van de optimizer. Een model dat tijdens het laden in het geheugen past, kan tijdens deze stap de beschikbare capaciteit overschrijden. Meet met een representatieve invoerlengte en microbatch. De precisie, de optimizer-staten en de daadwerkelijk getrainde parameters maken deel uit van de schatting.
Gradientaccumulatie maakt het mogelijk een update te organiseren op basis van meerdere microbatches; documenteer hun aantal en de normalisatie van het verlies. Activation checkpointing ruilt extra berekeningen in voor minder bewaarde activaties. Controleer deze opties afzonderlijk voordat je ze combineert. Ze veranderen het verloop van het experiment en moeten in het resultatendossier staan.
CUDA, ROCm en distributed in het protocol houden
Controleer de compatibiliteit van het model, de extensies en de adaptatiemethode met de gekozen backend. Op NVIDIA bereid je de CUDA-keten voor; op AMD de ROCm-keten. Een platformwissel vereist dat je de opstart- en kwaliteitscontroles opnieuw uitvoert. Bewaar de daadwerkelijk gebruikte versies in plaats van aan te nemen dat een omgeving met dezelfde naam dezelfde uitvoering oplevert.
Met DistributedDataParallel werkt elk proces met een replica van het model en worden de gradiënten gesynchroniseerd. Deze strategie deelt de gewichten niet automatisch tussen de GPU-geheugens; ook de datadistributie moet worden geconfigureerd. Als het je doel is een grotere state te laten passen, onderzoek dan een strategie die deze state verdeelt en controleer de beperkingen ervan voordat je het aantal batches verhoogt.
Varianten en de eindbeslissing organiseren
Geef elk experiment een identificatie en wijzig slechts één set parameters die je kunt uitleggen. Behoud dezelfde evaluatieprocedure tussen varianten, met de gebruikte seed, het trainingsbudget en de data. Registreer ook onderbroken of ongeldige pogingen: ze zonder uitleg uitsluiten maakt de vergelijking moeilijk te interpreteren.
Plan de huur van 3, 7 of 30 dagen rond afzonderlijke fasen: initiële controle, experiment, evaluatie, hervatting en export. Houd marge om een checkpoint in een nieuw proces opnieuw te bekijken. Lever aan het eind het model of de adapter, de configuratie, de vergelijkende resultaten en de waargenomen beperkingen op. Je blijft zelfstandig in de keuze van je verwerkingen; Kernodeck inspecteert de inhoud ervan niet.