在启动计算之前写下假设
描述需要改进的行为：对某一领域的文档进行分类、遵循某种回答格式，或提取结构化信息。同时也要确定哪些方面不应退化。对于信息提取，这可能是格式的有效性和必填字段的存在；对于分类，则是各类别的指标，而非单一的总体平均值。
首先在与训练集分离的集合上评估起始模型。保留这次评估的输出和配置。这样您就能将适配结果与一个具体的起点进行比较，并发现仅局限于某些样本的改进。请保留最终测试数据：若连续用它来选择所有调参，最终会削弱其作为对照的价值。
准备数据及其划分
对样本、清洗规则和变换进行版本管理。检查训练集与评估集之间的重复项，并在程序完成精确预处理后抽查一小批样本。对于文本，请检查分词器、分隔符、截断以及计算损失所依据的位置。对于图像，请检查尺寸以及应用于各类别的变换。
示例准备：从每个类别中挑选一些有代表性的样本，展示其变换后的形式，并手动核对期望的目标结果。然后再完整跑一遍训练循环和评估流程。这种方法旨在发现数据或连接上的错误；它无法据此判断模型的最终质量。
选择您要训练的参数
完整微调会更新您的模型所包含的全部参数。像LoRA这样的方法会保留基础权重，并在选定的模块中学习额外的低秩矩阵。这一选择减少了可训练参数的数量，但并不能免除加载基础模型并处理其激活值的必要。
请记录所针对的模块、可训练参数以及所保存的任何额外层。对于LoRA，秩是需要比较的配置的一部分；它并不足以预测质量。请从一开始就确认更新确实改变了预期的参数。导出时，适配器必须与基础模型及其确切版本保持关联。
为完整的训练步骤确定规模
验证一个包含损失计算、反向传播和优化器更新的步骤。模型在加载期间驻留在内存中的占用，可能在这一步超过可用容量。请使用具有代表性的输入长度和微批次进行测量。精度、优化器状态以及实际参与训练的参数量都属于估算范围。
梯度累积可以将多个微批次的更新合并为一次；请记录它们的数量以及损失的归一化方式。激活检查点用一些额外的计算换取更少的激活值保留。在组合这些选项之前，请分别进行验证。它们会改变实验的流程，必须记录在结果档案中。
在实验方案中保留 CUDA、ROCm 和分布式配置
验证模型、扩展和适配方法与所选后端的兼容性。在 NVIDIA 上，准备 CUDA 工具链；在 AMD 上，准备 ROCm 工具链。更换平台需要重新进行启动和质量检查。请保留实际使用的版本，而不要假设同名环境会产生相同的执行结果。
使用 DistributedDataParallel 时，每个进程使用模型的一个副本，梯度会进行同步。这种策略不会自动在 GPU 显存之间共享权重；数据的分发也需要单独配置。如果您的目标是容纳更大的状态，请研究一种能够分发该状态的策略，并在增加批次数量之前确认其约束条件。
组织各个变体并做出最终决策
为每个实验分配一个标识符，每次只改变一组您能解释清楚的参数。在不同变体之间保持相同的评估流程，使用相同的随机种子、训练预算和数据。同时记录被中断或无效的试验：不加说明地将其排除会使对比结果难以解读。
将 3 天、7 天或 30 天的租用时间围绕不同阶段进行规划：初始检查、实验、评估、恢复和导出。为在新进程中重新加载检查点留出余量。最后，交付模型或适配器、其配置、对比结果以及观察到的局限性。您始终自主决定处理内容；Kernodeck 不会对其内容进行检查。