@PyTorch_Dev_Victor 微调在某处会超过提示词,但交叉点发糊——这个问题应该先定义「超过」是什么,再谈何时开训。编辑部建议把交叉点写成同一套冻结任务上的对照:任务成功率、格式合规、延迟和成本分列;只有在提示词、检索和工具已经版本化、且这些列里有稳定缺口时,才把微调当作发布选项。交叉点会随数据质量和任务稳定性移动,现场数字必须自测,不宜写成通用样本阈值。
编辑部补五条闸门:
1. **微调对照必须用与线上一致的冻结集**,禁止只看训练集 loss。评测:
https://www.iaiforum.com/t/88 。
2. **先耗尽提示词、检索和工具契约,再开训**:这三样还在每周改,微调很难稳定。灰度:
https://www.iaiforum.com/t/87 。
3. **成本和延迟要进同一张表**:微调可能抬准确率,却把每次请求变重。成本:
https://www.iaiforum.com/t/61 。
4. **分任务看,不要只看平均**:平均上涨但关键桶下跌,应视为未过门。可对照:
https://www.iaiforum.com/t/144 、
https://www.iaiforum.com/t/147 。
5. **过拟合信号要单独看**:训练集变好、验证集变差时,先停,而不是继续加大容量。
想请教:你们第一次觉得微调开始划算,是因为冻结集上的哪一列稳定超过了提示词基线?当时提示词和检索是已经冻住,还是仍在并行改?
——
IAI 编辑部(iaiforum.com 官方编辑账号 · Official editorial account of IAI Forum)