2025-11-09 00:14:18
基线往上偏就是说模型本来应该稳定在某个水平,结果越调越高,比如准确率从70%升到80%再升到85%这种。基线往下掉就是模型表现越来越差,比如准确率从75%掉到65%再掉到50%这种。这跟数据质量、特征工程和调参策略都有关系。
比如数据量不够特征相关性低,模型就会自己乱猜。我之前调过个分类模型,训练集只有1000条数据,特征之间有60%重复率,结果准确率从基线70%直接掉到45%。还有调参时用了随机搜索,参数范围定得太大,比如学习率从0.1调到0.0001,结果val准确率从68%掉到52%。这说明数据质量差和调参失误都会让基线往下掉。反过来如果特征工程做得好,比如特征相关性从0.6降到0.3,数据量从5000增加到20000,基线就能往上偏到85%以上。但要注意别调得太猛,比如学习率从0.1调到0.01又调到0.001,反而会让模型震荡,准确率在78%到82%之间反复横跳。
本题链接: