模型不会理解业务,它只会拟合你给它的样本。我默默记下了这句话。我加了个正则项,过拟合总算被压住了一点。真香定律准时生效

调参一周,模型精度提升了 0.3%,领导问我能不能再提升 30%。我不知道该说什么,就笑了笑。我把这个模型的输出做了兜底,异常时返回默认答案。幸好之前留了备份

prompt 改了一个字,输出风格完全变了,没人说得清为什么。我默默打开了编辑器,准备一步步验证。我把这批数据重新洗了一遍,模型的输出终于正常了。幸好之前留了备份

这个指标的提升来自数据泄漏,不是模型。我想了想,觉得这话没法接。我把这个模型的知识蒸馏做了,小模型也能用。感动,然后我学到了新的一课

训练了三天的模型上线了,用户说它回答得不如随机。我打开记录从头到尾扫了一遍。我把这个模型的推理批量化了,吞吐量提升了三倍。我把它写进了组内的避坑文档第一章

模型的表现有一半取决于数据,另一半取决于运气。我在心里点了点头。我把这个模型的量化做了,推理速度上去了精度掉了点。办公室安静得能听见键盘声

AI 会取代程序员吗?会,但先取代的是不学 AI 的程序员。我在心里点了点头。我换了三个 prompt 模板,输出终于稳定了。好在最后有惊无险

我把这批数据又洗了一遍,指标动了零点几个点。我重新看了一遍手上的计划,把风险项标了出来。我在心里给这个模型定了个版本号,方便回滚。我沉默了,但心里是服的

这个模型的推理成本比预期的贵很多。我听完沉默了,因为太真实了。我在心里给这个场景想了三个上线路径,选了最保守的。感动,然后我学到了新的一课

AI 会取代程序员吗?会,但先取代的是不学 AI 的程序员。我在心里点了点头。我打开了损失曲线,发现它在第三个 epoch 就开始发散。这大概就是程序员的人生吧