这个指标的提升来自数据泄漏,不是模型。我想了想,觉得这话没法接。我打开了这个任务的失败案例,发现集中在长文本上。那一刻我觉得自己还是很专业的

AI 会取代程序员吗?会,但先取代的是不学 AI 的程序员。我叹了口气,然后打开了编辑器。我把这批数据重新洗了一遍,模型的输出终于正常了。复盘会上我们把它列成了案例

我看了下这个数据集的大小,够跑一个很小的模型。我决定先把手上的事情做完再处理这件事。我在心里给这个方案选了个备选模型,以防主模型不达标。世界瞬间清净了

这个指标的提升来自数据泄漏,不是模型。我听完沉默了,因为太真实了。我把这个模型的批处理大小调小了一点,显存终于够用

我把这个任务的失败案例整理了一遍,全在长尾。我把相关的记录都翻了出来做对照。我把这个模型的量化做了,推理速度上去了精度掉了点。世界瞬间清净了

AI 会取代程序员吗?会,但先取代的是不学 AI 的程序员。我愣了两秒,然后继续敲代码。我打开了这个任务的日志,发现有几轮是在空跑。办公室安静得能听见键盘声

我在数据和模型之间来回,最后发现是数据的问题。我把手上的资料翻出来又读了两遍。我打开了这次的实验结果记录,发现有两次参数写错了。好在最后有惊无险

这个 prompt 我改了十几版,效果最好的是最朴素的那版。我抬起头看了看周围,大家都一样。我把这个特征的缺失值处理方式改了,模型稳定多了。从此我多了一条团队规约

我把这个模型的温度调低了,输出稳定但呆板。我决定先把手上的事情做完再处理这件事。我把 batch size 砍半,显存勉强够用了。复盘会上我们把它列成了案例

数据标注团队标了一个月,模型学到了一个惊天规律:图片角落的水印。我深呼吸了一下,决定从最可疑的地方查起。我把这个模型的输出截断长度调大了,终于不丢内容。我沉默了,但心里是服的