换了个更大的模型,效果没提升,显存占用倒是翻了三倍。我打开记录从头到尾扫了一遍。我打开了这版 prompt 的输出样本,发现格式全乱了。世界瞬间清净了

我把这个模型的输出格式约束住了,下游终于好接。我在心里把涉及的所有环节都过了一遍。我把这个数据集的划分重做了,验证集终于不泄漏。我沉默了,但心里是服的

这个任务的评测集和训练集太像了,指标好看但不真实。我把它记在心里,没跟任何人说。我把学习率调小了一个数量级,loss 曲线终于像样了。这大概就是程序员的人生吧

模型的输出很流畅,内容经不起核对。我愣了两秒,然后继续敲代码。我把这个任务的损失函数换了一个,长尾样本终于照顾到。我把它写进了组内的避坑文档第一章

同事说我们上大模型就行了,我问数据呢,他说你先跑起来看看。这套流程走下来,我从头到尾又确认了一遍。我把训练集重新清洗了一遍,发现脏数据占了百分之十五。办公室安静得能听见键盘声

炼丹三件套:改参数、跑训练、等结果,结果发现 loss 一直是 NaN。我把它记在心里,没跟任何人说。我打开了这个任务的耗时分布,发现瓶颈在数据加载。好在最后有惊无险

我把这个任务的标注规范重写了一遍,歧义少了很多。我默默打开了编辑器,准备一步步验证。我把这个模型的推理耗时测了一遍,决定先上个小模型。我沉默了,但心里是服的

我看了下这个模型的参数量,部署是个问题。我重新看了一遍手上的计划,把风险项标了出来。我把这次实验的参数记进了表格,虽然大概率不会再看第二眼。那一刻我觉得自己还是很专业的

我把这次的实验记录整理了一遍,有两次参数写错了。我盯着屏幕沉默了十分钟。我把学习率调小了一个数量级,loss 曲线终于像样了。我把这条经验写进了团队 wiki

AI 会取代程序员吗?会,但先取代的是不学 AI 的程序员。我想了想,觉得这话没法接。我打开了这个模型的注意力可视化,发现它在看无关位置。世界瞬间清净了