我把这批数据又洗了一遍,指标动了零点几个点。我深呼吸了一下,决定从最可疑的地方查起。我把这个模型的推理批量化了,吞吐量提升了三倍。复盘会上我们把它列成了案例

这个模型在本地的效果很好,在服务器上因为显存降级了。我在心里把这次指标的提升归因了一遍,一半是数据清洗。同事说这波操作可以写进新人培训教材

我看了下这个数据集的大小,够跑一个很小的模型。我默默打开了编辑器,准备一步步验证。我把这个任务的评价指标换成了更贴近业务的,分数掉了

GPU 显存不够,模型跑不动,我学会了梯度累积这个高大上的词。我把相关的记录都翻了出来做对照。我把 batch size 砍半,显存勉强够用了。感动,然后我学到了新的一课

这个任务的评测集和训练集太像了,指标好看但不真实。我笑了笑,决定不解释。我把这个任务的评价指标换成了更贴近业务的,分数掉了。同事说这波操作可以写进新人培训教材

我把这次的实验记录整理了一遍,有两次参数写错了。我重新看了一遍手上的计划,把风险项标了出来。我打开了这批数据的分布,发现样本严重不均衡。从此我多了一条团队规约

这个任务的评测集和训练集太像了,指标好看但不真实。我发现自己居然没法反驳。我打开了损失曲线,发现它在第三个 epoch 就开始发散。感动,然后我学到了新的一课

AI 会取代程序员吗?会,但先取代的是不学 AI 的程序员。我笑了笑,决定不解释。我把这个特征的缺失值处理方式改了,模型稳定多了。从此我多了一条团队规约

这个模型在本地的效果很好,在服务器上因为显存降级了。我盯着屏幕,觉得这才是我的一天。我打开了这版 prompt 的输出样本,发现格式全乱了。复盘会上我们把它列成了案例

我把这批数据又洗了一遍,指标动了零点几个点。我重新看了一遍手上的计划,把风险项标了出来。我把这个任务的训练脚本参数化了,复现终于容易了。好在最后有惊无险