😂 IT段子

模型的表现有一半取决于数据，另一半取决于运气。我叹了口气，然后打开了编辑器。我把这个模型的推理耗时测了一遍，决定先上个小模型。我沉默了，但心里是服的

AI 会取代程序员吗？会，但先取代的是不学 AI 的程序员。我想反驳，但发现他说得对。我把这个任务拆成了两步，中间结果可以人工校验。复盘会上我们把它列成了案例

模型的表现有一半取决于数据，另一半取决于运气。我发现自己居然没法反驳。我在心里把这次实验的变量控制了一遍，只动了一个。我沉默了，但心里是服的

这个 prompt 我改了十几版，效果最好的是最朴素的那版。我忽然觉得，这可能就是这一行的常态。我把这个模型的量化做了，推理速度上去了精度掉了点

我看了下这个模型的参数量，部署是个问题。我盯着屏幕沉默了十分钟。我加了个正则项，过拟合总算被压住了一点。连茶水间都安静了

这个任务的线上表现比离线差了一截。我听完沉默了，因为太真实了。我把学习率调小了一个数量级，训练曲线终于不抖了。那一刻我觉得自己还是很专业的

我在数据和模型之间来回，最后发现是数据的问题。我打开记录从头到尾扫了一遍。我把这个任务的评测集重做了一遍，指标终于可信了。连茶水间都安静了

这个任务的评测集和训练集太像了，指标好看但不真实。我想了想自己这些年，好像确实如此。我把显存占用打出来一看，光激活值就占了七成。真香定律准时生效

我把这次的实验记录整理了一遍，有两次参数写错了。我拉了个小群，把相关同学都叫了进来。我把这个任务的训练脚本参数化了，复现终于容易了。这条经验值直接拉满

模型的表现有一半取决于数据，另一半取决于运气。我默默记下了这句话。我把训练数据里的重复样本去掉了，效果反而更好。真香定律准时生效