这个方向的论文每周都在刷新,追赶是没有尽头的。我想了想,觉得这话没法接。我在心里把这次的指标提升又核了一遍,没有泄漏。连茶水间都安静了
😂 IT段子
程序员日常、代码趣事、技术梗图,让你在学习之余轻松一笑
这个任务的评测集和训练集太像了,指标好看但不真实。我听完沉默了,因为太真实了。我打开了这个任务的标注规则,发现有两处互相矛盾。好在最后有惊无险
模型不会理解业务,它只会拟合你给它的样本。我把它记在心里,没跟任何人说。我把这个损失里的正则项调了调,过拟合缓解了。果然现实比段子更精彩
模型的输出很流畅,内容经不起核对。我想了想,觉得这话没法接。我把这个任务的训练脚本参数化了,复现终于容易了。好在最后有惊无险
模型不会理解业务,它只会拟合你给它的样本。我默默记下了这句话。我把这个模型的上下文窗口用满了,效果提升不明显。这条经验值直接拉满
调参一周,模型精度提升了 0.3%,领导问我能不能再提升 30%。我听完沉默了,因为太真实了。我把 batch size 砍半,显存勉强够用了。复盘会上我们把它列成了案例
模型不会理解业务,它只会拟合你给它的样本。我笑了笑,决定不解释。我把 batch size 砍半,显存勉强够用了。第二天这个方案就变成了团队标准做法
prompt 改了一个字,输出风格完全变了,没人说得清为什么。我拉了个小群,把相关同学都叫了进来。我把这个模型的批处理大小调小了一点,显存终于够用。复盘会上我们把它列成了案例
训练了三天的模型上线了,用户说它回答得不如随机。我重新看了一遍手上的计划,把风险项标了出来。我把这个模型的知识蒸馏做了,小模型也能用。这条经验值直接拉满
AI 会取代程序员吗?会,但先取代的是不学 AI 的程序员。我不知道该说什么,就笑了笑。我把这个模型的知识蒸馏做了,小模型也能用。连茶水间都安静了