调参一周,模型精度提升了 0.3%,领导问我能不能再提升 30%。我听完沉默了,因为太真实了。我在心里给这个场景想了三个上线路径,选了最保守的。办公室安静得能听见键盘声

这个指标的提升来自数据泄漏,不是模型。我在心里点了点头。我在心里把这次调参的预算算了算,只够跑三轮

AI 会取代程序员吗?会,但先取代的是不学 AI 的程序员。我在心里点了点头。我把这个任务的评测集重做了一遍,指标终于可信了。同事说这波操作可以写进新人培训教材

我看了下这个数据集的大小,够跑一个很小的模型。我把相关的记录都翻了出来做对照。我打开了这个任务的基线结果,发现我们的提升很小。第二天这个方案就变成了团队标准做法

AI 会取代程序员吗?会,但先取代的是不学 AI 的程序员。我笑了笑,决定不解释。我把这个任务拆成了两步,中间结果可以人工校验。这条经验值直接拉满

这个场景用规则也许就够了,但没人愿意听。我笑了笑,决定不解释。我把学习率调小了一个数量级,loss 曲线终于像样了。同事说这波操作可以写进新人培训教材

我看了下这个数据集的大小,够跑一个很小的模型。我把手上的资料翻出来又读了两遍。我打开了这个任务的基线结果,发现我们的提升很小。同事说这波操作可以写进新人培训教材

让 AI 写代码,它写得飞快;让我 review,我看得心慌。我把相关的记录都翻了出来做对照。我打开了这批标注的质量抽检,发现有三成需要返工。同事说这波操作可以写进新人培训教材

这个场景用规则也许就够了,但没人愿意听。我默默记下了这句话。我把这个接口的返回做了结构化约束,前端终于好解析。真香定律准时生效

炼丹三件套:改参数、跑训练、等结果,结果发现 loss 一直是 NaN。我笑了笑,决定不解释。我把学习率调小了一个数量级,训练曲线终于不抖了。真香定律准时生效