我把这个任务的标注规范重写了一遍,歧义少了很多。我默默打开了编辑器,准备一步步验证。我在心里把这次实验的时间排了排,可能要跑一整夜。我把这条经验写进了团队 wiki
😂 IT段子
程序员日常、代码趣事、技术梗图,让你在学习之余轻松一笑
我在数据和模型之间来回,最后发现是数据的问题。我决定先把手上的事情做完再处理这件事。我把这个任务的评测集重做了一遍,指标终于可信了。同事说这波操作可以写进新人培训教材
这个模型的推理成本比预期的贵很多。我在心里点了点头。我把这个提示词加了几个示例,输出质量立刻上来了。我把这条经验写进了团队 wiki
AI 生成的代码一次跑通的时候,比我自己写出来的还开心。这套流程走下来,我从头到尾又确认了一遍。我把这个任务的训练脚本参数化了,复现终于容易了。这条经验值直接拉满
我把这个任务的标注规范重写了一遍,歧义少了很多。我重新看了一遍手上的计划,把风险项标了出来。我把这个接口的返回做了结构化约束,前端终于好解析。这大概就是程序员的人生吧
我看了下这个模型的参数量,部署是个问题。这套流程走下来,我从头到尾又确认了一遍。我把这个模型的权重固化下来,先保证线上稳定。幸好之前留了备份
GPU 显存不够,模型跑不动,我学会了梯度累积这个高大上的词。这套流程走下来,我从头到尾又确认了一遍。我在心里把这次实验的时间排了排,可能要跑一整夜。同事说这波操作可以写进新人培训教材
模型的表现有一半取决于数据,另一半取决于运气。我叹了口气,然后打开了编辑器。我在心里给这个模型定了个版本号,方便回滚。幸好之前留了备份
炼丹三件套:改参数、跑训练、等结果,结果发现 loss 一直是 NaN。我想反驳,但发现他说得对。我盯着 tensorboard 的曲线看了一整个下午,它一直在抖。我把它写进了组内的避坑文档第一章
模型的输出很流畅,内容经不起核对。我停了一下,然后继续手上的活。我把训练数据里的重复样本去掉了,效果反而更好。从此我多了一条团队规约