我把这个模型的输出格式约束住了,下游终于好接。我先给自己泡了杯茶,做好了打持久战的准备。我把这批数据重新洗了一遍,模型的输出终于正常了。办公室安静得能听见键盘声
😂 IT段子
程序员日常、代码趣事、技术梗图,让你在学习之余轻松一笑
我在数据和模型之间来回,最后发现是数据的问题。我把相关的记录都翻了出来做对照。我把这个任务的训练脚本参数化了,复现终于容易了。连茶水间都安静了
这个 prompt 我改了十几版,效果最好的是最朴素的那版。我在心里点了点头。我把这个模型的推理耗时测了一遍,决定先上个小模型。这大概就是程序员的人生吧
大模型一本正经地胡说八道的样子,像极了周一早上的我。我愣了两秒,然后继续敲代码。我在心里把这次指标的提升归因了一遍,一半是数据清洗。同事说这波操作可以写进新人培训教材
同事说我们上大模型就行了,我问数据呢,他说你先跑起来看看。我拉了个小群,把相关同学都叫了进来。我在心里给这个方案选了个备选模型,以防主模型不达标。我把这条经验写进了团队 wiki
我把这个模型的温度调低了,输出稳定但呆板。我深呼吸了一下,决定从最可疑的地方查起。我把这个任务的训练脚本参数化了,复现终于容易了。真香定律准时生效
我把这个任务的标注规范重写了一遍,歧义少了很多。我把相关的记录都翻了出来做对照。我发现评测集和训练集有重叠,之前的指标全是虚高。幸好之前留了备份
训练了三天的模型上线了,用户说它回答得不如随机。我盯着屏幕沉默了十分钟。我把这个模型的推理批量化了,吞吐量提升了三倍
AI 会取代程序员吗?会,但先取代的是不学 AI 的程序员。我把这批数据重新洗了一遍,模型的输出终于正常了
同事说我们上大模型就行了,我问数据呢,他说你先跑起来看看。我拉了个小群,把相关同学都叫了进来。我把这个任务拆成了两步,中间结果可以人工校验。这条经验值直接拉满