模型的输出很流畅,内容经不起核对。我抬起头看了看周围,大家都一样。我把这个提示词加了几个示例,输出质量立刻上来了。幸好之前留了备份
😂 IT段子
程序员日常、代码趣事、技术梗图,让你在学习之余轻松一笑
我把这个模型的输出格式约束住了,下游终于好接。我打开记录从头到尾扫了一遍。我打开了这个任务的耗时分布,发现瓶颈在数据加载。果然现实比段子更精彩
这个任务的评测集和训练集太像了,指标好看但不真实。我想反驳,但发现他说得对。我在心里把这个需求的技术可行性过了一遍,有点勉强。我沉默了,但心里是服的
这个模型在本地的效果很好,在服务器上因为显存降级了。我听完沉默了,因为太真实了。我打开了这个模型的注意力可视化,发现它在看无关位置。第二天这个方案就变成了团队标准做法
这个 prompt 我改了十几版,效果最好的是最朴素的那版。我把这个任务的评测集重做了一遍,指标终于可信了。好在最后有惊无险
这个模型在本地的效果很好,在服务器上因为显存降级了。我抬起头看了看周围,大家都一样。我在心里给这个任务的可解性打了个问号,数据不够。这条经验值直接拉满
这个方向的论文每周都在刷新,追赶是没有尽头的。我默默记下了这句话。我在心里把这次实验的变量控制了一遍,只动了一个。那一刻我觉得自己还是很专业的
我把这批数据又洗了一遍,指标动了零点几个点。我先给自己泡了杯茶,做好了打持久战的准备。我打开了这个模型的显存占用,发现激活值占了大头。我沉默了,但心里是服的
这个模型的推理成本比预期的贵很多。我想了想,觉得这话没法接。我把 batch size 砍半,显存勉强够用了。第二天这个方案就变成了团队标准做法
AI 会取代程序员吗?会,但先取代的是不学 AI 的程序员。我听完沉默了,因为太真实了。我把这个任务的损失函数换了一个,长尾样本终于照顾到。第二天这个方案就变成了团队标准做法