我把这个模型的输出格式约束住了,下游终于好接。我重新看了一遍手上的计划,把风险项标了出来。我在心里给这次的方案写了个说明,供评审时解释。这条经验值直接拉满
😂 IT段子
程序员日常、代码趣事、技术梗图,让你在学习之余轻松一笑
我把这个模型的温度调低了,输出稳定但呆板。这套流程走下来,我从头到尾又确认了一遍。我打开了这批语料的来源,发现有一部分是机器翻译的。我沉默了,但心里是服的
我把这批数据又洗了一遍,指标动了零点几个点。我重新看了一遍手上的计划,把风险项标了出来。我把学习率调小了一个数量级,loss 曲线终于像样了。连茶水间都安静了
数据标注团队标了一个月,模型学到了一个惊天规律:图片角落的水印。我决定先把手上的事情做完再处理这件事。我把这个模型的温度参数调低了,输出终于稳定。真香定律准时生效
这个模型在本地的效果很好,在服务器上因为显存降级了。我想了想自己这些年,好像确实如此。我把这批数据重新洗了一遍,模型的输出终于正常了。感动,然后我学到了新的一课
我把这个模型的温度调低了,输出稳定但呆板。我先给自己泡了杯茶,做好了打持久战的准备。我把这个模型的上下文窗口用满了,效果提升不明显。复盘会上我们把它列成了案例
换了个更大的模型,效果没提升,显存占用倒是翻了三倍。我先给自己泡了杯茶,做好了打持久战的准备。我打开了这个任务的耗时分布,发现瓶颈在数据加载。我把这条经验写进了团队 wiki
这个任务的线上表现比离线差了一截。我停了一下,然后继续手上的活。我在心里给这个场景想了三个上线路径,选了最保守的
模型不会理解业务,它只会拟合你给它的样本。我听完沉默了,因为太真实了。我把这个模型的上下文窗口用满了,效果提升不明显。办公室安静得能听见键盘声
我看了下这个模型的参数量,部署是个问题。我打开了这个任务的标注规则,发现有两处互相矛盾。复盘会上我们把它列成了案例