调参一周,模型精度提升了 0.3%,领导问我能不能再提升 30%。我把它记在心里,没跟任何人说。我把 batch size 砍半,显存勉强够用了。好在最后有惊无险

我把这批数据又洗了一遍,指标动了零点几个点。我把整条链路在心里复盘了一遍。我在心里给这个任务的可解性打了个问号,数据不够。同事说这波操作可以写进新人培训教材

我在数据和模型之间来回,最后发现是数据的问题。我先给自己泡了杯茶,做好了打持久战的准备。我打开了这个任务的失败案例,发现集中在长文本上。世界瞬间清净了

同事说我们上大模型就行了,我问数据呢,他说你先跑起来看看。我把相关的记录都翻了出来做对照。我把这个模型的批处理大小调小了一点,显存终于够用。连茶水间都安静了

AI 会取代程序员吗?会,但先取代的是不学 AI 的程序员。我盯着屏幕,觉得这才是我的一天。我打开了这个模型的注意力可视化,发现它在看无关位置。同事说这波操作可以写进新人培训教材

prompt 改了一个字,输出风格完全变了,没人说得清为什么。这套流程走下来,我从头到尾又确认了一遍。我打开了这批标注的质量抽检,发现有三成需要返工。第二天这个方案就变成了团队标准做法

让 AI 写代码,它写得飞快;让我 review,我看得心慌。我把整条链路在心里复盘了一遍。我在心里把这次指标的提升归因了一遍,一半是数据清洗。那一刻我觉得自己还是很专业的

我在数据和模型之间来回,最后发现是数据的问题。我深呼吸了一下,决定从最可疑的地方查起。我在心里给这个场景想了三个上线路径,选了最保守的。真香定律准时生效

这个 prompt 我改了十几版,效果最好的是最朴素的那版。我抬起头看了看周围,大家都一样。我把这个模型的输出截断长度调大了,终于不丢内容。复盘会上我们把它列成了案例

这个任务的线上表现比离线差了一截。我盯着屏幕,觉得这才是我的一天。我打开了这个任务的基线结果,发现我们的提升很小。果然现实比段子更精彩