第16章 我们上的是同一所大学么?
徐建华赶到实验室的时候,只见林欣然正在江铭的工位旁边大呼小叫。
她拽着师弟衣领猛猛摇晃:“师弟师弟,求求你快告诉我,你这行代码到底是怎么想到的!”
徐建华急忙冲上去制止了这种行为,他刚刚都看到江铭的头被晃出残影了,只怕再过一会儿灵魂都给晃出窍。
当然,他现在也好奇的紧,江铭到底做了什么。
刚刚回来的路上,他也看到林欣然发来的损失曲线图像,的确比之前组会汇报的结果要稳定太多了!
这一路上他设想了各种原因,却也没什么头绪。
所以刚一回来,他也迫不及待地问道:“江铭,你能稍微解释一下你觉得这行代码有效的原理吗?”
江铭在用代码敲出这行公式的时候,就因为系统兑换的原因,完全地理解了他有效的原理。
但他还是思考了片刻,主要是考虑到林欣然也在一旁用期待的眼神看着自己,他需要想一个比较不打击她信心的说法。
终于,他回答道:“是惯性。”
“惯性?哦对啊,惯性!”,这一句话点醒了徐建华,他仿佛被闪电击中,惊呼道。
“你们两个到底在说什么啊?”,林欣然不解,这两个谜语人,说的话仿佛加了密一样,生怕自己听懂吗?
江铭看林欣然还没理解,微笑着继续道:“之前徐老师和我讲了他所理解的梯度下降,我就一直在思考,如何才能让随机梯度下降法不会陷在局部最优的山谷中。”
“就像一个从山顶扔下的篮球,只要有惯性,就能在很大程度上冲过地上一些坑坑洼洼的裂缝和小的山谷,到达更深处。”
原来如此,林欣然恍然大悟,原来打篮球可以提高学术悟性!
难怪最近在蓝星科研圈很火的科研年龄两年半的初级研究员蔡鲲就说自己最爱打篮球。
“当然,还有一些调整,就是我发现我们用来训练的数据也是有污染的,这就导致了优化的目标可能是非平稳的,所以我用二阶矩来微调每个参数的学习率,使得更新策略更精细化。”
对对对,林欣然深表赞同,环保也是非常重要的,有污染是不好的。
“啧...江铭啊,你的这个改进虽然只有简单的一行公式,但是它极具创新性,而且效果也非常好,我觉得能投蓝星顶级的学术期刊了,有考虑投到哪里吗?”,徐建华咋舌道。