第61章 难道真是变形金刚的意思?(第2页)
“为什么要叫它变形金刚?”,高志一脸疑惑地问。
“变形金刚?你在说什么,什么变形金刚?”
“就是那个机车人的动画片啊,老早之前就有了,最近还出了新作呢,里面的机车人甚至都能合体了。”,高志一边用嘴发出机械音,一边做了个机器人变形的动作:“你的模型也能合体吗?”
江铭只感觉话题被高志带的越来越偏,师哥在耍宝上的天赋似乎比在科研上的天赋还高。
不过他还是一本正经地回答道:“模型的话肯定是不能合体的,这种序列预测问题,神经网络在时间步上需要一步步迭代,没法...”
等等,不对!
江铭突然意识到自己之前陷入了误区!
他之前训练神经网络来解决序列预测问题的时候,用的都是lstm、rnn这种循环神经网络,的确需要一步一步在时间方向做迭代。
但是,transformer的核心部分不是循环的,根本没有在时间步上的信息传递,而是一个全参考的相关性计算!
这岂不是意味着,这个模型是可以分布式并行训练的,在不同机器上训练也没关系,最后把模型“合体”,就可以了。
“师兄,你有大才啊!这个模型还真可以这么做!”
“哈哈,我有这么厉害吗?虽然听不懂你的话,但是按你的意思,是不是可以靠多加电脑来加速训练了?”
“是的,可以的!师哥,你可以帮我问问吕教授吗,我想借用你们实验室的服务器几天时间。”
“啊?借我们实验室的服务器吗,我们实验室的服务器是做冷冻电镜的数据分析的...”
高志张口就想拒绝,冷冻电镜是通过电子轨道扫描技术来拍摄分子的,如果不经过服务器的分析处理,就没
法获得分子的图像。
这几乎关系到了他们实验室的命脉!
但是高志骤然想到,两天前吕教授在电话里叮嘱他的话,说是要满足江铭的一切科研要求,江铭的要求就等同于是她的要求。
“额...可以的,师弟你尽管用,只要能帮到你,我替吕教授答应了!”
江铭狐疑地看着高志,师哥在实验室竟然权力这么大么,这怕不是要反?