第5章 首次抽奖(第2页)
最外层的球壳是白色的,而内层的几层区块有着绿色、蓝色、紫色,甚至江铭透过多层的镂空向里看去,能看到点点金色的光芒从里面透出。
在江铭意识的推动下,这个多层嵌套的球体开始不规则地旋转起来,速度越来越快。
他不由得屏住了呼吸,死死地盯着指针,祈求指针能正好指向镂空的地方,好能指到内层的好东西。
3…
2…
1!
“停下!”
那个飞速旋转的球体立刻开始减速,几秒内都缓缓停了下来。
江铭定睛一看,指针非常可惜地指在白色的区域和镂空区域的边缘。
【恭喜你获得:普通技术图纸-Lstm网络。】
随着奖品的抽取,江铭脑中已经浮现出的有关Lstm网络的记忆,就好像自己本就十分了解似的。
Lstm网络,顾名思义,也是神经网络的一种。
不同结构的神经网络,代表了不同的数据高维表征形式,那对于不同类型的数据必然有适合它的神经网络结构和不适合的结构。
而对于类似于音乐、文字这样前后有着关系的时间序列,普通的神经结构很难理解这种前后关系。
例如“这家饭店的菜虽然很贵,但是非常好吃。”和“这家饭店虽然非常好吃,但是很贵。”两句话用的都是一样的词语,但是表达的意思却千差万别。
对于这种时序数据,蓝星的研究者在过去三十年中一直没有太好的处理办法。
就在去年,华国高级研究员李菲提出了循环神经网络rnn。通过在每个时间步使用相同的权重并传递隐藏状态来捕捉序列中的依赖关系,轰动了整个蓝星信息学界,也让李菲晋升成为了华国信息学界首个女性特级研究员。
那段时间,与李菲和她的研究相关的报道铺天盖地,甚至在蓝星新年迎春科学研讨会上,李菲也受邀上台讲演,打出了“让信息学焕发新生”的标题。
这通演讲引发了大量数学和工程学的研究者投身信息学,连带着报考徐建华他们自动控制学院的学生都增多了不少。
但是随着热情消退,rnn的问题也不断暴露出来,虽然能简单处理时间序列的前后关系,但是对于长期的一些内容和语义,rnn就处理不了了,更别提其固有的一些梯度消失与梯度爆炸的问题。