从信息学霸到神级科学家四爷的狗
第126章 山有山的错落,我也有我的平仄(第3页)
“只有解决了可解释性问题,才能减少黑盒效应,使得人工智能的输出足够可控。如果我们都无法解释人工智能为什么会有这样的输出结果,就无法约束其在特定问题上的决策,必然会产生安全或伦理问题。”
“现在的人工智能,包括我自己所设计的策略梯度算法,都是构建在无法解释的深度神经网络上的,连我都感到隐隐的恐慌。唯一的幸运是我们现在的人工智能能力还太弱,但在实验策略梯度算法
时我发现,人工智能会为了最大化奖励函数而不顾一切,甚至做出我们人类所不希望看到的决策。”
“这让我想到一个有关人工智能的古早笑话,说是在医院里一个人肝坏了、一个人肾坏了、一个人心坏了、一个人肺坏了,因此医院的智能系统决定牺牲一个健康的人救活这四个人。”
“虽然只是一个笑话,但我发现在现有的策略梯度算法下,人工智能还真就会这样做!”
“我不希望未来制造出真正强大的人工智能时,却因为缺乏约束,导致带来的不是人类的福祉而是噩梦。”
时晨涛眼睛瞪得老大,整个人都因为兴奋而战栗,江铭的话如同一记重锤敲击在他的心脏上,令他面色潮红,整个胸腔都因为呼吸而起伏。
可控人工智能,这是人工智能可解释性的一个新的发展方向!
就在江铭提到策略梯度算法存在不受控问题的时候,一直在做可解释性的他突然抓住了那一闪而逝的灵感。
或者说,是顿悟!
一个全新的想法从他的心底萌生了出来。
他打开电脑,手指在键盘上敲击,以最快的速度写下了一页证明。
终于,江铭在一片掌声与喝彩中走下了台。
而时晨涛也站起了身,昂首挺胸,与江铭侧身而过,一步步向着台上走去。
“江铭,谢谢你,你的演讲非常精彩。不过,山有山的错落,我也有我的平仄。”
“我不会输的。”