第126章 山有山的错落，我也有我的平仄(第3页)

 “只有解决了可解释性问题，才能减少黑盒效应，使得人工智能的输出足够可控。如果我们都无法解释人工智能为什么会有这样的输出结果，就无法约束其在特定问题上的决策，必然会产生安全或伦理问题。” 

 “现在的人工智能，包括我自己所设计的策略梯度算法，都是构建在无法解释的深度神经网络上的，连我都感到隐隐的恐慌。唯一的幸运是我们现在的人工智能能力还太弱，但在实验策略梯度算法

时我发现，人工智能会为了最大化奖励函数而不顾一切，甚至做出我们人类所不希望看到的决策。” 

 “这让我想到一个有关人工智能的古早笑话，说是在医院里一个人肝坏了、一个人肾坏了、一个人心坏了、一个人肺坏了，因此医院的智能系统决定牺牲一个健康的人救活这四个人。” 

 “虽然只是一个笑话，但我发现在现有的策略梯度算法下，人工智能还真就会这样做！” 

 “我不希望未来制造出真正强大的人工智能时，却因为缺乏约束，导致带来的不是人类的福祉而是噩梦。” 

 时晨涛眼睛瞪得老大，整个人都因为兴奋而战栗，江铭的话如同一记重锤敲击在他的心脏上，令他面色潮红，整个胸腔都因为呼吸而起伏。 

 可控人工智能，这是人工智能可解释性的一个新的发展方向！ 

 就在江铭提到策略梯度算法存在不受控问题的时候，一直在做可解释性的他突然抓住了那一闪而逝的灵感。 

 或者说，是顿悟！ 

 一个全新的想法从他的心底萌生了出来。 

 他打开电脑，手指在键盘上敲击，以最快的速度写下了一页证明。 

 终于，江铭在一片掌声与喝彩中走下了台。 

 而时晨涛也站起了身，昂首挺胸，与江铭侧身而过，一步步向着台上走去。 

 “江铭，谢谢你，你的演讲非常精彩。不过，山有山的错落，我也有我的平仄。” 

 “我不会输的。”