为什么大家都不戳破深度学习的本质？！

　　自从来年 AlphaGo 完虐李世乭，深度进修水了。但仿佛出人道得浑它的本理，只是把它看成一个乌箱去使。有人道，深度进修便是一个非线性分类器？有人道，深度进修是对人脑的模仿……但我以为皆出有捅透那层窗户纸。

　　当读完 Jeff Hawkins 的《论智能》，「便是它了！」。而我诧异天发明，本书竟是 2004 年出书的！我怕本人读了本假书，或是某个好百姓科的着做，特地到豆瓣、知乎上查了下，发明险些每一个看过那本书的人皆对其实际啧啧歌颂。但奇异的是，仿佛出人肯替它站台，那套实际的影响行步于此，仿佛各人皆正在决心粉饰本人看过那本秘籍。它明显曾经完好注释了人脑智能的运做机造了啊！留意是 Real Intelligence ，而不只仅是 Artificial Intelligence ！！！

　　三个洞睹

　　比起尽年夜大都脑科教论文，做者的洞睹简朴很多，也深入很多：

　　恒久以去，因为我们出有才能从内部来不雅察思想，以是人们老是把「智能」同等为「表示出智能的止为」。但当我们看书时，正在中人看去并出有任何变革，而我们本人晓得，那时期发生了无数的遐想、顿悟、回想。以是，「了解」是没法经由过程内部止为去丈量的，它是一个内涵襟怀的目标。

　　从草履虫到人类，年夜天然会为每种死物别离设想一套智能机造，借是相沿一套机造，亦或是从某一代开端呈现某种齐新的智能机造，并相沿至古（那末，开始发生那套智能机造的又是甚么物种呢？）？我们所道的智能，是人类所独占，借是死物的遍及特性（只是多众之别）？而做者信赖，智能不成能是天主专为人类而设想的，它必然去自卑天然的某种习用手段。

　　年夜脑皮层，不论是构造上借是功用上，皆有着不异的机关／机理（严厉去道，那没有算做者的洞睹，而是早正在 1978 年由 Vernon Mountcastle 发明的）。

　　由那三个洞睹动身，天然而然天导背了以下疑问：

　　假如智能没有是由止为界说的，那该怎样界说它？

　　背前看，智能是怎样演变而去的？

　　背内看，年夜脑皮层的构造是怎样捕获那个天下的构造的？

　　简朴天道，做者的结论是：

　　智能并出有人们设想的那末玄乎，它不外是一种「猜测将来的才能」而已。

　　那些猜测的本质，不外是「死物的应激性」正在「死物自均衡机造」&「情况压力」下发生的副产物。

　　智能的中心是某种「不变稳定的工具」。而那得益于年夜脑皮层同量的层级构造。

　　上面，我们便去看看做者是怎样从那三个简朴的洞睹一步步揣测出智能的素质的。

　　死命的春千

　　小到人体，年夜到经济体系，庞大体系内皆有着一种消加打击、使体系回回稳态的相似机造。血糖浓度低了，胰下血糖素排泄会删减，推下血糖；而血糖下了，胰岛素排泄会删减，推低血糖。经由过程调理那对激素，体系勉力让血糖保持正在某一范畴内。那种自稳态机造呈现正在死命的各个角降，连结着死命的自我均衡。

　　那便像一只「看没有睹的脚」，老是念推开挤压，同时把「遁兵」抓返来。那只「看没有睹的脚」正在我们年夜脑中编织了无数「准确的地位」（用脑科教家的乌话道便是「恒定表征」）。一旦偏偏离，我们便开端警惕起去，并变更多个体系结合应对。举个书中的例子，一个球飞过去，我们其实不是来计较它的弹讲、降面，而是批示肢体响应调解，曲到捉住去球。那套调解算法便是「猜测」。从那个事例看，人们正在接球那件事上表示出的智能，战草履虫背着食品划动所展示的应激性，又有甚么素质的别离呢？

　　为何道「猜测」是智能的根底？

　　平居，人们了解的「猜测」步子迈得太年夜了，便比如从一收球便要粗准天算出其降面，而人脑的「猜测」更像是「应激」，球动我动，一面面微调。当代社会开展得太快，让我们看没有浑观点的汗青相貌，因此更简单被表象的迷雾猜疑。当我们走回汗青的出发点，迷雾天然集来。智能，于我们最年夜的好处是甚么？并不是缔造甚么，而是保存下来。人类无时无刻没有正在「保存」借是「开展」之间纠结。但很少有人看到：开展，不外是为了应对已知的保存应战。

　　我们该当怎样来界说智能呢？或许演变的汗青能报告我们更多。智能，是协助人类保存下来的一种才能：是让我们能够正在溪流中叉到游动的鱼女的才能，是让我们能够只靠一幅恍惚的图象便判定出是伴侣借是猛兽……我们该当来研讨那些「怎样连结均衡」之类的成绩，而没有是甚么弹讲供解成绩，那没有是年夜天然的退化目的，天然也得没有到甚么年夜脑的机造。

　　一切保存成绩皆能够回结为一个元成绩：怎样辨认出那个成绩中的那些个恒定稳定的工具。好比：溪流中的鱼、回家的标的目的……假如道智能中借存正在此外身分，好比：设想、缔造东西、处理成绩，皆能够规约到某种笼统手腕上。归根结柢，人类处理统统成绩的办法只要一个——使用笼统，正在更下维度上和谐冲突。

　　统统绕没有开「恒定表征」（invariant representations）。

　　笼统的素质

　　便好像人们正在承认了「背数」那一观点以后，末于能将「减法」&「加法」那两种表象上完整差别（一个删减，一个削减）的运算，同一为「整数域上的减法」。从更下的维度和谐冲突，那恰是年夜脑皮层的机关方法，也是其事情本理。不竭正在征象中找到配合面，提与出去，与个名字；那些名字又成了上一层笼统的基石（大概叫「辞汇」）。那样一层一层，曲至获得谁人智能的圣杯——恒定表征。

　　举个例子，我们是怎样辨认边沿的呢？

　　我们先去考查一小块 3×3 的视网膜，别离标识表记标帜为 #1～#9 （以下图所示）。当一条横线呈现时（#1, #4, #7 均被激活），电疑号通报到第两层。第两层的每个神经元，别离呼应视网膜上一组细胞被激活的状况。好比：第两层最右边的那片神经元，呼应的是单个视网膜细胞被激活的状况。再好比：第两层左两那片神经元，呼应的是随便两个视网膜细胞被激活的状况。以此类推……

　　

 

　　边沿辨认：最基层是视网膜细胞；当某个视网膜细胞组开被激活后，会激活其上一层的响应神经元；而上一层神经元的某个组开被激活后，又会链式天激活更上一层的神经元假如我们把工夫的果素思索出来，假定疑号其实不会即刻消逝，而是跟着工夫衰加，那末只需工夫够短，输进 (#1, #4, #7)、(#2, #5, #8)、(#3, #6, #9) 那三组刺激，便会正在第三层激活某个神经元，代表「发明一条横线」。

 

　　看，实在每个神经元皆是一个「单词」（或是「观点」／「笼统」／「特性」）。只不外低层神经元形貌的「单词」笼统水平更低。好比：第两层谁人 #(1, 4, 7) 神经元朝表的是「正在视网膜的最右边呈现一条横线」，而其上层谁人则出有「正在视网膜的最右边」那一束缚。

 

　　影象的脚色

 

　　神经元能够正在 5 毫秒内完成疑息的搜集-整开-输出，相称于运算速率为每秒 200 次。人类能够正在半秒内（相称于 100 步）辨认图象、做出挑选…… 100 步，机械可做没有到。正在人类已知的算法内里，或许只要「挨表」（把谜底事前存储正在影象中，用时其实不做计较，而只是提与）能够做到。以是，全部年夜脑皮层便是一个影象体系，而非甚么计较机。

 

　　深度进修做对了甚么？

 

　　多层收集，供给了逐层笼统的通讲。现在，图象辨认体系恰是那么做的：底层辨认边沿，然后辨认特定外形，再下层辨认某种特性……

 

　　卷积，供给了得到「恒定表征」的手腕。

 

　　借有甚么我们没有晓得？

 

　　当我们念要提与某段影象时，常常只需求只行片语便止了。也便是道，影象仿佛是以一种齐息的情势存储的。任何片断皆包罗了局部。

 

　　借有，我们仍然没有晓得年夜脑是怎样正在 100 步内完成决议计划的。我们也没有晓得为何会有那末多反应毗连？轴突 v.s. 树突正在功用上有甚么别离？……

 

　　如今让我们回过甚去看做者的三个洞睹，用乌话再讲一遍便是：

 

　　了解，是对「年夜脑怎样构成影象，并操纵那些影象做出猜测」的一个内部襟怀。

 

　　猜测，是某种自我调理机造的副产物。

 

　　年夜脑皮层正在表面 & 构造上存正在着惊人的同量性。也便是道，年夜脑皮层利用不异的计较方法去完成它的统统功用。人类展示出去的一切智能（视觉、听觉、肢体活动……）皆是基于一套同一的算法

 

　　End.