查字典图书网
查字典图书网
二进制赫克斯
对
终极算法
的书评
发表时间：2017-01-25 18:01:07
2017年被称为所谓“人工智能落地”的一年，甭管是真的还是概念上的吹牛逼，作为一个曾经粗浅地借用机器学习算法开发过推荐系统的程序员，以及对人的学习也很感兴趣的人，今天，我们就一个两者的一个侧面：学习，来谈谈两者对比带来的启发。
以下观点非学术观点，算是个人基于现有材料与个人经验的一个小讨论。各位看看就好。
01 人的学习
关于人的学习，我之前一直强推的学习科学的集大成者：《为什么学生不喜欢上学？》讲的就很不错。我们拿三个点，一个是人的学习的“硬件基础”、一个是人的学习过程、一个是人的学习的结果来说说人的学习的特点。
首先，人的学习“硬件”，主要是两个，一个是短期记忆区，一个是长期记忆区。人在学习的时候，新事物先进入容量非常有限的短期记忆区，只有经过重复、刻意练习之后，知识以及知识之上的理解才会进入长期记忆区间这个资料库。
其次，人的学习过程是连续的，也就是说，新的概念，都是建立在已有的知识基础上的。对于全新的领域，如果我们一无所知，理解起来是非常困难的，某种意义上说，领域越新、同时没有“元知识”，即大部分学科共有的科学、哲学基础知识，学起来也很散乱，难以突破知识的“表层结构”达到深层理解。
最后，学习，无非是从菜鸟到专家。就这个学习的结果而言，专家比菜鸟强的地方主要在于两处，一个，是对事物的理解更加抽象，更容易发现问题的结构与事物的模式；一个呢，就是这种模式愈发标准化，或者说收敛到某个信息节约的知识结构标准。（后面这一点的解释：专家和菜鸟对知识都会形成结构，但专家们的结构在抽象上更加接近为一种更合理、效率更高、更标准的知识结构，菜鸟的知识结构则是浅层的、具体的甚至错误关联的。）
02 机器的学习
现在的人工智能，和大多数大学科（比如人格心理学）一样，都是由几个大的派别分立支撑的，每个派别都有着自己独立的解释范式与实践手段，在达到最终目标——人工智能的路上，分歧是非常明显的。
比如符号学派，核心在于推理。怎么推理呢？我们可以建立一个规则集，以“如果……那么……”为规则，推定一个概念的支撑条件。把这个规则集图形化，就是典型的决策树。比如有个游戏，心里面想一个数字，固定回答次数猜数字，只能回答“是”与“否”，游戏里面我们可以问，这个数比xx大吗？/比xx小吗？根据很简单的数学推理，我们就能够确定最快猜出的决策路径和最小需要的次数。
比如联结学派，其代表算法，神经网络与深度学习（多层神经网络），就相当于一个过滤器，对于通过这个网络的信息，通过加权的奖惩机制，形成特定的认知结构。
比如进化学派，其主要参考思想是生物的进化——当然，在算法里面，则是认知结构的进化。对于进化产生的每一代认知结构，我们都是择优录取（PS：父代的结构和子代的结构也同时参与竞争），最后，进化几千几万代，选择出符合目标的最好的结构。
比如贝叶斯学派，基于简单的贝叶斯定理（以及其某种意义上的扩充：马尔科夫链），依托于背景信息（包括主观倾向），根据相关联的新信息不断调整原有的结构以改善认知。
比如类推学派，基于相似性事物的相似性定义空间距离，由此及彼地进行学习。（PS：之前构建的推荐系统的主算法就是基于相似性的协同过滤算法，混合式的。）
——虽然路径很多，但归根结底，机器学习都是基于统计上的连续性（有些事物表面不连续，但深层是连续的，这种连续性很可能是一般统计理论难以识别的），力求发现事物的深层结构与模式。
03 从混沌到模式再到直觉
发现模式、从无序中构建秩序，不仅仅是学习，也是事物逆向演化的一般逻辑：从高熵演化到低熵。
这也提示我们，所谓的学习问题，在更基本的层面上，是个演化的问题，或者说计算的问题。（计算主义）
曾经有人将“大师”，也就是专家和大数据处理做对比，谈到一个很通俗的观点，就是“大师”之所以聪明，其实是因为他见的多了，比一般人拥有更丰富的人生经验——这和大数据多么相似！所以，大数据，就是用计算机再造“大师”。
这个类比当然值得思考，比如我们还可以说，人的学习和机器的学习，归根结底都是数学的——数学的主要目标，就是在发现更基本的结构和更深层的模式。（比如非常基础的基于对称性的群论，就是典型的研究结构与模式的数学，一个结构通过各种映射演变为别的结构，其对称性是以何种形态保持的？这些对称结构组成的是什么群？不同的结构是否只是表面的不同并且只是某个更基础的结构的帷幕之一角？）
当学习本身结构化之后，对于机器和人，都可以称之为一种“直觉”。比如对于人的微笑的识别，我们仅凭直觉就可以辨识，而无需从头开始，进行还原主义式的分析与组合。
联想到专家和菜鸟的差别——专家哪怕是任凭直觉瞎猜，也比菜鸟要快、也要准确地多，这便是因为专家已经具有了内在的知识结构。
04 终极算法与智能形态
今年刚出的《终极算法》这本书里，作者作为一个浸淫机器学习领域数十载的专家，提出了一个猜想，那就是：对于现今分立的各个机器学习流派，是否存在一种终极算法，可以将这些流派综合、统一起来？
我们元思考一下，发现作者这样的想法，也算是“数学思考”了，那就是力求在不同的知识结构中，寻求一种更基础的结构，能够统摄已知的几大结构与看法。
这本书虽然是科普，但对于对机器学习毫无了解、数理知识一般的人来说，我认为并不好懂。（比我这篇“深度阅读”难得多。）
作者的谈到的所谓“终极算法”，总的来说，是一种从微观结构建立到宏观结构修整，结合了逻辑与概率两条进路，博采于各家的“混合算法”。
但是，如果你对人工智能的研究历史略有了解，你会发现，某种程度上说，作者所要寻找的“终极算法”，算是一种研究上的回归。
怎么个回归法呢？
其实，人工智能在早期的时候，确实如大家所想，是一种仿生化、建构主义的研究——比如，模仿人脑来进行机器学习。
但是，人脑又是怎么学习的呢？意识的形态是怎样的呢？人类智能究竟是怎样一种智能呢？——这些，都是哲学问题，或者说，随着哲学的语言学转向，这些又变成了某种语言学、逻辑学问题。
后来，商业驱动人工智能发展，简单粗暴的机器学习算法（比如基于马尔科夫链的语音识别、机器翻译）比这些建构主义的方法有用地多，人工智能也逐渐变成了数据与算法驱动。
随着支撑其的几大领域成熟，现在，我们又站在了一个汇聚点：综合这些方法。而这种综合，你仔细一看，其实就是构建一个弥补了人类认知缺陷（比如记忆空间、线性推理速度、并发吞吐量等）的超级大脑模型。
——某种意义上说，这就是人类学习与机器学习的大综合。
这种综合但是又类似人脑的智能形态，究竟是怎样的智能形态？这种智能形态的完成，是真的突破奇点，造出了上帝吗？这种可以自主进化的“机器”，算是智能的顶峰同时也是智能的终结吗？
以上只是猜想。
*
本文首发于公众号：罗文益
