2017年被称为所谓“人工智能落地”的一年，甭管是真的还是概念上的吹牛逼，作为一个曾经粗浅地借用机器学习算法开发过推荐系统的程序员，以及对人的学习也很感兴趣的人，今天，我们就一个两者的一个侧面：学习，来谈谈两者对比带来的启发。
以下观点非学术观点，算是个人基于现有材料与个人经验的一个小讨论。各位看看就好。
01 人的学习
关于人的学习，我之前一直强推的学习科学的集大成者：《为什么学生不喜欢上学？》讲的就很不错。我们拿三个点，一个是人的学习的“硬件基础”、一个是人的学习过程、一个是人的学习的结果来说说人的学习的特点。
首先，人的学习“硬件”，主要是两个，一个是短期记忆区，一个是长期记忆区。人在学习的时候，新事物先进入容量非常有限的短期记忆区，只有经过重复、刻意练习之后，知识以及知识之上的理解才会进入长期记忆区间这个资料库。
其次，人的学习过程是连续的，也就是说，新的概念，都是建立在已有的知识基础上的。对于全新的领域，如果我们一无所知，理解起来是非常困难的，某种意义上说，领域越新、同时没有“元知识”，即大部分学科共有的科学、哲学基础知识，学起来也很散乱，难以突破知识的“表层结构”达到深层理解。
最后，学习，无非是从菜鸟到专家。就这个学习的结果而言，专家比菜鸟强的地方主要在于两处，一个，是对事物的理解更加抽象，更容易发现问题的结构与事物的模式；一个呢，就是这种模式愈发标准化，或者说收敛到某个信息节约的知识结构标准。（后面这一点的解释：专家和菜鸟对知识都会形成结构，但专家们的结构在抽象上更加接近为一种更合理、效率更高、更标准的知识结构，菜鸟的知识结构则是浅层的、具体的甚至错误关联的。）
02 机器的学习
现在的人工智能，和大多数大学科（比如人格心理学）一样，都是由几个大的派别分立支撑的，每个派别都有着自己独立的解释范式与实践手段，在达到最终目标——人工智能的路上，分歧是非常明显的。
比如符号学派，核心在于推理。怎么推理呢？我们可以建立一个规则集，以“如果……那么……”为规则，推定一个概念的支撑条件。把这个规则集图形化，就是典型的决策树。比如有个游戏，心里面想一个数字，固定回答次数猜数字，只能回答“是”与“否”，游戏里面我们可以问，这个数比xx大吗？/比xx小吗？根据很简单的数学推理，我们就能够确定最快猜出的决策路径和最小需要的次数。
比如联结学派，其代表算法，神经网络与深度学习（多层神经网络），就相当于一个过滤器，对于通过这个网络的信息，通过加权的奖惩机制，形成特定的认知结构。
比如进化学派，其主要参考思想是生物的进化——当然，在算法里面，则是认知结构的进化。对于进化产生的每一代认知结构，我们都是择优录取（PS：父代的结构和子代的结构也同时参与竞争），最后，进化几千几万代，选择出符合目标的最好的结构。
比如贝叶斯学派，基于简单的贝叶斯定理（以及其某种意义上的扩充：马尔科夫链），依托于背景信息（包括主观倾向），根据相关联的新信息不断调整原有的结构以改善认知。
比如类推学派，基于相似性事物的相似性定义空间距离，由此及彼地进行学习。（PS：之前构建的推荐系统的主算法就是基于相似性的协同过滤算法，混合式的。）
——虽然路径很多，但归根结底，机器学习都是基于统计上的连续性（有些事物表面不连续，但深层是连续的，这种连续性很可能是一般统计理论难以识别的），力求发现事物的深层结构与模式。
03 从混沌到模式再到直觉
发现模式、从无序中构建秩序，不仅仅是学习，也是事物逆向演化的一般逻辑：从高熵演化到低熵。
这也提示我们，所谓的学习问题，在更基本的层面上，是个演化的问题，或者说计算的问题。（计算主义）
曾经有人将“大师”，也就是专家和大数据处理做对比，谈到一个很通俗的观点，就是“大师”之所以聪明，其实是因为他见的多了，比一般人拥有更丰富的人生经验——这和大数据多么相似！所以，大数据，就是用计算机再造“大师”。
这个类比当然值得思考，比如我们还可以说，人的学习和机器的学习，归根结底都是数学的——数学的主要目标，就是在发现更基本的结构和更深层的模式。（比如非常基础的基于对称性的群论，就是典型的研究结构与模式的数学，一个结构通过各种映射演变为别的结构，其对称性是以何种形态保持的？这些对称结构组成的是什么群？不同的结构是否只是表面的不同并且只是某个更基础的结构的帷幕之一角？）
当学习本身结构化之后，对于机器和人，都可以称之为一种“直觉”。比如对于人的微笑的识别，我们仅凭直觉就可以辨识，而无需从头开始，进行还原主义式的分析与组合。
联想到专家和菜鸟的差别——专家哪怕是任凭直觉瞎猜，也比菜鸟要快、也要准确地多，这便是因为专家已经具有了内在的知识结构。
04 终极算法与智能形态
今年刚出的《终极算法》这本书里，作者作为一个浸淫机器学习领域数十载的专家，提出了一个猜想，那就是：对于现今分立的各个机器学习流派，是否存在一种终极算法，可以将这些流派综合、统一起来？
我们元思考一下，发现作者这样的想法，也算是“数学思考”了，那就是力求在不同的知识结构中，寻求一种更基础的结构，能够统摄已知的几大结构与看法。
这本书虽然是科普，但对于对机器学习毫无了解、数理知识一般的人来说，我认为并不好懂。（比我这篇“深度阅读”难得多。）
作者的谈到的所谓“终极算法”，总的来说，是一种从微观结构建立到宏观结构修整，结合了逻辑与概率两条进路，博采于各家的“混合算法”。
但是，如果你对人工智能的研究历史略有了解，你会发现，某种程度上说，作者所要寻找的“终极算法”，算是一种研究上的回归。
怎么个回归法呢？
其实，人工智能在早期的时候，确实如大家所想，是一种仿生化、建构主义的研究——比如，模仿人脑来进行机器学习。
但是，人脑又是怎么学习的呢？意识的形态是怎样的呢？人类智能究竟是怎样一种智能呢？——这些，都是哲学问题，或者说，随着哲学的语言学转向，这些又变成了某种语言学、逻辑学问题。
后来，商业驱动人工智能发展，简单粗暴的机器学习算法（比如基于马尔科夫链的语音识别、机器翻译）比这些建构主义的方法有用地多，人工智能也逐渐变成了数据与算法驱动。
随着支撑其的几大领域成熟，现在，我们又站在了一个汇聚点：综合这些方法。而这种综合，你仔细一看，其实就是构建一个弥补了人类认知缺陷（比如记忆空间、线性推理速度、并发吞吐量等）的超级大脑模型。
——某种意义上说，这就是人类学习与机器学习的大综合。
这种综合但是又类似人脑的智能形态，究竟是怎样的智能形态？这种智能形态的完成，是真的突破奇点，造出了上帝吗？这种可以自主进化的“机器”，算是智能的顶峰同时也是智能的终结吗？
以上只是猜想。
*
本文首发于公众号：罗文益
罗文益
“终极算法”的时代已经来了吗？ 沉醉 2017-02-07
0赞
一些人可能对“算法”这种说法还比较陌生，但其实现在人们的生活已经离不开“算法”了。换句话说，“算法”已经是人们不容回避的存在。用比较专业的说法来说，算法（Algorithm）是指解题方案的准确而完整的描述，是一系列解决问题的清晰指令，算法代表着用系统的方法描述解决问题的策略机制。通俗地说，算法就是能够对一定规范的输入，在有限时间内获得所要求的输出。现在我们一般探讨的多是计算机的算法。传统上认为，让计算机完成某件事情的唯一方法，就是非常详细地记录某个算法并解释其如何运行。但机器学习算法就不一样，机器是通过从数据中推断，它们自己会弄明白做事方法。掌握的数据越多，它们的工作就越顺利。现在我们不用给计算机编程，它们自己给自己编程。
人工智能是不得不面对的未来 有容乃大 2017-02-20
0赞
我是一个典型的理工盲，高中时物理考试曾经考过全市倒数第一，100分只得了16分，着16分里面肯定有蒙对的因素，可以说基本没有开窍，这么多年的工作也是纯文字的，万万想不到，一直不看电视的我，因为对智能手机的依赖，居然对人工智能产生了兴趣，尤其是2016年，阿尔法狗虐了李世石，成为人工智能元年的开始，我甚至感受到了一种危机：人工智能肯定会使得很多行业的人失业，我会包括在内吗？毕竟，在美国，很多新闻稿件已经由电脑完成了，很多司机也会被无人驾驶汽车取代，处于这种好奇，当得知有《终极算法》时，我决定买来一读，了解一下机器学习的原则，看看他到底是工具还是竞争者。
人类如何把握终极算法? 西溪近园 2017-03-24
0赞
(1) 一本关于机器学习的科普著作，最适合IT学生、研究者和从业者阅读；非IT读者可能比较烧脑。
(2) 最有价值的部分是系统讲解了机器学习五大流派（符号学派、联结学派、进化学派、贝叶斯学派、类推学派）的基本思想和原理、主算法，以及发展的脉络. 这不简单。
(3) 作者以探求终极算法为目标和主线。这样的探求和物理学寻求大统一理论有相似的动机。
(4) 如果按作者的定义：“终极算法可以获得过去、现在和未来的所有知识，它的发明将成为人类最伟大的科学成就之一。” 那么，终极算法的存在也许并不成其为问题。说终极算法是存在的，会错吗？若非如此，那么宇宙何以演化到这个状态，人类何以进化到这种高度，人类大脑何以如此智能？也许，关键的、有实际意义的问题是：这样的终极算法人类是否能把握？它的使用场景是怎样的？
(5) 如果撇开寻找终极算法的目标，作者揭示各机器学习学派的局限性，显示在复杂智能系统中综合运用多种机器学习算法，具有现实的紧迫性。
(6) 阅读中碰到几处笔误，如下：
第55页第11行：“影”后漏了“响”字。
第203页第1行：“打电话给跟说”漏了两个“你”字。
第205页第5行：“鲜有的时间”应为“鲜有的事件”。
第213页倒数第5行：“蒙特卡落法”应为“蒙特卡洛法”。
翻译太粗糙，原文不严谨 Grass 2017-04-02
0赞
上周参加一个会议，资料袋中放了一本《终极算法》，似乎是最近的热门畅销，出门时就顺手带上，在飞机上翻看。译者大概是文科生，看来胆子挺大：“与，或，非”翻译成“且，或，非”（页4），切！微分、积分翻译成“分化”和“整合”（页11），“NP完全问题”加了编者注（页42），可是正好与其本义相反，本来挺清晰的概念，花了两页解释，我这个计算机专业人员楞没看明白他要说什么（不知道其他专业的读者看出了点儿什么），译者马虎，原文也好不到哪里去（我没对照原文，作者对“算法”的偏执和随意解释已让我兴趣索然）。相比之下，营销很卖力，中信出版社拉来比尔·盖茨等人联袂推荐，把力量用到正地方岂不更好！
《终极算法》问答录 沧海 2017-04-06
0赞
问：什么是机器学习(Machine Learning)?
答：一般的算法接收数据作为输入，运行算法完成相应的功能，并输出结果。而机器学习接收数据和预期想要的结果作为输入，输出能把数据转化成结果的算法。也就是产生算法的算法。有点像“授人以鱼，不如授人以渔”，一般的算法产出的是鱼，而机器学习算法教授的是捕鱼的方法。
终极算法资源免费分享 Zac 2017-05-04
0赞
也许不知道，但机器学习就在你身边。当你把查询信息输入搜索引擎时，它确定该向你显示哪些搜索结果（包括显示哪些广告）。当你打开邮箱时，大部分垃圾邮件你无法看到，因为计算机已经把这些垃圾邮件过滤了。登录亚马逊网站购买一本书，或登录网飞（Netflix）公司网站观看视频，机器学习系统会推荐一些你可能喜欢的产品。脸书（Facebook）利用机器学习决定该向你展示哪些更新，推特（Twitter）也同样会决定显示哪些文章。你使用计算机的任何时候，都有可能涉及机器学习。
自我意识的终极算法 斌纸 2017-01-11
1赞
米开朗基罗说：塑像本来就在石头中，我只是把不要的部分去掉。
让机器学会“思考”的终极算法 剑阁琴音 2017-01-16
2赞
不得不感慨，中信出的很多和计算机与互联网有关的书籍我都读过，而这本《终极算法》可以说是花费我精力和时间最多的一本了，为什么？因为这本其实如果严格来说并不完全是科普读物，应该说成是半科普半专业书籍，很多方面可以说是需要拥有一定的人工智能方面研究理论基础的人才能完全读懂这本书，当然了，内行看门道，外行看热闹。这本书即使是我们这些外行人来看，也是相当不错的关于人工智能和机器学习领域的好书，大体上来看，皆是可以理解的，这点你们大可不必担心，而且可以说，看完全书，对于人工智能我算是有了一个全面的了解了，受益良多，这本书在我看来，是实实在在的一本好书。
说完感受，说下书吧。这本《终极算法》是来自美国的佩德罗•多明戈斯先生所著，他的名头可是相当的多啊，美国华盛顿大学计算机科学教授、国际机器学习学会联合创始人、《机器学习》杂志编委会成员、JAIR前副主编、美国人工智能协会院士等等，他在机器学习与数据挖掘方面著有200多部专业著作和数百篇论文，还曾荣获SIGKDD创新大奖（数据科学领域的最高奖项）、斯隆奖（Sloan Fellowship）、美国国家科学基金会成就奖（NSF CAREER Award）、富布赖特奖学金、IBM学院奖以及多个顶级论文奖项。可以说，在数据挖掘、机器学习、人工智能这三个领域上算得上是资深专家了。那么，这本《终极算法》又是讲些什么的呢？这个算法啊，可以说是我们在互联网生活中不可或缺的东西，是用来让机器理解我们人类所想所需的最必要的东西，或者可以说是机器的“思维”，机器通过算法来计算我们需要什么，然后展示我们想要的东西给我们，你看：购物网站用算法来为你推荐商品，点评网站用算法来帮你选择餐馆，GPS系统用算法来帮你选择最佳路线，公司用算法来选择求职者。。。。。。机器的思考来自于算法，而这，也正是人工智能（AI）最重要的构成部分。
不同于传统算法，现在悄然主导我们生活的是“能够学习的机器”，它们通过学习我们琐碎的数据，来执行任务；它们甚至在我们还没提出要求的时候，就能完成我们想做的事。是的，通过借助大数据和云计算，机器学习进入了一个全新的阶段，机器开始越来越有“智慧”了，通过“主动”学习，他们开始“懂得”我们在想些什么了。在《终极算法》中，佩德罗•多明戈斯先生还向我们展示了机器学习五大学派，这每个学派都有自己的主算法，能帮助人们解决特定的问题。而如果整合所有这些算法的优点，就有可能找到一种“终极算法”，该算法可以获得过去、现在和未来的所有知识，这也必将创造新的人类文明。可以说，了解“终极算法”能够带给我们一个崭新的科学世界观，使我们能够预测以后的科技发展，布局未来，占位未来！不论我们身处什么行业、做什么工作，了解终极算法都是很有必要的事情。
终极算法路在何方？ 雾凇 2017-01-18
14
李世石“人机大战”。图片来自网络。
算法的博大精深 哼歌 2017-01-13
13
虽然我是学数学的，但对于算法，我的第一反应是计算机编程，因为在现在这个飞速发展的时代，一切事物越来越依赖于计算机，包括数学上的复杂计算都是通过计算机来解决，从而在数学领域也延伸出计算数学这一分支。
很多人或许会好奇，计算机这么多功能都是怎么发展起来的，这就是我想说的编程，也就是机器学习。而这也是目前人工智能的主流技术，随着智能时代的到来，各种机器人以及前段时间引发热议的“阿尔法”都将在未来取得广泛应用。想深入了解机器学习的原理，并揭密算法的背后，就让我们进入这本《终极算法》一探究竟。
作者围绕两个方面展开本书的叙述，解释机器学习原理和帮助创造终极算法。详细的介绍了机器学习的5 个学派：符号学派将学习看作逆向演绎，并从哲学、心理学、逻辑学中寻求洞见；联结学派对大脑进行逆向分析，灵感来源于神经科学和物理学；进化学派在计算机上模拟进化，并利用遗传学和进化生物学知识；贝叶斯学派认为学习是一种概率推理形式，理论根基在于统计学；类推学派通过对相似性判断的外推来进行学习，并受心理学和数学最优化的影响。
在书里，作者一直希望找到一种融合各种算法的优势，可以解决所有应用问题的通用算法，即终极算法。尽管作者为了证明这一想法，从神经科学、进化论、物理学、统计学以及计算机科学五个方面进行论证，但我依然对此持否定意见。从古至今，无数的数学家在寻找通用算法，却从未找到过，毕竟世上问题包罗万象，怎么可能恰好找到能符合所有问题特性的解呢？反过来，倘若真的有这么一种算法存在，将所有问题迎刃而解，那这个世界还会进步吗？
其实，不管这个想法能否实现，将此作为这个领域的终极奋斗目标，始终不是一件坏事，哪怕一直无法解决，总能为这个领域的发展做出贡献，正如牛顿说的“我之所以比别人看得远些，是因为我站在巨人的肩膀上。”也只有这样，人类前进的步伐才会永不停滞，我们的未来也将越来越美好。
看书之前，我对算法的简要了解，仅知道这是在数学的基础上发展起来的，以模式化的语言表达包含丰富信息的逻辑结构，甚至傻傻的以为只有数学基础够好，稍微学习下计算机语言，就可以编出程序，但真的如此简单吗？看完全书，才明白之前太天真，算法也是包含了很多学科的一个分支，要想学好它，实在要付出不少努力。尤其在“大数据”时代，掌握好算法，必然是前途无量啊！
翻译太滥了--完全欠缺相关学科常识的翻译 四十而立 2017-02-09
9
先读了英文原版的前两章，觉得读英文还是费劲，然后买了中文版开始读。
被算法悄然影响的时代 春城邂逅 2017-01-17
6
终极算法已在多大程度上影响我们的生活？ 作为一位机器学习领域研习10 年以上的专业技术人员，我当初入行的时候没有想到，短短的10 年间，这项技术会如此快速地改变众多行业，并影响全球数十亿用户生活的方方面面。在今天，当你用今日头条浏览新闻资讯的时候，当你用网易云音乐查看推荐歌单的时候，当你在百度搜索信息的时候，当你在互联网金融平台申请借款的时候，甚至在你调戏Siri 和小冰的时候，其实都是其背后的机器学习算法在云端服务器中为你默默服务。但对于这样一种重要技术，市面上一直缺少一本适合普通读者的入门科普读物，而众多的专业书籍要求读者具备一定的高等数学和计算机基础算法知识，并不适合科普的需要。直到朋友将《终极算法：机器学习和人工智能如何重塑世界》推荐给我时，我欣慰地发现，这正是想了解一点机器学习的读者所需要的。
让机器学会“思考”的终极算法 剑阁琴音 2017-01-16
2
不得不感慨，中信出的很多和计算机与互联网有关的书籍我都读过，而这本《终极算法》可以说是花费我精力和时间最多的一本了，为什么？因为这本其实如果严格来说并不完全是科普读物，应该说成是半科普半专业书籍，很多方面可以说是需要拥有一定的人工智能方面研究理论基础的人才能完全读懂这本书，当然了，内行看门道，外行看热闹。这本书即使是我们这些外行人来看，也是相当不错的关于人工智能和机器学习领域的好书，大体上来看，皆是可以理解的，这点你们大可不必担心，而且可以说，看完全书，对于人工智能我算是有了一个全面的了解了，受益良多，这本书在我看来，是实实在在的一本好书。
说完感受，说下书吧。这本《终极算法》是来自美国的佩德罗•多明戈斯先生所著，他的名头可是相当的多啊，美国华盛顿大学计算机科学教授、国际机器学习学会联合创始人、《机器学习》杂志编委会成员、JAIR前副主编、美国人工智能协会院士等等，他在机器学习与数据挖掘方面著有200多部专业著作和数百篇论文，还曾荣获SIGKDD创新大奖（数据科学领域的最高奖项）、斯隆奖（Sloan Fellowship）、美国国家科学基金会成就奖（NSF CAREER Award）、富布赖特奖学金、IBM学院奖以及多个顶级论文奖项。可以说，在数据挖掘、机器学习、人工智能这三个领域上算得上是资深专家了。那么，这本《终极算法》又是讲些什么的呢？这个算法啊，可以说是我们在互联网生活中不可或缺的东西，是用来让机器理解我们人类所想所需的最必要的东西，或者可以说是机器的“思维”，机器通过算法来计算我们需要什么，然后展示我们想要的东西给我们，你看：购物网站用算法来为你推荐商品，点评网站用算法来帮你选择餐馆，GPS系统用算法来帮你选择最佳路线，公司用算法来选择求职者。。。。。。机器的思考来自于算法，而这，也正是人工智能（AI）最重要的构成部分。
不同于传统算法，现在悄然主导我们生活的是“能够学习的机器”，它们通过学习我们琐碎的数据，来执行任务；它们甚至在我们还没提出要求的时候，就能完成我们想做的事。是的，通过借助大数据和云计算，机器学习进入了一个全新的阶段，机器开始越来越有“智慧”了，通过“主动”学习，他们开始“懂得”我们在想些什么了。在《终极算法》中，佩德罗•多明戈斯先生还向我们展示了机器学习五大学派，这每个学派都有自己的主算法，能帮助人们解决特定的问题。而如果整合所有这些算法的优点，就有可能找到一种“终极算法”，该算法可以获得过去、现在和未来的所有知识，这也必将创造新的人类文明。可以说，了解“终极算法”能够带给我们一个崭新的科学世界观，使我们能够预测以后的科技发展，布局未来，占位未来！不论我们身处什么行业、做什么工作，了解终极算法都是很有必要的事情。
算出未来 咩叭 2017-01-11
2
在大数据时代，数据已经时刻存在于我们的身边，想要与之抽离，只能去原始丛林了吧。对于普通群众来说，数学仿佛是一门神圣的学科，常人是无法触及的，其实不是的，我们平时生活中的小习惯都与数学的计算方式有关。人之所以会进步，就是因为人的求知欲，我们每天都在提出无数个问题，但是真正自己去付诸行动解决问题的人却少之又少。
人们总认为有些看似无法解答的问题，就一定要请教一些科学家或者借助机器之类的来帮助计算。其实运用我们初中学过的基本方式，就能够解答出许多人们生活中的疑惑。比如说数学中最基本的对消法，有些看似困难的题目，其实都能通过公式对消，最终得出一个简单的答案。人们只是看到了结果的复杂，却没有发现过程的简单，这也是现代人最大的误区。科技如此发达，人们一旦遇到问题，必定会先去寻求互联网的帮助。其实上网寻找答案是没错的，既然我们只是想知道这件事的答案，何必去费尽心思来解答呢。但是有一些只能我们通过计算才能得出答案的问题，你可以从本书中学到很多实用的技巧。
可以说人工智能是人类发展上的一次重要变革， 无论是大到企业家、互联网以及传统企业，还是小到个人，都应该理解这一轮革命的发展。因为这一切已经与我们的生活息息相关，未来更是离不开这项技术，所以本书值得仔细阅读并时刻反思。如果你想在今天做出一个公司，你要不说自己是深度学习、人工智能，都不好意思出来混。就像年轻人应聘，光是大学生都够呛能找到工作，至少得是研究生。
什么是终极算法？华盛顿大学教授Pedro Domingos在书中这样描述：“终极算法”就是通过机器学习的方式，自动发现和创作其他所有的算法的“主算法”。在《黑客帝国》里，“终极算法”就是Matrix—母体，看过黑客帝国的人，都可以感受到母体的变态。
算法和数据是息息相关的，比如2016年很很火的特斯拉、自动驾驶，里面的判断都离不开算法的判定，还有移动医疗，要是在数据库中输入所有的资料，再以终极算法计算，只要能有足够多的数据，一段代码就能动手术，而且更精确。当然个人认为，人工也很重要，代码始终是代码，而不能创新，创新最终要是要考人类的大脑思维。曾经有个人说过，互联网将改变人类生活的方方面面，那么相信，在未来，终极算法将改变整个社会环境。
人的学习、机器的学习以及终极智能 二进制赫克斯 2017-01-25
1
2017年被称为所谓“人工智能落地”的一年，甭管是真的还是概念上的吹牛逼，作为一个曾经粗浅地借用机器学习算法开发过推荐系统的程序员，以及对人的学习也很感兴趣的人，今天，我们就一个两者的一个侧面：学习，来谈谈两者对比带来的启发。
以下观点非学术观点，算是个人基于现有材料与个人经验的一个小讨论。各位看看就好。
01 人的学习
关于人的学习，我之前一直强推的学习科学的集大成者：《为什么学生不喜欢上学？》讲的就很不错。我们拿三个点，一个是人的学习的“硬件基础”、一个是人的学习过程、一个是人的学习的结果来说说人的学习的特点。
首先，人的学习“硬件”，主要是两个，一个是短期记忆区，一个是长期记忆区。人在学习的时候，新事物先进入容量非常有限的短期记忆区，只有经过重复、刻意练习之后，知识以及知识之上的理解才会进入长期记忆区间这个资料库。
其次，人的学习过程是连续的，也就是说，新的概念，都是建立在已有的知识基础上的。对于全新的领域，如果我们一无所知，理解起来是非常困难的，某种意义上说，领域越新、同时没有“元知识”，即大部分学科共有的科学、哲学基础知识，学起来也很散乱，难以突破知识的“表层结构”达到深层理解。
最后，学习，无非是从菜鸟到专家。就这个学习的结果而言，专家比菜鸟强的地方主要在于两处，一个，是对事物的理解更加抽象，更容易发现问题的结构与事物的模式；一个呢，就是这种模式愈发标准化，或者说收敛到某个信息节约的知识结构标准。（后面这一点的解释：专家和菜鸟对知识都会形成结构，但专家们的结构在抽象上更加接近为一种更合理、效率更高、更标准的知识结构，菜鸟的知识结构则是浅层的、具体的甚至错误关联的。）
02 机器的学习
现在的人工智能，和大多数大学科（比如人格心理学）一样，都是由几个大的派别分立支撑的，每个派别都有着自己独立的解释范式与实践手段，在达到最终目标——人工智能的路上，分歧是非常明显的。
比如符号学派，核心在于推理。怎么推理呢？我们可以建立一个规则集，以“如果……那么……”为规则，推定一个概念的支撑条件。把这个规则集图形化，就是典型的决策树。比如有个游戏，心里面想一个数字，固定回答次数猜数字，只能回答“是”与“否”，游戏里面我们可以问，这个数比xx大吗？/比xx小吗？根据很简单的数学推理，我们就能够确定最快猜出的决策路径和最小需要的次数。
比如联结学派，其代表算法，神经网络与深度学习（多层神经网络），就相当于一个过滤器，对于通过这个网络的信息，通过加权的奖惩机制，形成特定的认知结构。
比如进化学派，其主要参考思想是生物的进化——当然，在算法里面，则是认知结构的进化。对于进化产生的每一代认知结构，我们都是择优录取（PS：父代的结构和子代的结构也同时参与竞争），最后，进化几千几万代，选择出符合目标的最好的结构。
比如贝叶斯学派，基于简单的贝叶斯定理（以及其某种意义上的扩充：马尔科夫链），依托于背景信息（包括主观倾向），根据相关联的新信息不断调整原有的结构以改善认知。
比如类推学派，基于相似性事物的相似性定义空间距离，由此及彼地进行学习。（PS：之前构建的推荐系统的主算法就是基于相似性的协同过滤算法，混合式的。）
——虽然路径很多，但归根结底，机器学习都是基于统计上的连续性（有些事物表面不连续，但深层是连续的，这种连续性很可能是一般统计理论难以识别的），力求发现事物的深层结构与模式。
03 从混沌到模式再到直觉
发现模式、从无序中构建秩序，不仅仅是学习，也是事物逆向演化的一般逻辑：从高熵演化到低熵。
这也提示我们，所谓的学习问题，在更基本的层面上，是个演化的问题，或者说计算的问题。（计算主义）
曾经有人将“大师”，也就是专家和大数据处理做对比，谈到一个很通俗的观点，就是“大师”之所以聪明，其实是因为他见的多了，比一般人拥有更丰富的人生经验——这和大数据多么相似！所以，大数据，就是用计算机再造“大师”。
这个类比当然值得思考，比如我们还可以说，人的学习和机器的学习，归根结底都是数学的——数学的主要目标，就是在发现更基本的结构和更深层的模式。（比如非常基础的基于对称性的群论，就是典型的研究结构与模式的数学，一个结构通过各种映射演变为别的结构，其对称性是以何种形态保持的？这些对称结构组成的是什么群？不同的结构是否只是表面的不同并且只是某个更基础的结构的帷幕之一角？）
当学习本身结构化之后，对于机器和人，都可以称之为一种“直觉”。比如对于人的微笑的识别，我们仅凭直觉就可以辨识，而无需从头开始，进行还原主义式的分析与组合。
联想到专家和菜鸟的差别——专家哪怕是任凭直觉瞎猜，也比菜鸟要快、也要准确地多，这便是因为专家已经具有了内在的知识结构。
04 终极算法与智能形态
今年刚出的《终极算法》这本书里，作者作为一个浸淫机器学习领域数十载的专家，提出了一个猜想，那就是：对于现今分立的各个机器学习流派，是否存在一种终极算法，可以将这些流派综合、统一起来？
我们元思考一下，发现作者这样的想法，也算是“数学思考”了，那就是力求在不同的知识结构中，寻求一种更基础的结构，能够统摄已知的几大结构与看法。
这本书虽然是科普，但对于对机器学习毫无了解、数理知识一般的人来说，我认为并不好懂。（比我这篇“深度阅读”难得多。）
作者的谈到的所谓“终极算法”，总的来说，是一种从微观结构建立到宏观结构修整，结合了逻辑与概率两条进路，博采于各家的“混合算法”。
但是，如果你对人工智能的研究历史略有了解，你会发现，某种程度上说，作者所要寻找的“终极算法”，算是一种研究上的回归。
怎么个回归法呢？
其实，人工智能在早期的时候，确实如大家所想，是一种仿生化、建构主义的研究——比如，模仿人脑来进行机器学习。
但是，人脑又是怎么学习的呢？意识的形态是怎样的呢？人类智能究竟是怎样一种智能呢？——这些，都是哲学问题，或者说，随着哲学的语言学转向，这些又变成了某种语言学、逻辑学问题。
后来，商业驱动人工智能发展，简单粗暴的机器学习算法（比如基于马尔科夫链的语音识别、机器翻译）比这些建构主义的方法有用地多，人工智能也逐渐变成了数据与算法驱动。
随着支撑其的几大领域成熟，现在，我们又站在了一个汇聚点：综合这些方法。而这种综合，你仔细一看，其实就是构建一个弥补了人类认知缺陷（比如记忆空间、线性推理速度、并发吞吐量等）的超级大脑模型。
——某种意义上说，这就是人类学习与机器学习的大综合。
这种综合但是又类似人脑的智能形态，究竟是怎样的智能形态？这种智能形态的完成，是真的突破奇点，造出了上帝吗？这种可以自主进化的“机器”，算是智能的顶峰同时也是智能的终结吗？
以上只是猜想。
*
本文首发于公众号：罗文益
罗文益
自我意识的终极算法 斌纸 2017-01-11
1
米开朗基罗说：塑像本来就在石头中，我只是把不要的部分去掉。
书是好书，但翻译和编辑太差了 猛哥 2017-02-22
1
书是好书，对于机器学习各学派的特点和逻辑关系讲的很清楚，但翻译和编辑的质量实在是太差了。比如涉及到的一点点数学中，上下标没有表现出来，比如2的10次方就写成210，那意思就完全变了，害的我算了半天也不对。还有很多专业的机器学习术语翻译的完全不符合传统，让人看了很困惑，也会影响读者做进一步的研究。另外还有大量错别字和语句不通顺。
我对《终极算法 》的评价：
评价时间：1970-01-01
查字典图书网
