经典ML教材之一

在Bishop的这本PRML之前，学习machine learning的标准教材一般是Tom Mitchell的machine learning以及Duda&Hart的Pattern Classification (那个年代ML与PR非常大的重合之处)。不可否认，这两本书都是ML领域的经典教材，但是由于成书时间太早，基本上都属于上古读物，已经不大适合现在的学习了。而当这本PRML问世之后，立即便成为ML的又一标准教材，并且很快取代了前两本书 --- 即使将近十年以后的今天，它依然是ML的主流教材之一。

写好一本general machine learning的书，必须在内容上有所取舍。个人认为，从入手角度上分，大体上可以分为：statistical/probabilistic perspective, theoretical perspective, optimization perspective, algorithmic/model perspective等等。而这本书应该属于最后一种，也即它主要介绍各种machine learning里面最基本的模型以及相关算法。这本书最大的优点/特色我觉得有以下几点：

1. 内容选取得当。书中所介绍的所有模型以及算法，放到今天，依然是理解学习ML最最基本的组成部分，这些内容，对于读者了解更高级的算法，几乎都是必不可少的。这本书并没有试图涵盖当时所有的机器学习算法，而是精选了ML里面最本质最fundamental的方法，由此可以看出，作者对于这个领域的驾驭能力还是非常高的，准确的预见到了那些非常有生命力的模型，所以，如果你是一名ML的初学者的话，读这本书，即使过了十年，但是依然不会过时。

2. 详略难易得当。由于内容选取的少而精，所以作者可以深入浅出的介绍每一种模型，不会因为太过简略而使读者疑惑，同时对于高阶的内容又点到为止，使得整本书的难度保持在了一个对于初学者可以接受的范围内。基本上，当年我看这本书的时候，就是把它当成一个个的tutorial来看。比如我在学EM算法的时候，我主要就是以这本书的内容为主，配合网上其他资源学习。这一点在学习Graphical model的时候更加明显。众所周知这个领域比较经典的著作是Probabilistic Graphical Models以及Bayesian Reasoning and Machine Learning，但是这是两本大部头的书，一开始读起来会比较吃力。而本书的作者Bishop本身就是搞Bayesian learning以及graphical model的，PRML这边书用几章的内容就把这个领域最核心的概念以及方法解释了一遍，不得不让人佩服作者的功力。

3. 前后呼应。很多algorithmic ML书籍（尤其是国内的教材）的一个通病就是重方法轻思想，直接的结果就是里面的内容更像是方法的罗列，让人读过之后知其然而不知其所以然。而这本书这比较好的避免了这个问题，章与章之间的内容都有衔接和呼应。正如我上面提到的，由于Bishop是搞Bayesian learning以及graphical model的，所以最明显的例子莫过于作者试图通过graphical model的方式解释书中提到的每一种模型；此外在介绍玩graphical model之后，作者紧接着用两章分别讨论sampling以及approximation的内容作为求解图模型的具体方法，给人以一种浑然一提的感觉。

以上都是宏观上的感受，但是更主要的，还是作者本身深厚的功力，对知识的把握，以及出色的语言表达能力，只不过这其中的精妙所在，就只可意会不可言传了
。