信息论和算法的深度结合，是 David MacKay 教授的《Information Theory, Inference, and Learning Algorithms》最吸引人的地方。讲得挺透，案例也有点意思。你要是对贝叶斯方法、机器学习里的推理算法比较感兴趣，这本书值得细读。重点是，官网还能免费下载，真香！

信息论的基础讲得不啰嗦，思路清晰，用例子带你入门。比方说熵的时候，不止公式推导，还有对现实世界里数据压缩问题的应用解释，挺容易理解的。

贝叶斯方法这块，讲了从基本定理到复杂网络建模，比较系统，适合边看边敲点代码。比如你想用贝叶斯网络做个推荐系统，书里这部分内容就蛮有参考价值的。

算法篇幅也挺实在，像隐马尔可夫模型、变分推理这些，讲得细但不啰嗦。虽然有点数理味儿，但不至于让人劝退。建议你边看边找相关代码练练，像配合一些 Python 的库效果还不错。

顺手整理了几个相关资源，补充阅读的时候用得上：

如果你在搞推荐系统、特征选择、编码压缩这类方向，可以抽空看看这本书。免费资源在官网，点进去就能下。