并行计算的实战教材,中科院的《并行计算导论》算是比较硬核的一本。内容偏技术流,讲的是怎么用Linux配合MPI干高性能的活儿,比如数值积分、矩阵求解、FFT、二维泊松方程这些常见问题的并行解法。
操作环境挺接地气的,基于Linux,代码也不绕,用过命令行的你肯定能上手。多例子直接跑MPI就行,像mpirun -np 4 ./fft_solver
,响应也快,调试也方便。
有意思的是书里不仅讲怎么干活,还讲怎么干得快。比如在并行矩阵求解那里,提到了稀疏矩阵怎么分块传输,怎么避免通信阻塞,嗯,读起来蛮有收获的。
如果你对并行算法有点兴趣,推荐顺手看看几个相关的资源:MPI 并行 WARSHALL 算法还蛮实用,另外像GPU 加速的数据并行、PRAM 模型的并行课件也挺能拓展思路的。
顺带说一句,搞高性能的场景真的不少,训练模型、图像、模拟计算……用到并行的地方太多了。《并行计算导论》这本书不花哨,内容还不错,适合你边学边试。
如果你刚开始接触MPI,建议搭配OpenCL 课程资料一起看,理解会更立体一点。