基于分布式与实时流算法的数据挖掘

使用软件代理进行数据挖掘的参考（Hillol Kargupta, Brian Stafford, Ilker Hamzaoglu）

对分布式环境中数据挖掘的全面调查。

该研究提出基于支持向量机的分布式数据挖掘模型 DSVM，以解决分布式环境中数据挖掘遇到的挑战。DSVM 利用特征多叉树来表示分布式数据集的总体特征，并使用壳向量来实现分布式支持向量机的增量更新。实验表明，DSVM 在解决存储开销、效率、安全性和隐私性等问题方面取得了成效。

PDMiner 的并行分布式挖掘能力真的挺强，适合那种动辄 TB 级的大数据场景。平台是基于 Hadoop 打造的，利用了 HDFS 和 MapReduce，性能稳定，扩展性也不错，跑起大型任务来带劲。如果你之前被串行算法拖慢过节奏，PDMiner 这种并行方案就挺值得一试。 PDMiner 的并行机制真的是大数据瓶颈的一把好手。数据预、分类、聚类、关联规则，全都能并行搞定。后台用的是Hadoop，性能可不是闹着玩的。多节点并发执行，资源利用效率高，响应也快。 平台还整合了工作流子系统，交互界面挺友好，配置任务顺手，哪怕不是技术出身的同事也能用得上。拖拖拽拽就能设定流程，省心省力。嗯，对于习惯

大数据挖掘的入门书里，《大数据的挖掘（web，分布式数据）》算是比较实用的那一类。斯坦福三位教授写的，内容覆盖面挺广，从分布式系统、MapReduce、LSH 到 PageRank、推荐系统都有讲，也比较接地气。比较适合你平时写前端但又想搞懂后面大数据那一套逻辑的时候翻一翻。不仅能帮你理清多后台数据流的玩法，也能对接前端做一些数据可视化的项目有。

随着分布式知识发现和挖掘在网格环境中日益受到关注，如何应对数据自治、异构和地理分布等挑战成为关键。为此，文中提出了一个基于网格技术和 Web 服务技术的数据挖掘框架，该框架利用 Web 服务实现资源（数据和算法资源）的共享和动态调用，并在 Globus 3.0 Alpha toolkit 平台上得以实现。

关联规则挖掘是数据挖掘领域的核心任务之一。近年来，随着数据规模不断扩大，分布式数据库架构以及数据动态变化的特性对关联规则挖掘算法提出了更高的要求。本研究聚焦于 CanTree 数据结构，提出一种高效的分布式关联规则挖掘算法，并设计相应的增量更新机制以适应动态变化的数据环境。

BC-PDM分布式数据挖掘系统正在云计算和数据挖掘领域展开研究。

在分布式数据挖掘领域，基于Web Services的分布式聚类算法设计与研究正成为重要的研究方向。由谢金辉和康利娟共同探讨了如何利用分布式数据和计算资源进行聚类分析，强调了Web Services在解决大规模数据处理问题中的作用。