大数据挖掘Web与分布式数据应用

使用软件代理进行数据挖掘的参考（Hillol Kargupta, Brian Stafford, Ilker Hamzaoglu）

《大数据：互联网大规模数据挖掘与分布式处理》深入探讨了如何高效挖掘和处理互联网产生的大规模数据。本书基于斯坦福大学CS345A课程内容，为高级本科生和初入研究生提供友好的学习资源。重点讲解了处理无法完全装入主内存的大数据集的实践方法。书中覆盖了分布式文件系统、Map-Reduce编程模型、相似度搜索（如MinHashing和局部敏感哈希）、数据流处理及特别算法、搜索引擎技术（如PageRank算法）、频繁项集挖掘（包括A-Priori算法）、以及针对高维数据集的聚类算法。适合希望深入了解和应用数据挖掘与大数据处理技术的专业人士和学生。

对分布式环境中数据挖掘的全面调查。

这篇文章介绍了如何在Linux CentOS7虚拟机上搭建大数据环境，包括Hadoop、HBase、Hive、MySQL、Zookeeper、Kafka和Flume。文章详细描述了每个组件的安装步骤和简单使用方法，确保读者能够按照步骤顺利完成安装。

该研究提出基于支持向量机的分布式数据挖掘模型 DSVM，以解决分布式环境中数据挖掘遇到的挑战。DSVM 利用特征多叉树来表示分布式数据集的总体特征，并使用壳向量来实现分布式支持向量机的增量更新。实验表明，DSVM 在解决存储开销、效率、安全性和隐私性等问题方面取得了成效。

网格的数据共享能力，挺适合做大规模分布式挖掘的。尤其是在科学计算场景下，数据量那是真的大，用传统方式，效率和扩展性都跟不上。这篇《论文研究-网格的数据挖掘.pdf》讲得蛮系统的，主要围绕网格环境下怎么挖掘数据，讲了关键技术、架构和流程，还配了个基于OGSA的例子，挺有参考价值的。像你如果平时有接触分布式计算或者高性能计算，这篇文章还蛮值得一看。里面提到的数据共享机制、挖掘模型、资源调度策略，多都能落地。讲得不是晦涩，看起来还比较轻松。不过呢，资料偏理论多一些，适合拿来理一理思路。如果你打算真在项目里搞一套网格挖掘系统，那还得搭配些实操框架，比如 Ignite 做内存计算，或者看看 高性能计算

1.2规划领域中，提升负荷预测能力。通过大数据分析和数据挖掘技术，支持电力企业基础设施选址和建设决策。例如，北京xx计划利用气象数据和公司发电机数据，采用大数据模型解决方案来优化风力发电机选址，最大化发电量并降低能源成本。1.3建设领域中，增强现场安全管理能力，利用分布式存储、并行计算和模式识别技术，分析现场照片，识别安全隐患并核查安全整改措施的执行情况。1.4运行领域中，提升新能源调度管理能力，应用机器学习和模式识别技术，分析新能源发电能力与气象因素的关系，精确预测和管理发电能力。1.5检修领域中，提升状态检修管理能力，利用并行计算技术优化检修策略，分析设备状态和运行风险，实现故障预判和预警

随着分布式知识发现和挖掘在网格环境中日益受到关注，如何应对数据自治、异构和地理分布等挑战成为关键。为此，文中提出了一个基于网格技术和 Web 服务技术的数据挖掘框架，该框架利用 Web 服务实现资源（数据和算法资源）的共享和动态调用，并在 Globus 3.0 Alpha toolkit 平台上得以实现。

分布式数据表BigTable在云计算和数据挖掘中扮演着重要角色，其高效的数据管理和处理能力成为现代技术应用的核心支撑。