topn

TopN：获取指定分组内满足指定条件的前N行数据。RowNumber：获取当前行在分组内排序后的行号。Rank：获取当前行在分组内去重排序后的行号。DenseRank：获取当前行在分组内不去重排序后的行号。

该数据集适用于使用Spark框架进行大规模数据TopN计算的场景。

1. 背景 在学习MapReduce框架时，为更好掌握其在大数据处理中的应用，我们着重在此项目中实现TopN中文词频统计。该实验通过MapReduce对汉字词频进行统计，并输出频率最高的TopN中文词汇。 2. 实验目标 实现英文词频统计，并掌握其MapReduce实现流程。 使用中文分词工具，实现中文词频统计。 重点实现TopN中文词频统计，掌握从数据处理到TopN结果的完整流程。 3. 实现过程 （1）英文词频统计：先通过MapReduce进行英文文本的分词统计，处理后输出英文单词的词频。 （2）中文词频统计：借助中文分词工具，针对输入的中文文本实现汉字或词组的频次统计。 （3）Top

统计 HDFS 空间占用的大数据作业脚本，挺适合日常运维排查用的。支持自定义目录和 TopN 数，一键就能筛出那些吃空间的大户。脚本逻辑也不复杂，响应也快，拿来就能用。你如果经常遇到 HDFS 快满，真可以试试这个。