HDFS文件存储

HDFS 数据分层存储方案 Hadoop 2.6.0 版本开始支持异构存储，它利用不同存储介质的特性进行数据存储优化。例如，针对冷热数据的存储场景，我们可以： 冷数据: 使用高容量、低成本的存储介质，如普通磁盘（HDD），以降低存储成本。 热数据: 使用高性能的固态硬盘（SSD），以获得更快的读写速度，提升访问效率。 这种方式充分发挥了不同存储介质的优势，实现了成本和性能的平衡。

HDFS文件权限与Linux系统文件权限相似，包括： r (read)：读取权限 w (write)：写入权限 x (execute)：执行权限，对文件无效，对文件夹表示是否允许访问其内容 例如，如果Linux系统用户zhangsan使用hadoop命令创建一个文件，那么该文件在HDFS中的owner就是zhangsan。 HDFS权限的设定目标是防止合法用户误操作，而不是阻止恶意攻击。HDFS遵循信任机制，用户声明的身份即被视为其真实身份。

上传、删除文件至HDFS

针对Hadoop分布式文件系统 (Hadoop Distributed File System, HDFS)在小文件存储时NameNode内存占用率高的问题，通过分析HDFS基础架构，提出了基于元数据存储集群的SQL-DFS文件系统。通过在NameNode中加入小文件处理模块，实现了小文件元数据从NameNode内存向元数据存储集群的迁移，并借助关系数据库集群，实现了小文件元数据的快速读写。SQL-DFS优化了小文件的读取过程，减少了文件客户端对NameNode的请求次数。通过将部分DataNode文件块的校验工作转移到元数据存储集群中，进一步降低了NameNode的负载压力。最终，通过搭建H

在HDFS中读取文件，客户端首先会与NameNode建立连接，获取目标文件的所有数据块信息以及每个数据块所在的DataNode位置信息。 客户端会根据一定的策略（目前尚未考虑数据节点的相对位置）从每个数据块对应的DataNode集合中选择一个节点建立连接，并开始读取数据。数据以数据包的形式传输到客户端。当读取完一个数据块后，客户端会断开与当前DataNode的连接，并选择下一个数据块对应的DataNode，重复上述过程，直到读取完所有需要的数据。

本项目提供一个 Java 操作 HDFS 文件的实用案例，涵盖文件创建、删除、上传、下载等常用功能。请确保在运行前已成功搭建 Hadoop 集群。

Hadoop 的大数据方式还挺有意思的，尤其是它的文件系统 HDFS，设计得蛮硬核。你可以把 PB 级别的大文件丢进去，照样跑得挺稳。HDFS 有点像一套聪明的仓库系统，用 NameNode 管账，用 DataNode 搬货，配合起来效率还挺高。 HDFS 的块存储机制比较适合超大文件。像视频、日志、数据备份这类动辄几十 GB 的文件，拆成 128MB 一块分给不同的DataNode去存，读取的时候还能自动挑离你最近的节点，响应也快。 数据块的多副本机制香，默认每块会复制 3 份。万一哪台机器挂了，系统还能自救补块，不容易丢数据。你要做高可用存储，这机制还挺关键的。 要说能力，MapReduc

HDFS 的文件操作命令总结得挺全的，常用的不常用的命令基本都覆盖了，搭配示例也比较清晰。你要是刚上手 Hadoop，这篇文档挺值得先看一眼的，能帮你把命令那一块理顺。再说 HDFS 编程，文档里也讲了怎么用 Java 写代码操作文件，比如怎么上传、下载、删除、创建目录这些，关键是示例都能跑，改改就能用，挺方便的。如果你是图一站式参考，也可以搭配下面几个文章一起看：Java 操作 HDFS 文件实战这篇讲得更贴近业务点；要是你对 Hadoop Shell 还有疑问，可以点进去看Hadoop Shell 与 HDFS 操作手册，命令分类挺清楚的。嗯，还有些扩展的也不错，比如Windows 下部署

本代码范例展示如何将本地文件上传至HDFS。利用Hadoop API操作，实现本地文件上传到HDFS。

hdfs-site.xml 是 Hadoop 分布式文件系统 (HDFS) 的核心配置文件之一。 它包含了 HDFS 的各种配置参数，例如 NameNode 和 DataNode 的地址、端口、数据块大小等。 通过修改 hdfs-site.xml 文件，用户可以自定义 HDFS 集群的行为以满足特定需求。