hadoop README

The project's README from github.com/apache/hadoop. As one markdown file: README.md.

For the latest information about Hadoop, please visit our website at:

http://hadoop.apache.org/

and our wiki, at:

https://cwiki.apache.org/confluence/display/HADOOP/

hadoop (apache/hadoop)

Searching Database…

15.7K ·GitHub
这是什么?Apache Hadoop 是一个开源的大数据平台,用于在多台机器组成的集群上,可靠地分布式存储和处理超大规模数据集。
Hadoop 是一个工具,还是一组组件?它是一个框架,由多个相互协作的模块组成:HDFS 负责分布式存储,YARN 负责集群资源管理,MapReduce 负责分布式计算,Hadoop Common 提供共享的通用工具。
我该如何让 Hadoop 运行起来?README 没有直接在仓库中提供安装和构建说明,而是引导用户前往 Hadoop 官方网站和维基查看。
构建 Hadoop 之前,我需要特定的运行环境吗?Hadoop 是一个 Java 项目,因此构建和运行它需要 Java 运行时环境或 JDK。
这个项目适用于单台机器,还是集群?Hadoop 是为分布式机器集群设计的;它可以在伪分布式单节点模式下运行以便测试,但它并不是一个轻量级的单机工具。
HDFS 和 YARN 在 Hadoop 中具体做什么?HDFS 是 Hadoop 的分布式文件系统,会把数据切分并在集群节点之间复制;YARN 则管理集群的计算资源,并调度用于处理这些数据的作业(例如 MapReduce 任务)。
Apache Hadoop 目前还在积极开发吗?在积极开发。它由 Apache 软件基金会维护,拥有活跃的持续集成流水线(构建与测试、CodeQL、AWS 云集成工作流),并且自 2014 年以来在本镜像上已获得超过 15,000 个 GitHub Star。
Hadoop 通常用来解决哪些问题?它用于存储和处理单台机器装不下的超大数据集,例如日志分析、数据仓库以及基于普通商用硬件集群的批量 ETL 流水线。
这个仓库包含云集成吗?持续集成工作流中包含一个专门的 AWS 云测试流水线(cloud_aws.yml),说明官方支持并测试了 Hadoop 在 AWS 云存储上运行。
What are similar projects?ceph, seaweedfs, nebula, trino, kestra, presto, automq, logstash
Creator
apache
Size
596.8 MB
Stars
15.7K
Updated
CommitOct 15
Age
12y
Commits · 90 Days