惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

H
Hacker News: Front Page
S
Secure Thoughts
N
News | PayPal Newsroom
Exploit-DB.com RSS Feed
Exploit-DB.com RSS Feed
T
Threatpost
N
News and Events Feed by Topic
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
A
Arctic Wolf
Cisco Talos Blog
Cisco Talos Blog
V2EX - 技术
V2EX - 技术
L
LINUX DO - 热门话题
C
Cyber Attacks, Cyber Crime and Cyber Security
P
Proofpoint News Feed
TaoSecurity Blog
TaoSecurity Blog
N
News and Events Feed by Topic
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
Hacker News - Newest:
Hacker News - Newest: "LLM"
NISL@THU
NISL@THU
H
Heimdal Security Blog
Webroot Blog
Webroot Blog
Martin Fowler
Martin Fowler
The Hacker News
The Hacker News
Engineering at Meta
Engineering at Meta
MongoDB | Blog
MongoDB | Blog
A
About on SuperTechFans
Stack Overflow Blog
Stack Overflow Blog
B
Blog RSS Feed
Vercel News
Vercel News
Blog — PlanetScale
Blog — PlanetScale
Google Online Security Blog
Google Online Security Blog
Schneier on Security
Schneier on Security
Cyberwarzone
Cyberwarzone
小众软件
小众软件
V
V2EX
K
Kaspersky official blog
Security Archives - TechRepublic
Security Archives - TechRepublic
博客园 - 三生石上(FineUI控件)
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
C
Cisco Blogs
S
Schneier on Security
Recorded Future
Recorded Future
阮一峰的网络日志
阮一峰的网络日志
AI
AI
Microsoft Security Blog
Microsoft Security Blog
H
Help Net Security
Simon Willison's Weblog
Simon Willison's Weblog
I
InfoQ
G
Google Developers Blog
博客园_首页
Hugging Face - Blog
Hugging Face - Blog

博客园 - Rickie

DeepSeek-V3 解读:优化效率与规模 一步一步构建RAG智能问答系统 Milvus向量数据库入门实践 LangChain轻松入门和开发实践 Hugging Face 轻松入门 PyTorch深度学习零基础入门 Spring Security OAuth2+JWT开发实践 Spring Security开发实践 Redis 7.x 入门和开发实战 RedisInsight :Redis 官方可视化工具 《Apache RocketMQ 深入浅出》系列文章 Kafka v2.3 快速入门与实践 Apache Doris 轻松入门和快速实践 一步一步编译最新版Apache Doris 0.15版本的详细过程 COLA 4.x和DDD项目实践精粹 阿里开源COLA 4.0源码编译和部署过程 Java实体映射工具MapStruct 与BeanUtils性能比较 阿里DDD项目最佳实践-COLA 架构总览 Java实体映射工具MapStruct详解
Hadoop v3.1 大数据技术快速入门
Rickie · 2022-06-21 · via 博客园 - Rickie

Hadoop 是由 Java 语言编写的,在分布式服务器集群上存储海量数据并运行分布式分析应用的开源框架,其核心部件是 HDFS 与 MapReduce。

HDFS 为海量的数据提供了存储,而 MapReduce 为海量的数据提供了计算。

可以把 HDFS 理解为一个分布式的,有冗余备份的,可以动态扩展的用来存储大规模数据的大硬盘。

把 MapReduce 理解成为一个计算引擎,按照 MapReduce 的规则编写 Map 计算 Reduce 计算的程序,可以完成计算任务。

YARN:Hadoop 2 开始使用的资源管理框架。

HBase:Google分布式数据库Bigtable的开源实现,是一个高可靠、高性能、面向列、可伸缩的分布式数据库,主要用来存储非结构化和半结构化的松散数据。为了提高数据可靠性和健壮性,发挥HBase处理大数据量等功能,一般使用HDFS作为HBase的底层数据存储方式。

MapReduce:分布式计算框架。

Hive:是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供完整的sql查询功能,可以将sql语句转换为MapReduce任务进行运行。

技术专栏主要包含如下内容:

  • Hadoop大数据技术生态系统和基础知识

  • CentOS 7 单机安装最新版Hadoop v3.1.2以及配置和简单测试

  • Hadoop v3.1.2 单机伪分布式安装、配置和测试

  • Hadoop分布式文件系统HDFS核心概念、体系结构和数据读写过程

  • Hadoop分布式文件系统HDFS 常用API以及应用实例

  • Java应用中HDFS客户端远程连接Hadoop FileSystem异常情况分析和解决办法

  • Hadoop列式数据库HBase 数据模型、系统架构和运行机制-快速入门

  • 列式数据库HBase v2.2.3 最新版安装单机模式、启动和简单练习shell命令

  • 列式数据库HBase v2.2.3 最新版伪分布式模式配置、启动运行

  • 大数据快速读写-HBase 常用的Shell命令

  • 大数据快速读写-HBase Java API编程实例-HBaseConn和HBaseUtil工具类

  • 大数据快速读写-HBase Java API编程实例-单元测试和shell命令验证

  • HBase表的设计原则,包括预分区、列族设计、RowKey设计

  • 【项目实例】基于Elasticsearch对HBase中的数据建立二级索引实现海量数据快速查询-1

  • 【项目实例】基于Elasticsearch对HBase中的数据建立二级索引实现海量数据快速查询-2

  • 【项目实例】基于Elasticsearch对HBase中的数据建立二级索引实现海量数据快速查询-3

  • 【项目实例】基于Elasticsearch对HBase中的数据建立二级索引实现海量数据快速查询-4

  • Hadoop分布式离线计算框架-MapReduce体系结构和工作流程

  • Hadoop分布式离线计算框架-MapReduce和YARN

  • MapReduce编程实践-基于IDEA/Maven实现单词词频统计-Part 1

  • MapReduce编程实践-基于IDEA/Maven实现单词词频统计-Part 2

  • Hadoop集群资源管理调度框架-YARN

  • YARN/MapReduce编程实践-WordCount on YARN代码编写

  • YARN/MapReduce编程实践-WordCount on YARN编译打包运行

  • YARN/MapReduce编程实践-实现文件合并和去重

  • YARN/MapReduce编程实践-实现对输入文件的排序

  • Hadoop v3.1大数据技术快速入门技术专栏-项目实例源代码

  • Hadoop数据仓库框架Hive快速入门-简介、系统架构和执行流程

  • Hadoop数据仓库框架-Hive v3.1.2最新版安装和配置(含MySQL)-Part 1

  • Hadoop数据仓库框架-Hive v3.1.2最新版安装和配置(含MySQL)-Part 2

  • Hive编程实践-Hive中常用HiveQL操作

  • Hive编程实践-分区表(Partition)和分桶表(Bucket)-Part 1

  • Hive编程实践-分区表(Partition)和分桶表(Bucket)-Part 2

  • Hive编程实践-Hive ACID和事务表支持的详细操作和快速入门

  • Hive编程实践-WordCount应用实例

  • Hive编程实践-内置函数和用户自定义函数(含示例项目源代码)-Part 1

  • Hive编程实践-内置函数和用户自定义函数(含示例项目源代码)-Part 2

  • Hive编程实践-通过Java和JDBC驱动访问Hive,附实例项目源代码

  • Hive高级特性-HiveServer2配置启动和Beeline的基本操作

  • Impala 实时性交互查询分析工具

  • Hadoop和关系型数据库的数据传输工具-Sqoop入门

  • 分布式消息队列Kafka-数据交互枢纽

  • Apache Kudu构建高性能实时数据分析存储系统 -入门简介

从实战出发,通过理论讲解-环境搭建-项目案例实战,让初学者快速掌握hadoop大数据技术。