### 4.1 Hadoop生态系统

news/2023/11/30 5:38:15

狭义的Hadoop VS 广义的Hadoop

  • 广义的Hadoop:指的是Hadoop生态系统,Hadoop生态系统是一个很庞大的概念,hadoop是其中最重要最基础的一个部分,生态系统中每一子系统只解决某一个特定的问题域(甚至可能更窄),不搞统一型的全能系统,而是小而精的多个小系统;

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-QnQNF0jk-1687952907173)(img/hadoop-%E7%94%9F%E6%80%81.png)]

Hive:数据仓库

R:数据分析

Mahout:机器学习库

pig:脚本语言,跟Hive类似

Oozie:工作流引擎,管理作业执行顺序

Zookeeper:用户无感知,主节点挂掉选择从节点作为主的

Flume:日志收集框架

Sqoop:数据交换框架,例如:关系型数据库与HDFS之间的数据交换

Hbase : 海量数据中的查询,相当于分布式文件系统中的数据库

Spark: 分布式的计算框架基于内存

  • spark core
  • spark sql
  • spark streaming 准实时 不算是一个标准的流式计算
  • spark ML spark MLlib

Kafka: 消息队列

Storm: 分布式的流式计算框架 python操作storm

Flink: 分布式的流式计算框架

Hadoop生态系统的特点

  • 开源、社区活跃

  • 囊括了大数据处理的方方面面

  • 成熟的生态圈


http://www.ppmy.cn/news/624566.html

相关文章

Android App的几个核心概念

Application启动 点击桌面图标启动App(如下流程图) 针对以上流程图示: ActivityManagerService#startProcessLocked()Process#start()ActivityThread#main(),入口分析的地方ActivityThread#attach(),这个里面的逻辑很核心 ActivityManagerS…

力姆泰克重型电动缸

重型电动缸 向下翻动查看更多 力姆泰克重型电动缸 专门针对高负载恶劣应用场合,最大推力可至50吨,配置高效率重载滚珠丝杠,高频繁工作制的动力传输,以及制动器,限位开关,推力过载限制器的完美组合&#xf…

短视频seo源码部署打包分享---开源

功能概要: 1. 按关键词搜索账号排名 2. 按关键词布局查询视频排名 3. 按天计费功能开发 4. 达标天数及关键词数量统计 开发概要: 区别于其他开发者,同类产品多用第三方,如:站长之家,本系统代码开发使…

PADS 出gerber 20230628

PADS出gerber 20230628 TOP BOTTOM Solder MASK TOP 阻焊层 绿油层,可以用来露焊盘的 Paste Mask TOP 钢网层 Paste Mask Bottom Silkscreen TOP 丝印层 Solder MASK Bottom Silkcreen Bottom TOP层 L1 注意:电气层L1 L2 L3 L4不能勾选文本…

osg+pbr-直射光

算法是来自于learn opengl pbr相关部分, 只考虑如何移植到osg。 1,法线如何从局部坐标系到世界坐标系(逆转置矩阵) 2,视点通过漫游器获取, 3,视点uniform指针传递给漫游器,在漫游器…

Java与设计模式(6):建造者模式

一、定义 建造者模式(Builder Pattern)是一种创建型设计模式,它允许你逐步构造复杂对象。该模式将对象的构建过程与其表示分离,使得同样的构建过程可以创建不同的表示。 建造者模式的核心思想是将一个复杂对象的构建过程分解为多…

wpf “Key”属性只能用于“IDictionary”中包含的元素。

错误描述&#xff1a; “Key”属性只能用于“IDictionary”中包含的元素。 解决方法&#xff1a; 原代码&#xff1a; <Application.Resources><ResourceDictionary x:Key"rd"><ResourceDictionary.MergedDictionaries><ResourceDictionary&…

Selenium教程__使用switch_to.alert处理弹窗(14)

与switch_to.window 和 switch_to.frame 相比&#xff0c;switch_to.alert的alert方法使用了property 装饰器&#xff0c;所以在使用时alert被当成属性调用。 演示如下 from selenium import webdriverdriver webdriver.Chrome() driver.maximize_window() driver.get("…

【图像处理OpenCV(C++版)】——5.4 图像平滑之中值平滑(滤波)

前言&#xff1a; &#x1f60a;&#x1f60a;&#x1f60a;欢迎来到本博客&#x1f60a;&#x1f60a;&#x1f60a; &#x1f31f;&#x1f31f;&#x1f31f; 本专栏主要结合OpenCV和C来实现一些基本的图像处理算法并详细解释各参数含义&#xff0c;适用于平时学习、工作快…

go系列-时间处理

1 获取当前时间 currentTime:time.Now() //获取当前时间&#xff0c;类型是Go的时间类型Time t1:time.Now().Year() //年 t2:time.Now().Month() //月 t3:time.Now().Day() //日 t4:time.Now().Hour() //小时 t5:time.Now().Minute() //…

Qt下拉框的使用笔记

通过ui->comboBox->currentText()获取当前下拉框的值。 #include "mainwindow.h" #include "ui_mainwindow.h" #include <QDebug>MainWindow::MainWindow(QWidget *parent) :QMainWindow(parent),ui(new Ui::MainWindow) {ui->setupUi(thi…

人工智能系统架构-应用架构

一、架构图 上图架构一个C/S架构 智能终端&#xff08;C&#xff09;包括智能音箱、人脸识别、人脸支付等应用和智能操作系统。 人工智能大脑&#xff08;S&#xff09;构成包括智能云平台、大数据平台&#xff0c;机器学习、深度学习&#xff0c;语音识别模型、图像识别模型和…

iview input限制只能输入数字,不能输入‘+‘/‘-‘/‘e‘/‘E‘

在日常的开发中会遇到表单中输入金额的实例&#xff0c;需求保留输入框金额小数点固定位数&#xff0c;如果仅仅适用 是没办法直接做到的&#xff0c;会将、-、e识别位数字的一种&#xff0c;随意这时候就需要我们单独处理: // vueiview实例: <template><Input v-mod…

git关于项目的分支、版本、上线的说明

分支、版本、上线 分支 main&#xff1a;主分支&#xff0c;生产环境&#xff0c;只有上线的时候&#xff0c;才能够提交代码 test&#xff1a;迭代分支&#xff0c;测试环境&#xff0c;从主分支拉取代码后&#xff0c;更新 bug、需求后&#xff0c;在测试环境进行验证&…

时序数据库 TDengine 与腾讯云多个产品线完成兼容性互认证明

随着数字经济蓬勃发展&#xff0c;数据成为驱动企业数字化转型的关键生产要素&#xff0c;如何加强对数据资源的治理利用、实现数据洞察、激活数据价值正成为亟待解决的问题。在此背景下&#xff0c;数据库与操作系统、云平台等国产化软件相互结合赋能成为解决问题的思路之一。…

解决 TypeError: save_pil_to_file(stable diffusion使用sadtalker 插件)

解决 TypeError: save_pil_to_file() 在使用Stable Diffusion时&#xff0c;您可能会遇到使用SadTalker插件时出现的报错问题。其中&#xff0c;常见的报错是TypeError: save_pil_to_file() got an unexpected keyword argument ‘format’ 报错如下&#xff1a; File "…

HTTP Proxy Demo代码示例

这里提供一个Python实现的HTTP Proxy Demo代码示例&#xff1a; import socket import threading# 设置代理服务器的IP和端口 PROXY_HOST 127.0.0.1 PROXY_PORT 8888# 设置目标服务器的IP和端口 TARGET_HOST www.baidu.com TARGET_PORT 80# 缓冲区大小 BUFFER_SIZE 4096d…

Node.js搭建Https服务

要搭建一个接收HTTPS请求的Node.js服务器,可以按以下步骤操作: 1. 初始化项目和安装依赖: bashnpm init -y npm install expresslatest npm install httpslatest 2. 生成证书文件: 这里按照自己的需求 去买ssl证书 或者获取免费证书 直接百度 阿里云获取免费证书等关键词即可…

系统架构设计师 5:软件工程

一、软件工程 1 软件过程模型 软件要经历从需求分析、软件设计、软件开发、运行维护&#xff0c;直至被淘汰这样的全过程&#xff0c;这个全过程称为软件的生命周期。 为了使软件生命周期中的各项任务能够有序地按照规程进行&#xff0c;需要一定的工作模型对各项任务给予规…

基于FPGA的RC滤波器设计实现

目录 简介&#xff1a; 传递函数 FPGA代码实现 总结 简介&#xff1a; RC滤波器的特性基本情况介绍 RC一阶低通滤波介绍&#xff1b;RC滤波器电路简单&#xff0c;抗干扰性强&#xff0c;有较好的低频性能&#xff0c;并且选用标准的阻容元件易得&#xff0c;所以在工程测…
最新文章