yarn开启jobhistoryserver教程 yarn怎么启动项目
qiyuwang 2024-12-22 20:26 15 浏览 0 评论
要开启YARN的JobHistory Server,请按照以下详细步骤操作:
1. 打开终端或命令行界面
首先,确保你已经安装并配置好了Hadoop和YARN环境。打开你的终端(macOS/Linux)或命令行界面(Windows)以开始后续操作。
2. 导航到Hadoop的安装目录
使用 cd命令进入Hadoop的安装目录。例如,如果Hadoop安装在 /usr/local/hadoop,则运行:
cd /usr/local/hadoop
- 解释:cd命令用于更改当前工作目录。进入Hadoop的安装目录是为了访问和修改相关配置文件。
? 3. 进入配置文件目录
在Hadoop安装目录下,进入 etc/hadoop目录,该目录包含所有Hadoop的配置文件。
cd etc/hadoop
- 解释:etc/hadoop目录存放了Hadoop和YARN的配置文件,修改这些文件可以配置Hadoop集群的各种参数。
4. 配置mapred-site.xml文件
使用文本编辑器(如 vi、nano或你喜欢的编辑器)打开 mapred-site.xml文件,并添加以下配置:
<property>
<name>mapreduce.jobhistory.address</name>
<value>localhost:10020</value>
</property>
<property>
<name>mapreduce.jobhistory.webapp.address</name>
<value>localhost:19888</value>
</property>
- 解释:<name>mapreduce.jobhistory.address</name>:指定JobHistory Server的通信地址和端口。<name>mapreduce.jobhistory.webapp.address</name>:指定JobHistory Server的Web界面地址和端口。
5. 配置yarn-site.xml文件
同样,打开 yarn-site.xml文件,并添加以下配置:
<property>
<name>yarn.log.server.url</name>
<value>http://localhost:19888/jobhistory/logs</value>
</property>
- 解释:<name>yarn.log.server.url</name>:指定JobHistory Server的日志URL,用于存储和访问作业日志。
6. 保存并关闭配置文件
完成上述配置后,保存并关闭 mapred-site.xml和 yarn-site.xml文件。确保配置文件格式正确,避免因格式错误导致服务无法启动。
7. 启动YARN服务
返回Hadoop的安装目录,运行以下命令启动YARN资源管理器和节点管理器:
./sbin/start-yarn.sh
- 解释:start-yarn.sh脚本用于启动YARN的核心组件,包括资源管理器(ResourceManager)和节点管理器(NodeManager)。
8. 启动JobHistory Server
接下来,启动JobHistory Server,运行以下命令:
./sbin/mr-jobhistory-daemon.sh start historyserver
- 解释:mr-jobhistory-daemon.sh脚本用于管理JobHistory Server的启动和停止。start historyserver参数指定启动JobHistory Server。
9. 验证JobHistory Server是否启动成功
打开浏览器,访问以下URL以查看JobHistory Server的Web界面:
http://localhost:19888
- 解释:在浏览器中访问该地址,可以查看JobHistory Server的运行状态、作业历史信息和日志。
10. 工作流程总结
以下是开启YARN的JobHistory Server的完整工作流程:
- 打开终端 ?
- 导航到Hadoop安装目录
- 进入配置文件目录 ?
- 配置 mapred-site.xml文件
- 配置 yarn-site.xml文件
- 保存并关闭配置文件
- 启动YARN服务
- 启动JobHistory Server
- 验证服务器运行状态
重要提示
- 网络连接稳定 :确保服务器和客户端之间的网络连接稳定,以避免配置和启动过程中出现问题。
- 端口冲突 ??:确保配置中使用的端口(如10020和19888)未被其他应用占用,避免端口冲突。
- 权限设置 :确保你有足够的权限修改配置文件和启动服务,必要时使用 sudo权限。
- 日志检查 :如果启动过程中出现问题,检查日志文件以获取详细错误信息,便于排查和解决问题。
通过以上步骤,你已经成功开启了YARN的JobHistory Server,可以开始记录和查看作业的历史信息和日志。这对于监控和调试YARN作业具有重要意义。
相关推荐
- # 安装打开 ubuntu-22.04.3-LTS 报错 解决方案
-
#安装打开ubuntu-22.04.3-LTS报错解决方案WslRegisterDistributionfailedwitherror:0x800701bcError:0x80070...
- 利用阿里云镜像在ubuntu上安装Docker
-
简介:...
- 如何将Ubuntu Kylin(优麒麟)19.10系统升级到20.04版本
-
UbuntuKylin系统使用一段时间后,有新的版本发布,如何将现有的UbuntuKylin系统升级到最新版本?可以通过下面的方法进行升级。1.先查看相关的UbuntuKylin系统版本情况。使...
- Ubuntu 16.10内部代号确认为Yakkety Yak
-
在正式宣布Ubuntu16.04LTS(XenialXerus)的当天,Canonical创始人MarkShuttleworth还非常开心的在个人微博上宣布Ubuntu下个版本16.10的内...
- 如何在win11的wsl上装ubuntu(怎么在windows上安装ubuntu)
-
在Windows11的WSL(WindowsSubsystemforLinux)上安装Ubuntu非常简单。以下是详细的步骤:---...
- Win11学院:如何在Windows 11上使用WSL安装Ubuntu
-
IT之家2月18日消息,科技媒体pureinfotech昨日(2月17日)发布博文,介绍了3中简便的方法,让你轻松在Windows11系统中,使用WindowsSubs...
- 如何查看Linux的IP地址(如何查看Linux的ip地址)
-
本头条号每天坚持更新原创干货技术文章,欢迎关注本头条号"Linux学习教程",公众号名称“Linux入门学习教程"。...
- 怎么看电脑系统?(怎么看电脑系统配置)
-
要查看电脑的操作系统信息,可以按照以下步骤操作,根据不同的操作系统选择对应的方法:一、Windows系统通过系统属性查看右键点击桌面上的“此电脑”(或“我的电脑”)图标,选择“属性”。在打开的...
- 如何查询 Linux 内核版本?这些命令一定要会!
-
Linux内核是操作系统的核心,负责管理硬件资源、调度进程、处理系统调用等关键任务。不同的内核版本可能支持不同的硬件特性、提供新的功能,或者修复了已知的安全漏洞。以下是查询内核版本的几个常见场景:...
- 深度剖析:Linux下查看系统版本与CPU架构
-
在Linux系统管理、维护以及软件部署的过程中,精准掌握系统版本和CPU架构是极为关键的基础操作。这些信息不仅有助于我们深入了解系统特性、判断软件兼容性,还能为后续的软件安装、性能优化提供重要依据。接...
- 504 错误代码解析与应对策略(504错误咋解决)
-
在互联网的使用过程中,用户偶尔会遭遇各种错误提示,其中504错误代码是较为常见的一种。504错误并非意味着网站被屏蔽,它实际上是指服务器在规定时间内未能从上游服务器获取响应,专业术语称为“Ga...
- 猎聘APP和官网崩了?回应:正对部分职位整改,临时域名可登录
-
10月12日,有网友反映猎聘网无法打开,猎聘APP无法登录。截至10月14日,仍有网友不断向猎聘官方微博下反映该情况,而猎聘官方微博未发布相关情况说明,只是在微博内对反映该情况的用户进行回复,“抱歉,...
- 域名解析的原理是什么?域名解析的流程是怎样的?
-
域名解析是网站正常运行的关键因素,因此网站管理者了解域名解析的原理和流程对于做好域名管理、解决常见解析问题,保障网站的正常运转十分必要。那么域名解析的原理是什么?域名解析的流程是怎样的?接下来,中科三...
- Linux无法解析域名的解决办法(linux 不能解析域名)
-
如果由于误操作,删除了系统原有的dhcp相关设置就无法正常解析域名。 此时,需要手动修改配置文件: /etc/resolv.conf 将域名解析服务器手动添加到配置文件中 该文件是DNS域名解...
- 域名劫持是什么?(域名劫持是什么)
-
域名劫持是互联网攻击的一种方式,通过攻击域名解析服务器(DNS),或伪造域名解析服务器(DNS)的方法,把目标网站域名解析到错误的地址从而实现用户无法访问目标网站的目的。说的直白些,域名劫持,就是把互...
你 发表评论:
欢迎- 一周热门
- 最近发表
-
- # 安装打开 ubuntu-22.04.3-LTS 报错 解决方案
- 利用阿里云镜像在ubuntu上安装Docker
- 如何将Ubuntu Kylin(优麒麟)19.10系统升级到20.04版本
- Ubuntu 16.10内部代号确认为Yakkety Yak
- 如何在win11的wsl上装ubuntu(怎么在windows上安装ubuntu)
- Win11学院:如何在Windows 11上使用WSL安装Ubuntu
- 如何查看Linux的IP地址(如何查看Linux的ip地址)
- 怎么看电脑系统?(怎么看电脑系统配置)
- 如何查询 Linux 内核版本?这些命令一定要会!
- 深度剖析:Linux下查看系统版本与CPU架构
- 标签列表
-
- navicat无法连接mysql服务器 (65)
- 下横线怎么打 (71)
- flash插件怎么安装 (60)
- lol体验服怎么进 (66)
- ae插件怎么安装 (62)
- yum卸载 (75)
- .key文件 (63)
- cad一打开就致命错误是怎么回事 (61)
- rpm文件怎么安装 (66)
- linux取消挂载 (81)
- ie代理配置错误 (61)
- ajax error (67)
- centos7 重启网络 (67)
- centos6下载 (58)
- mysql 外网访问权限 (69)
- centos查看内核版本 (61)
- ps错误16 (66)
- nodejs读取json文件 (64)
- centos7 1810 (59)
- 加载com加载项时运行错误 (67)
- php打乱数组顺序 (68)
- cad安装失败怎么解决 (58)
- 因文件头错误而不能打开怎么解决 (68)
- js判断字符串为空 (62)
- centos查看端口 (64)