博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Hbase和Hadoop的内存参数调优 + 前端控制台
阅读量:4323 次
发布时间:2019-06-06

本文共 1581 字,大约阅读时间需要 5 分钟。

1.hadoop的内存配置调优

mapred-site.xml的内存调整
mapreduce.map.memory.mb
1536
mapreduce.map.java.opts
-Xmx1024M
mapreduce.reduce.memory.mb
3072
mapreduce.reduce.java.opts
-Xmx2560M
yarn-site.xml
yarn.nodemanager.resource.memory-mb
2048
每个节点可用内存,单位MB
yarn.scheduler.minimum-allocation-mb
1024
单个任务可申请最少内存,默认1024MB
yarn.scheduler.maximum-allocation-mb
2048
单个任务可申请最大内存,默认8192MB
hadoop的内存调整hadoop-env.shexport HADOOP_HEAPSIZE_MAX=2048export HADOOP_HEAPSIZE_MIN=2048

2.Hbase的参数调优

hbase的内存调整hbase-env.shexport HBASE_HEAPSIZE=8G

3.数据的导入导出

hbase数据的导出hbase org.apache.hadoop.hbase.mapreduce.Export NS1.GROUPCHAT /do1/GROUPCHAThdfs dfs -get /do1/GROUPCHAT /opt/GROUPCHAT尝试删除数据hdfs dfs -rm  -r /do1/GROUPCHAThbase数据的导入hdfs dfs -put /opt/GROUPCHAT /do1/GROUPCHAThdfs dfs -ls /do1/GROUPCHAThbase org.apache.hadoop.hbase.mapreduce.Import NS1.GROUPCHAT /do1/GROUPCHAT

 4.两个master,再每一个node加配置

backup-masters
[root@do1cloud01 conf]# pwd/do1cloud/hbase-2.0.5/conf[root@do1cloud01 conf]# cat  backup-mastersdo1cloud02

 5.通过控制台就可以看出参数设置是否生效

10.0.0.99:16010 hbase控制台10.0.0.99:9870 Hadoop 前端控制台10.0.0.99:8088  集群 前端控制台

转载于:https://www.cnblogs.com/hixiaowei/p/11424400.html

你可能感兴趣的文章
1020 Tree Traversals (25)(25 point(s))
查看>>
第一次作业
查看>>
“==”运算符与equals()
查看>>
单工、半双工和全双工的定义
查看>>
Hdu【线段树】基础题.cpp
查看>>
时钟系统
查看>>
BiTree
查看>>
5个基于HTML5的加载动画推荐
查看>>
水平权限漏洞的修复方案
查看>>
静态链接与动态链接的区别
查看>>
Android 关于悬浮窗权限的问题
查看>>
如何使用mysql
查看>>
linux下wc命令详解
查看>>
敏捷开发中软件测试团队的职责和产出是什么?
查看>>
在mvc3中使用ffmpeg对上传视频进行截图和转换格式
查看>>
python的字符串内建函数
查看>>
Spring - DI
查看>>
微软自己的官网介绍 SSL 参数相关
查看>>
Composite UI Application Block (CAB) 概念和术语
查看>>
64位MATLAB和C混合编程以及联合调试
查看>>