[TOC]

一、环境准备

1.0 改密码, 如果有必要的话

passwd

1.1 设置好磁盘挂载点

fdisk -l     # 查看磁盘大小
df -Th     # 查看磁盘分配的挂载点
mkfs.ext4  /dev/sdb     # 磁盘格式化
mkdir /data      # 创建挂载点          
mount /dev/sdb  /data   # 将磁盘分配到挂载点
vi /etc/fstab   # 自动挂载,不设置的话,重启就需要重新挂载

1.2 设置联网,如果不能联网的话

vi /etc/resolv.conf     # 修改dns  
nameserver 114.114.114.114
nameserver 8.8.8.8

1.3 设置机器名( 改完重启,貌似没有生效,算了先不改了)

vi /etc/sysconfig/network  # 修改机器名,增加 HOSTNAME=gfdatanode05

1.4 设置hosts

vi /etc/hosts     #  将新增节点加到各台机器hosts
172.16.122.17   gfdatanode01
172.16.122.18   gfdatanode02
172.16.122.19   gfdatanode03
172.16.122.20   gfdatastandby
172.16.122.21   gfmaster
172.16.122.22   gfdatanode05
172.16.122.23   gfdatanode06
172.16.122.24   gfdatanode07
172.16.122.25   gfdatanode08
172.16.122.26   gfdatanode09

1.5 设置 ssh免密

ssh-keygen -t rsa    # 生成公钥
cd .ssh
cat id_rsa.pub >> authorized_keys   # 添加公钥免密 
chmod 600 authorized_keys # 必须600权限
# id_rsa.pub 添加到所有机器的 authorized_keys
# known_hosts 顺便也加下

1.6 关闭SElinux

getenforce   # 查看是否开启,默认开启
vi /etc/selinux/config    # 修改 SELINUX=disabled, 重启生效

1.7 关闭防火墙

service firewalld  status                # 查看防火墙
service firewalld  stop                  # 关闭防火墙      
systemctl disable firewalld.service    # 禁止防火墙开机启动

二、 Cloudera Manager安装【cdh 安装笔记

2.0 创建CM目录

mkdir /opt/cloudera-manager     # 创建CM目录
mkdir /opt/soft        # 创建软件存放目录

2.1 在master节点分发安装包

scp /opt/soft/cloudera-manager-centos7-cm5.16.1_x86_64.tar.gz root@gfdatanode05:/opt/soft      # 在master执行scp吧安装包传到新节点

2.2 安装包解压

tar -zxvf /opt/soft/cloudera-manager-centos7-cm5.16.1_x86_64.tar.gz -C /opt/cloudera-manager/

2.3 修改CM master节点主机名

sed -i "s/server_host=localhost/server_host=gfdatastandby/g" /opt/cloudera-manager/cm-5.16.1/etc/cloudera-scm-agent/config.ini

2.4 创建cloudera-scm账号,这是CM相关服务使用的默认账号

useradd --system --home=/opt/cloudera-manager/cm-5.16.1/run/cloudera-scm-server/ --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm    # 创建用户
chown -R cloudera-scm:cloudera-scm /opt/cloudera-manager # 修改权限

2.5 设置系统服务slave

cp /opt/cloudera-manager/cm-5.16.1/etc/init.d/cloudera-scm-agent /etc/rc.d/init.d/    
chown cloudera-scm:cloudera-scm /etc/rc.d/init.d/cloudera-scm-agent
vim /etc/rc.d/init.d/cloudera-scm-agent   # 修改路径:
注释掉默认路径,修改为如下
#CMF_DEFAULTS=${CMF_DEFAULTS:-/etc/default}
CMF_DEFAULTS=/opt/cloudera-manager/cm-5.16.1/etc/default
# 添加系统启动服务 
chkconfig --add cloudera-scm-agent 
chkconfig --level 35 cloudera-scm-agent on 
chkconfig --list

2.6 创建软件安装目录 slave

mkdir -p /opt/cloudera/parcels
chown -R cloudera-scm:cloudera-scm /opt/cloudera/

2.7 安装软件 psmisc

yum install psmisc -y

2.8 启动agent服务

service cloudera-scm-agent restart        # 启动服务
service cloudera-scm-agent status -l      # 查看状态

三、打开CM web界面

3.1 进入 “所有主机”,可以看到 新节点 已经纳入管理

3.2 点击右上角的 向集群添加新主机,不用搜索主机,直接点击下一步,可以看到新节点

3.3 跟着向导,安装选定 Parcel 等待 。。。2,3分钟后完成

3.4 继续跟着向导, 无主机模板(目前没有设),继续...,,然后到完成

其中会有检查主机,遇到问题处理:

问题1:Cloudera 建议将 /proc/sys/vm/swappiness 设置为最大值 10。当前设置为 30

echo 10 > /proc/sys/vm/swappiness                   # 设置为10
echo 'vm.swappiness=10'>> /etc/sysctl.conf      # 保存配置

问题2: IOException thrown while collecting data from host 无法路由到主机

# 需要关闭防火墙
service firewalld  status                # 查看防火墙
service firewalld  stop                  # 关闭防火墙      
systemctl disable firewalld.service    # 禁止防火墙开机启动

问题3:已启用透明大页面压缩,可能会导致重大性能问题

echo never > /sys/kernel/mm/transparent_hugepage/defrag
echo never > /sys/kernel/mm/transparent_hugepage/enabled
echo "echo never > /sys/kernel/mm/transparent_hugepage/defrag" >> /etc/rc.local
echo "echo never > /sys/kernel/mm/transparent_hugepage/enabled" >> /etc/rc.local
chmod +x /etc/rc.d/rc.local

results matching ""

    No results matching ""