现在的位置: 首页 > 大数据 > hadoop > 正文
玩转Ambari之二:本地yum源建立
2014年06月07日 hadoop ⁄ 共 3653字 玩转Ambari之二:本地yum源建立已关闭评论 ⁄ 被围观 17,551 views+

生产中的hadoop集群机器都很多,而且基本都不允许连接公网,为方便快速部署,非常有必要建立一个本地Repository,下面详细介绍建立过程。

主要资源:

    • CentOS 6.5 x86_64 镜像
    • Ambari-1.5.1
    • HDP-2.1
    • HDP-UTILS-1.1.0.17

 

一、安装基本软件并配置:

yum install yum-utils createrepo yum-plugin-priorities

yum install httpd

编辑/etc/yum/pluginconf.d/priorities.conf,修改为如下:

[main]
enabled=1
gpgcheck=0

如果安装了PackageKit,还需修改/etc/yum/pluginconf.d/refresh-packagekit.conf为如下:

enabled=0

设置httpd:

chkconfig httpd on

service httpd start

二、下载主要资源并配置:

资源下载主要有两种方式:

2.1 直接下载(推荐):

采用P2P下载工具(如迅雷等)下载上述主要资源的完整包,再上传到本地源服务器进行部署的方式是最快的,因为迅雷等下载工具下载上述资源要比直接同步快很多。各资源主要路径如下:

CenOS最新镜像下载点:

http://isoredirect.centos.org/centos/6/isos/x86_64/

下载后挂载,并拷贝所有内容到/var/www/html/centos65

mount -o loop /tmp/CentOS-6.5-x86_64-bin-DVD1.iso  /media

cp  -r /media /var/www/html/centos65

umount /media

下载拷贝HDP-2.1和HDP-UTILS-1.1.0.17并解压到/var/www/html/hdp
http://public-repo-1.hortonworks.com/HDP/centos6/2.x/GA/2.1-latest/HDP-2.1-latest-centos6-rpm.tar.gz
http://public-repo-1.hortonworks.com/HDP-UTILS-1.1.0.17/repos/centos6/HDP-UTILS-1.1.0.17-centos6.tar.gz

tar xf HDP-2.1-latest-centos6-rpm.tar.gz –C /var/www/html/hdp

tar xf HDP-UTILS-1.1.0.17-centos6.tar.gz –C /var/www/html/hdp

拷贝Ambari-1.5.1并解压到/var/www/ambari
http://public-repo-1.hortonworks.com/ambari/centos6/ambari-1.5.1-centos6.tar.gz

tar xf ambari-1.5.1-centos6.tar.gz –C /var/www/html/ambari

完成后结构如下:

[root@yum html]# tree -L 2
.
├── ambari
│   └── centos6
├── centos65
│   ├── CentOS_BuildTag
│   ├── EFI
│   ├── EULA
│   ├── GPL
│   ├── images
│   ├── isolinux
│   ├── Packages
│   ├── RELEASE-NOTES-en-US.html
│   ├── repodata
│   ├── RPM-GPG-KEY-CentOS-6
│   ├── RPM-GPG-KEY-CentOS-Debug-6
│   ├── RPM-GPG-KEY-CentOS-Security-6
│   ├── RPM-GPG-KEY-CentOS-Testing-6
│   └── TRANS.TBL
└── hdp
├── HDP
└── HDP-UTILS-1.1.0.17

[root@yum html]# tree ambari hdp -L 4
ambari
└── centos6
└── 1.x
└── updates
└── 1.5.1
hdp
├── HDP
│   └── centos6
│       └── 2.x
│           └── updates
└── HDP-UTILS-1.1.0.17
└── repos
└── centos6
├── epel-release-6-8.noarch.rpm
├── extjs
├── fping
├── ganglia
├── hadoop-lzo
├── hdp-util.repo
├── libconfuse
├── lzo
├── mysql-connector-java
├── nagios
├── nagios-plugins
├── pdsh
├── perl
├── puppet
├── repodata
├── RPM-GPG-KEY
├── rrdtool
└── snappy

27 directories, 2 files
[root@yum html]# tree ambari hdp -L 5
ambari
└── centos6
└── 1.x
└── updates
└── 1.5.1
hdp
├── HDP
│   └── centos6
│       └── 2.x
│           └── updates
│               └── 2.1.2.0
└── HDP-UTILS-1.1.0.17
└── repos
└── centos6

2.2 采用reposync直接同步公共源(不推荐,如果用了2.1的方法,就不需要这一步):

对于CentOS的Repo源,建议采用国内的搜狐或163等,速度最快,如下:

wget http://mirrors.163.com/.help/CentOS-Base-163.repo -O  /etc/yum.repos.d/CentOS-Base-163.repo

wget http://public-repo-1.hortonworks.com/ambari/centos6/1.x/updates/1.5.1/ambari.repo -O /etc/yum.repos.d/ambari.repo

wget http://public-repo-1.hortonworks.com/HDP/centos6/2.x/GA/2.1-latest/hdp.repo -O /etc/yum.repos.d/hdp.repo

查看当前源中有的repo列表:

yum repolist

同步Ambari:

cd /var/www/html

mkdir -p ambari/centos6
cd ambari/centos6
reposync -r Updates-ambari-1.5.1

同步HDP:

mkdir -p hdp/centos6
cd hdp/centos6
reposync -r HDP-2.1.2.0
reposync -r HDP-UTILS-1.1.0.17

注意:HDP有2.1GB大,下载非常慢,需要长时间等待。

创建repo(根据实际路径配置,有可能不一样):

createrepo /var/www/html/ambari/centos6/Updates-ambari-1.5.1

createrepo /var/www/html/hdp/centos6/HDP-2.1.2.0

createrepo /var/www/html/hdp/centos6/HDP-UTILS-1.1.0.17

创建完成后,就可以通过web路径访问测试了(路径可能不同):

image

三、配置本地repo文件:

我的本地repo配置文件如下:

[CentOS6-Media]
name=CentOS6-Media
baseurl=http://172.18.8.200/centos65
gpgcheck=1
enabled=1
gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-6

[Ambari-1.5.1]
name=Ambari-1.5.1
baseurl=http://172.18.8.200/ambari/centos6/1.x/updates/1.5.1
gpgcheck=0
enabled=1

[HDP-2.1.2.0]
name=HDP-2.1.2.0
baseurl=http://172.18.8.200/hdp/HDP/centos6/2.x/updates/2.1.2.0
gpgcheck=0
enabled=1

[HDP-UTILS-1.1.0.17]
name=HDP-UTILS-1.1.0.17
baseurl=http://172.18.8.200/hdp/HDP-UTILS-1.1.0.17/repos/centos6
gpgcheck=0
enabled=1

配置好后,即可移除所有节点的本地原来的repo文件,使用本地repo源进行安装centos自带软件、ambari、hdp(包含所有hadoop软件)了。

抱歉!评论已关闭.

×