一、环境与配置

服务器名称               IP地址               备注
mfsmaster.corp.com      192.168.111.100      禁用selinux,关闭防火墙
metalogger.corp.com     192.168.111.101      禁用selinux,关闭防火墙
chunk1.corp.com         192.168.111.102      禁用selinux,关闭防火墙
chunk2.corp.com         192.168.111.103      禁用selinux,关闭防火墙
client.corp.com         192.168.111.188      普通应用服务器

二、统一配置

1、所有服务器端包括客户端应用服务器操作:

下载官方yum源的key认证文件

# curl "https://ppa.moosefs.com/RPM-GPG-KEY-MooseFS" > /etc/pki/rpm-gpg/RPM-GPG-KEY-MooseFS

下载官方yum源的repo配置文件,这里对应CentOS 7,其他系统则把el7改为el6或el8

# curl "http://ppa.moosefs.com/MooseFS-3-el7.repo" > /etc/yum.repos.d/MooseFS.repo

2、所有服务器端与客户端应用服务器hosts配置:

# vi /etc/hosts
192.168.111.100    mfsmaster

3、关闭所有服务器端的防火墙,如需要开放防火墙,则需要开放对应的端口

三、安装

1、安装Master Server

执行yum安装命令:

# yum install moosefs-master moosefs-cgi moosefs-cgiserv moosefs-cli

启动mfsmaster服务与cgi监控服务:

# systemctl start moosefs-master.service
# systemctl start moosefs-cgiserv.service

设置开机自启动:

# systemctl enable moosefs-master.service
# systemctl enable moosefs-cgiserv.service

完成后,通过http://192.168.111.100:9425查看服务器状态信息

2、安装Metalogger Server

执行yum安装命令:

# yum install moosefs-metalogger

启动服务:

# systemctl start moosefs-metalogger.service

设置开机自启动:

# systemctl enable moosefs-metalogger.service

3、安装Chunk Server

执行yum安装命令

# yum install moosefs-chunkserver

创建存储分区(一块新的磁盘/dev/xvdb)

# parted --align optimal /dev/xvdb
(parted) mklabel gpt
(parted) mkpart mfs1 0% 100%
(parted) q

格式化分区为xfs格式,并进行4k对齐

# mkfs.xfs -s size=4k /dev/xvdb1

写入/etc/fstab,开机自动挂载分区

# vi /etc/fstab
/dev/xvdb1 /mnt/mfs1 xfs defaults 0 0

为挂载新创建的分区创建挂载点

# mkdir /mnt/mfs1

挂载新创建的分区

# mount /mnt/mfs1

赋予挂载点权限

# chown mfs:mfs /mnt/mfs1
# chmod 770 /mnt/mfs1

在mfshdd.cfg文件中输入挂载点

# vi /etc/mfs/mfshdd.cfg
/mnt/mfs1

启动服务:

# systemctl start moosefs-chunkserver.service

设置开机自启动:

# systemctl enable moosefs-chunkserver.service

注:多台chunk server分别都执行上述操作。

四、客户端应用服务器挂载存储

yum安装客户端挂载命令

# yum install moosefs-client

创建挂载点

# mkdir -p /mnt/mfs

挂载存储

# mfsmount /mnt/mfs -H mfsmaster

# mfsmount /mnt/mfs -H 192.168.111.100

挂载后,查看是否挂载成功

# df -h
Filesystem               Size  Used Avail Use% Mounted on
devtmpfs                 1.9G     0  1.9G   0% /dev
tmpfs                    1.9G     0  1.9G   0% /dev/shm
tmpfs                    1.9G  8.7M  1.9G   1% /run
tmpfs                    1.9G     0  1.9G   0% /sys/fs/cgroup
/dev/mapper/centos-root   46G  4.4G   41G  10% /
/dev/xvda1              1014M  181M  834M  18% /boot
tmpfs                    378M     0  378M   0% /run/user/0
192.168.111.100:9421     200G  577M  200G   1% /mnt/mfs

写入/etc/fstab,实现开机自动挂载

# vi /etc/fstab
mfsmount /mnt/mfs fuse defaults ,mfsmaster=mfsmaster,mfsport=9421 0 0

五、通过GUI界面查看服务器状态信息

访问:http://192.168.111.100:9425

1.jpg

2.jpg

3.jpg

4.jpg

六、常用命令

查看设置的副本数(默认为2个)

# mfsgetgoal /mnt/mfs/
/mnt/mfs/: 2

查看文件信息(可以查看文件所有副本所在的服务器)

# mfsfileinfo /mnt/mfs/test
/mnt/mfs/test:
        chunk 0: 0000000000000002_00000001 / (id:2 ver:1)
                copy 1: 192.168.111.102:9422 (status:VALID)
                copy 2: 192.168.111.103:9422 (status:VALID)

查看文件的副本个数(查看文件的当前副本个数)

# mfscheckfile /mnt/mfs/test
/mnt/mfs/test:
 chunks with 2 copies:            1