Moosefs分布式文件系统集群讲解配置

作者：Andy-xxb 2014-06-24 15:24:52

开发

前端

分布式本篇为大家分享一下关于MooseFS的相关知识，以及简单的安装配置介绍。MooseFS是一种分布式文件系统，它通过四个节点服务器来进行整个分布式文件系统的正常运作，包括管理服务器，元数据日志服务器，存储服务器和客户端挂载。本章将通过实验环境为大家介绍整个集群的运行原理以及工作方式。如有更多方案或者简介，欢迎多多交流！

10年积累的成都网站制作、成都做网站经验，可以快速应对客户对网站的新想法和需求。提供各种问题对应的解决方案。让选择我们的客户得到更好、更有力的网络服务。我虽然不认识你，你也不认识我。但先网站设计后付款的网站建设流程，更有福山免费网站建设让你可以放心的选择与我们合作。

1 管理服务器(master-server):负责各个数据存储服务器的管理,文件读写调度,文件空间回收以及恢复.多节点拷贝

2 元数据日志服务器(changelog-server): 负责备份master服务器的变化，（一般情况下可以和管理服务器放在一起）文件类型为changelog_ml.*.mfs，以便于在master server出问题的时候接替其进行工作

3数据存储服务器(chunk-server):负责连接管理服务器,听从管理服务器调度,提供存储空间，并为客户提供数据传输.

4客户端(clients): 通过fuse内核接口挂接远程管理服务器上所管理的数据存储服务器,.看起来共享的文件系统和本地unix文件系统使用一样的效果.

MFS文件系统的读写原理：

MFS分布式文件系统搭建：

系统环境：

RHEL6.4

selinux is disabled

iptables is flush

一、yum 源定义，用来解决软件包的依赖性问题

  
 
    
  
  # cat yum.repo     
  
  [base]     
  
  name=yum    
  
  baseurl=ftp://192.168.2.234/pub/RHEL6.4     
  
  gpgcheck=0    
  
  [HA]     
  
  name=ha    
  
  baseurl=ftp://192.168.2.234/pub/RHEL6.4/HighAvailability     
  
  gpgcheck=0    
  
  [lb]     
  
  name=LB    
  
  baseurl=ftp://192.168.2.234/pub/RHEL6.4/LoadBalancer     
  
  gpgcheck=0    
  
  [Storage]     
  
  name=St    
  
  baseurl=ftp://192.168.2.234/pub/RHEL6.4/ResilientStorage     
  
  gpgcheck=0    
  
  [SFS]     
  
  name=FS    
  
  baseurl=ftp://192.168.2.234/pub/RHEL6.4/ScalableFileSystem     
  
  gpgcheck=0

二、主机解析准备

  
 
    
  
  # cat /etc/hosts     
  
  192.168.2.88 node1        mfsmaster     
  
  192.168.2.89 node2     
  
  192.168.2.90 node3     
  
  192.168.2.82 node4     
  
  192.168.2.85 node5

实验将用node1作为master-server

node3和node4作为chunk-server

node5作为clients

所有节点必须有以上准备

三、安装准备

#yum install rpm-build gcc make fuse-devel zlib-devel -y 安装编译环境使用的依赖(其实安装过程中会提示安装)

#rpmbuild -tb mfs-1.6.27.tar.gz 将gz包构建成rpm包的方式注意：包的格式很重要(只支持大的版本)

## ls /root/rpmbuild/RPMS/x86_64/ 生成的rpm包

mfs-cgi-1.6.27-2.x86_64.rpm mfs-client-1.6.27-2.x86_64.rpm

mfs-cgiserv-1.6.27-2.x86_64.rpm mfs-master-1.6.27-2.x86_64.rpm

mfs-chunkserver-1.6.27-2.x86_64.rpm mfs-metalogger-1.6.27-2.x86_64.rpm

1.master-server安装：

  
 
    
  
  # yum localinstall mfs-cgi-1.6.27-2.x86_64.rpm mfs-master-1.6.27-2.x86_64.rpm mfs-cgiserv-1.6.27-2.x86_64.rpm -y

可以用cgi进行页面监控：

master-server：主要文件和目录

/var/lib/mfs mfs数据目录

metadata.mfs mfs启动文件

/etc/mfs 主目录(存储配置文件)

mfsmaster.cfg mfs主配置文件(定义相关参数，用户、组等设定)

mfsexports.cfg mfs被挂接目录及其权限控制文件

mfstopology.cfg 定义 MFS 网络拓扑结构的文件

配置文件默认不需要修改就可以使用

#chown -R nobody /var/lib/mfs 注意给数据目录以mfs的权限

# mfsmaster 启动mfs

#mfsmaster stop 关闭mfs

#netstat -antlpe（mfsmaster开启三个端口：客户端连接9421端口，监听9422端口;数据节点9420端口）

#/usr/share/mfscgi

#chmod +x *.cgi 给所有的cgi页面可执行权限(以便与在web下查看状态)

# mfscgiserv ------- -》启动cgi监控

http://192.168.2.88:9425/

查看mfs监控信息

2.chunk-server安装配置（node3 and node4）

#rpm -ivh mfs-chunkserver-1.6.27-2.x86_64.rpm

#cd /etc/mfs/

#cp mfschunkserver.cfg.dist mfschunkserver.cfg

# cp mfshdd.cfg.dist mfshdd.cfg

# vim mfshdd.cfg 存储文件

/mnt/chunk 真正存储的目录(将客户端/mnt/mfs的文件存储)

#mkdir /mnt/chunk

#mkdir /var/lib/mfs

#chown nobody /var/lib/mfs/

#chown nobody /mnt/chunk

# mfschunkserver 启动mfs服务器（注意，mfsmaster的解析必须到位）

#l. 产生一个隐藏锁文件

.mfschunkserver.lock

3.clients端的安装与配置；

# yum localinstall mfs-client-1.6.27-2.x86_64.rpm

#cp mfsmount.cfg.dist mfsmount.cfg

#vim mfsmount.cfg

修改master和分布式目录/mnt/mfs

#mkdir /mnt/mfs

#mfsmounts 执行客户端挂载

mfsmaster accepted connection with parameters: read-write,restricted_ip ; root mapped to root:root 挂载成功

# df 查看挂载设备

mfsmaster:9421 6714624 0 6714624 0% /mnt/mfs

# ll -d /mnt/mfs/ 挂载后自动读写

drwxrwxrwx 2 root root 0 Jun 8 10:29 /mnt/mfs/

测试：MFS测试：

# mkdir hello{1,2}

# ls

hello1 hello2

# mfsdirinfo hello1/

hello1/:

inodes: 1

directories: 1

files: 0

chunks: 0

length: 0

size: 0

realsize: 0

# mfssetgoal -r 3 hello1/ 设置备份次数

hello1/:

inodes with goal changed: 1

inodes with goal not changed: 0

inodes with permission denied: 0

# mfsgetgoal hello1/ 查看文件备份数

hello1/: 3

# mfsgetgoal hello2

hello2: 1

#cp /etc/fstab hello1/

# cp /etc/passwd hello2/

# mfsfileinfo /hello/fstab 查看文件具体信息

fstab:

chunk 0: 000000000000000B_00000001 / (id:11 ver:1)

copy 1: 192.168.2.82:9422

copy 2: 192.168.2.90:9422

# mfscheckfile passwd

测试存储关系：

# mfsfileinfo fstab

fstab:

chunk 0: 000000000000000B_00000001 / (id:11 ver:1)

copy 1: 192.168.2.90:9422

[root@node5 hello1]# mfsfileinfo ../hello2/passwd

../hello2/passwd:

chunk 0: 000000000000000C_00000001 / (id:12 ver:1)

no valid copies !!!

客户端：误删除文件(不小心删除/mnt/mfs/hello*/passwd)

# mfsmount -m /mnt/test/ -H mfsmaster 恢复目录挂载到mfsmaster上

mfsmaster accepted connection with parameters: read-write,restricted_ip

# mount

#cd /mnt/test/

## mfscheckfile passwd

# mv 00000005\|hello2\|passwd undel/

直接恢复到之前的mfs目录中

# umount /mnt/meta/

mfschunk-server可以自动检测客户端的配置文件：

# mfschunkserver stop

在客户端重新拷贝文件，

#cp /etc/inittab /mnt/mfs/hello1

#mfsgetgoal hello1/fstab 查看文件份数

#mfsgetgoal hello1/inittab

# mfsfileinfo inittab 刚开始只有一个chukserver，只能保存一份

开启chunkserver

#mfschunkserver

# mfsfileinfo inittab 查看文件的备份数，恢复成chunkserver的数

inittab:

chunk 0: 0000000000000006_00000001 / (id:6 ver:1)

copy 1: 192.168.2.184:9422

copy 2: 192.168.2.185:9422

注意:

在mfsmaster中，正常运行时，数据文件为metadata.mfs.back

当主机出现故障，数据文件会保存成metadata.mfs

使用非正常关闭，(kill -9 pid) 数据文件将不会恢复

# mfsmetarestore -a- 非正常启动后会丢失metadata.mfs文件，必须恢复一下

然后重新启动mfsmaster(mfsmaster启动必须有metadata.mfs文件)

本文来自：http://my.oschina.net/xxbAndy/blog/282833

本文名称：Moosefs分布式文件系统集群讲解配置
当前路径：http://www.shufengxianlan.com/qtweb/news9/548359.html

网站建设、网络推广公司-创新互联，是专注品牌与效果的网站制作，网络营销seo公司；服务项目有等

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源：创新互联

猜你还喜欢下面的内容