分析分布式文件系统MooseFS架构(基于HDFS架构思想)
2015-12-14 15:24:42   来源:   评论:0 点击: 收藏

由于工作关系,以前测试过moosefs分布式文件系统,最近在学习hadoop,发现moosefs的文件系统的架构和hdfs竟然很相似,估计编写moos
         由于工作关系,以前测试过moosefs分布式文件系统,最近在学习hadoop,发现moosefs的文件系统的架构和hdfs竟然很相似,估计编写moosefs分布式文件系统的作者肯定也是参考hdfs原理编写的该软件的!

先来大体介绍下moosefs系统的组成:
1.元数据服务器(master):负责管理整个体系中的文件系统,数据存储大小为每个文件(信息,属性和文件的位置(第),包括所有设备的信息有关非正规文件,即目录,插座,管道
和)。个人理解相当于hdfs中的namenode节点;

2.元数据日志服务器:备份元数据服务器的日志,相当于hdfs中的slave namenode;
3.数据存储服务器chunkserver:真正存储数据的节点,相当于hdfs中的datanode;
4,moosefs客户端:使用moosefs文件系统来存储和访问的主机称为moosefs的客户端,在MooseFS文件-使用任何机器数量mfsmount过程中的沟通
与管理服务器(接收和修改文件元数据)和chunkservers(实际的文件交换数据)。mfsmount是基于FUSE的机制 (用户空间文件系统中),所以可以用MooseFS每一个作业系统的
实施FUSE的机制(Linux操作系统,FreeBSD的,MacOS X系统等) 

各种角色作用:
   1 管理服务器:负责各个数据存储服务器的管理,文件读写调度,文件空间回收以及恢复.多节点拷贝
  2 元数据日志服务器: 负责备份master服务器的变化日志文件,文件类型为changelog_ml.*.mfs,以便于在master server出问题的时候接替其进行工作
  3 数据存储服务器:负责连接管理服务器,听从管理服务器调度,提供存储空间,并为客户提供数据传输.
  4 客户端: 通过fuse内核接口挂接远程管理服务器上所管理的数据存储服务器,.看起来共享的文件系统和本地unix文件系统使用一样的效


MooseFS的特点是:
高可靠性(数据的多个副本可以存储在不同的计算机上)
动态扩展能力是通过附加/新电脑磁盘
删除的文件保留的时间可配置时间(文件系统层次的“垃圾桶”)
相干快照文件,甚至当该文件被写入/访问


架构如下:
读流程:

 


写流程:

 

mfs的运行原理:

就是客户端请求master,master分派他去哪里读数据,

       MFS系统由4个部分构成,master、metalogger、chunkserver、client。
Master —— mfs的大脑,记录着管理信息,比如:文件大小,存储的位置,份数等,和innodb中共享空间(ibdata)中存储的信息类似,这些信息被记录到metadata.mfs中,当该文件被载入内存后,改文件会重命名为metadata.mfs.back,当chunkserver上有更新时,master会定期将获得的新的信息回写到metadata.mfs.back中,保重元数据的可靠。

        硬件推荐:大内存,因为内存中需要将metadata.mfs加载进来,这个文件的大小取决于你chunkserver上存储的数据量,内存的大小会成为之后的问题,要ECC的可以进行错误校验,当内存中数据量达到一定程度,如果没有个容错的机制,会很可怕;冗余电池,和磁盘配置RAID1/RAID5/RAID10,都是为了保证高可靠。

Metalogger —— mfs的备份,好比mysql中的m-s结构,metalogger会定期重master上将的metadata、changelog、session类型的文件下载同步到本地目录下,并加后缀”_ml”将其重命名。

硬件推荐:与master机器配置一致,metalogger本身就是master的一个备机,当master宕机后,可以直接将metalogger提升为master。

Chunkserver —— 数据存储地,文件以chunk大小存储,每chunk最大为64M,小于64M的,该chunk的大小即为该文件大小,超过64M的文件将被均分,每一份(chunk)的大小以不超过64M为原则;文件可以有多份copy,即除了原始文件以外,该文件还存储的份数,当goal为1时,表示只有一份copy,这份copy会被随机存到一台chunkserver上,当goal的数大于1时,每一份copy会被分别保存到每一个chunkserver上,goal的大小不要超过chunkserver的数量,否则多出的copy,不会有chunkserver去存,goal设置再多实际上也就没有意义的。Copy的份数,一般设为大于1份,这样如果有一台chukserver坏掉后,至少还有一份copy,当这台又被加进来后,会将失去的那份copy补回来,始终保持原有的copy数,而如果goal设为1copy,那么当存储该copy的chunkserver坏掉,之后又重新加入回来,copy数将始终是0,不会恢复到之前的1个copy。
Chunkserver上的剩余存储空间要大于1GB(Reference Guide有提到),新的数据才会被允许写入,否则,你会看到No space left on device的提示,实际中,测试发现当磁盘使用率达到95%左右的时候,就已经不行写入了,当时可用空间为1.9GB。

Client —— 客户端通过内核加载的FUSE模块,再通过和master的共同,将chunkserver共享的分区挂载到本地,然后进行读写操作。由于FUSE模块是外加的模块,当系统重启后,需要执行modprobe fuse,将其加载到内核中

相关热词搜索:架构 分布式 思想 MooseFS hdfs

上一篇:HDFS小文件处理解决方案总结+facebook(HayStack) + 淘宝(TFS)
下一篇:MooseFS介绍