资源描述:
《机群文件系统元数据访问行为分析与优化研究》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库。
1、机群文件系统元数据访问行为分析与优化研究邢晶1.2,马捷1(1.中国科学院计算技术研究所国家智能计算机研究开发中心,北京市100080)(2中国科学院研究生院北京市100080)摘要:机群系统已成为目前构建高性能计算机的主流系统,而提高机群系统中负责提供IO服务的机群文件系统性能是构建高性能计算机的关键。本文以提高机群文件系统的元数据处理性能为出发点,通过采用统计和踪迹剖析两种方式来分析元数据访问行为,得到的元数据访问规律如下:1,元数据只读操作在机群文件系统的元数据实现中所占比例高达64.6%;2,涉及目录对象的操作在元数据实现中占较高比例,达1
2、7%;3,对元数据进行操作包含一个冗长的定位过程。利用元数据访问行为分析的结论,我们对LionFS元数据服务器的实现进行了优化,测试结果表明优化后的元数据处理性能比优化前提高了30%,证明了该研究的有效性。关键词:机群系统;机群文件系统;元数据MetadataaccesspatternanalysisandoptimizeresearchonclusterfilesystemTitleXingJing1,2,MaJie1(1.Nationalresearchcenterforintelligentcomputingsystems,Institute
3、ofcomputingtechnologyChineseacademyofscience,100080,China)(2.GraduateuniversityofChineseacademyofscience,100080,China)Abstract:Improvingmetatdataprocessinghasbecomeanimportantissuesinclusterfilesystems,inthispaper,weintroduceanewwaytoachieveit:usingtheconclusionofanalyzingmeta
4、dataaccesspatternofclusterfilesystemtoinstructdesigningandoptimizingmetadataimplementation.Weusetwowaystoanalysethemetadatabehavior:accessstatisticsandprofilinganalyse.Afteranalyzing5kindsoffilesystembehaviors,followingconclusionsaregot:1,metadatareadingoperationsoccupy64.6%of
5、alltheoperations,whichindicatereadingoperationsshouldbepaidmoreattention;2,operationsrelatedtodirectoryobjectoccupy17%,whichmeansdirectorymetadataplaysaimportantruleinmetadataprocessing;3,locatingthemetadataisaverboseprocedurebutisneededforeachprocessingtime,changingthemethodo
6、flocatingtobeasimpleonewillimprovetheperformanceofmetadataprocessing.Basedontheconclusion,theLionFSclusterfilesystemwasoptimized.Themdtestbenchmarkresultshowsthatafteroptimization,performanceimproves30%,whichprovesthevalidityofourresearch.Keywords:cluster;clusterfilesystem;met
7、adata1前言随着网络技术的飞速发展、信息量的与日俱增,计算机存储逐渐成为人们关注的焦点,在高性能计算机的机群系统领域,和存储相关的机群文件系统也得到科研人员更多的重视。在机群文件系统中,元数据处理的性能优劣对文件系统的性能影响很大。在元数据操作密集的情况下,元数据的处理能力甚至会成为制约文件系统的瓶颈,因此如何提高元数据处理能力是当前机群文件系统的一个研究重点。通常提高元数据处理能力有这样几种方法:增加元数据服务器处理的并发度,更换高效的hash定位算法和调整元数据的缓存管理等。本研究着眼于从元数据的访问行为开始分析,通过分析得到的元数据访问规
8、律对元数据处理进行优化。*本研究得到中国科学院知识创新工程重要方向项目“新一代机群关键技术研究”的支持,课题编号为KGCX