分词技术研究报告

《分词技术研究报告》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、分词技术研究报告技术报告报告人：杨超一、研究内容目前，国内的每个行业、领域都在飞速发展，这中间产生了大量的中文信息资源，为了能够及时准确的获取最新的信息，中文搜索引擎是必然的产物。中文搜索引擎与西文搜索引擎在实现的机制和原理上大致雷同，但由于汉语本身的特点，必须引入对于中文语言的处理技术，而汉语自动分词技术就是其中很关键的部分。汉语自动分词到底对搜索引擎有多大影响？对于搜索引擎来说，最重要的并不是找到所有结果，最重要的是把最相关的结果排在最前面，这也称为相关度排序。中文分词的准确与否，常常直接影响到对搜索结果的相关度排序。分词准确性对搜索引擎来说十分重要，但如果分词速度太慢，即使准确性再高，对

2、于搜索引擎来说也是不可用的，因为搜索引擎需要处理数以亿计的X页，如果分词耗用的时间过长，会严重影响搜索引擎内容更新的速度。因此对于搜索引擎来说，分词的准确性和速度，二者都需要达到很高的要求。研究汉语自动分词算法，对中文搜索引擎的发展具有至关重要的意义。快速准确的汉语自动分词是高效中文搜索引擎的必要前提。本课题研究中文搜索引擎中汉语自动分词系统的设计与实现，从目前中文搜索引擎的发展现状出发，引出中文搜索引擎的关键技术------汉语自动分词系统的设计。首先研究和比较了几种典型的汉语自动分词词典机制，指出各词典机制的优缺点，然后分析和比较了几种主要的汉语自动分词方法，阐述了各种分词方法的技术特点。

3、针对课题的具体应用领域，提出改进词典的数据结构，根据汉语中二字词较多的特点，通过快速判断二字词来优化速度；分析中文搜索引擎下歧义处理和未登陆词处理的技术，提出了适合本课题的自动分词算法，并给出该系统的具体实现。最后对系统从分词速度和分词准确性方面进行了性能评价。本课题的研究将促进中文搜索引擎和汉语自动分词新的发展。二、汉语自动分词系统的研究现状1、几个早期的自动分词系统自80年代初中文信息处理领域提出了自动分词以来，一些实用性的分词系统逐步得以开发，其中几个比较有代表性的自动分词系统在当时产生了较大的影响。CDM分词系统系统的词典采用一级首字索引结构，词条中包括了“非连续词”（形如C1…*Cn

4、）。系统精度的实验结果为95%，低于理论值99.73%，但高于通常的MM、RMM、DMM方法。8、MicrosoftResearch汉语句法分析器中的自动分词微软研究院的自然语言研究所在从90年代初开始开发了一个通用型的多国语言处理平台NLPB内存机器上的达到了每秒3千词以上，而在PentiumII/64MB内存机器上速度高达每秒5千词。三、主要的自动分词算法现有的分词算法主要可分为三大类：基于字符串匹配的分词方法、基于理解的分词方法和基于统计的分词方法。1、基于字符串匹配的分词方法这种方法又叫做机械分词方法，它是按照一定的策略将待分析的汉字串与一个“充分大的”机器词典中的词条进行配，若在词典

5、中找到某个字符串，则匹配成功（识别出一个词）。按照扫描方向的不同，串匹配分词方法可以分为正向匹配和逆向匹配；按照不同长度优先匹配的情况，可以分为最大（最长）匹配和最小（最短）匹配；按照是否与词性标注过程相结合，又可以分为单纯分词方法和分词与标注相结合的一体化方法。常用的几种机械分词方法如下；1正向最大匹配2逆向最大匹配3最少切分（使每一句中切出的词数最小）还可以将上述各种方法相互组合，例如，可以将正向最大匹配方法和逆向最大匹配方法结合起来构成双向匹配法。由于汉语单字成词的特点，正向最小匹配和逆向最小匹配一般很少使用。一般说来，逆向匹配的切分精度略高于正向匹配，遇到的歧义现象也较少。统计结果表明

6、，单纯使用正向最大匹配的错误率为1/169，单纯使用逆向最大匹配的错误率为1/245。但这种精度还远远不能满足实际的需要。由于分词是一个智能决策过程，机械分词方法无法解决分词阶段的两大基本问题：歧义切分问题和未登录词识别问题。实际使用的分词系统，都是把机械分词作为一种初分手段，还需通过利用各种其它的语言信息来进一步提高切分的准确率。一种方法是改进扫描方式，称为特征扫描或标志切分，优先在待分析字符串中识别和切分出一些带有明显特征的词，以这些词作为断点，可将原字符串分为较小的串再来进机械分词，从而减少匹配的错误率。另一种方法是将分词和词类标注结合起来，利用丰富的词类信息对分词决策提供帮助，并且在标

7、注过程中又反过来对分词结果进行检验、调整，从而极大地提高切分的准确率。对于机械分词方法，可以建立一个一般的模型，形式地表示为ASM(d,a,m)，即AutomaticSegmentationModel。其中，d：匹配方向，+1表示正向，-1表示逆向；a：每次匹配失败后增加/减少字串长度（字符数），+1为增字，-1为减字；m：最大/最小匹配标志，+1为最大匹配，-1为最小匹配。例如，ASM(+,-,