V2.3.1版本的分词组件源代码

分词组件V2.3.1源码 程序介绍： 盘古分词是一个中英文分词组件。作者eaglet 曾经开发过KTDictSeg 中文分词组件，拥有大量用户来自51ASPX。 作者基于之前分词组件的开发经验，结合最新的开发技术重新编写了盘古分词组件。 中文分词功能 中文未登录词识别 盘古分词可以对一些不在字典中的未登录词自动识别 词频优先 盘古分词可以根据词频来解决分词的歧义问题 多元分词 盘古分词提供多重输出解决分词粒度和分词精度权衡的问题 中文人名识别 输入： “张三说的确实在理” 分词结果：张三/说/的/确实/在理/ 输入 “李三买了一张三角桌子” 分词结果：李三/买/了/一张/三角/桌子/ 强制一元分词 输入 “张三说的确实在理” 分词结果： 张(0,1)/张三(0,5)/三说的(1,1)/三(1,1)/说(2,5)/的(3,5)/确(4,1)/确实(4,5)/实(5,1)/在(6,1)/在理(6,5)/理(7,1)/ 繁体中文分词 输入"我的選擇" 分词结果： 我/的/選擇/ 同时输出简体和繁体 输入"我的選擇" 分词结果：我(0,5)/的(1,5)/选择(2,1)/選擇(2,5)/ 中文词性输出 盘古分词可以将以登录词的中文词性输出给用户，以方便用户做进一步处理。 全角字符支持 盘古分词可以识别全角的字母和数字 英文分词 英文分词 英文单词通常都是靠空格等符号分割，这个比较简单，盘古分词分英文自然也没有什么问题。 英文专用词识别 一些英文简写是字母符号混合，或者是字母数字混合，这个分词起来就不能按照空格符号这样分割了，对于字母符号混合的如 U.S.A ， 只要将这个词录入到字典中，盘古分词就可以分出整词。对于字母和数字混合的，盘古分词会自动作为整词输出。 英文原词输出 英文大小写同时输出 更新日志： 发现打开多元分词开关后，英文分词速度非常慢，将英文的多元分词单独分开，新增一个英文多元分词的开关，默认不打开。 对词频优先的规则进行了改进，已经可以成功的将 一次性交100元 分成 一次性/交/100/元 自定义接口示例中增加提取版本号的功能 自定义接口增加一个原始文本的属性 优化了英文多元分词性能，界面上提供英文多元分词的选项