您现在的位置是:首页 > 文章详情

vicword 1.4 发布,PHP 中文分词库

日期:2020-04-05点击:517

VicWord 一个纯php的分词

主要更新:
    1. 添加默认词库路径
    2. 词库不存在返回false,改为抛出异常。

码云地址: https://gitee.com/jitog/phpfenci
github:  https://github.com/lizhichao/VicWord

分词说明
    含有3种切分方法
    getWord 长度优先切分 。最快
    getShortWord 细粒度切分。比最快慢一点点
    getAutoWord 自动切分 。效果最好

三种分词结果对比

     $fc = new VicWord('igb');     $arr = $fc->getWord('北京大学生喝进口红酒,在北京大学生活区喝进口红酒');     //北京大学|生喝|进口|红酒|,|在|北京大学|生活区|喝|进口|红酒     //$arr 是一个数组 每个单元的结构[词语,词语位置,词性,这个词语是否包含在词典中] 这里只值列出了词语     $arr =  $fc->getShortWord('北京大学生喝进口红酒,在北京大学生活区喝进口红酒');     //北京|大学|生喝|进口|红酒|,|在|北京|大学|生活|区喝|进口|红酒     $arr = $fc->getAutoWord('北京大学生喝进口红酒,在北京大学生活区喝进口红酒');     //北京|大学生|喝|进口|红酒|,|在|北京大学|生活区|喝|进口|红酒     //对比     //qq的分词 http://nlp.qq.com/semantic.cgi#page2      //百度的分词 http://ai.baidu.com/tech/nlp/lexical 

分词速度
    机器阿里云 Intel(R) Xeon(R) Platinum 8163 CPU @ 2.50GHz
    getWord 每秒140w字
    getShortWord 每秒138w字
    getAutoWord 每秒40w字
    测试文本在百度百科拷贝的一段5000字的文本

原文链接:https://www.oschina.net/news/114652/vicword-1-4-released
关注公众号

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。

持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。

文章评论

共有0条评论来说两句吧...

文章二维码

扫描即可查看该文章

点击排行

推荐阅读

最新文章