Gse v0.50.0 发布, Go 高性能分词,大幅度更新

Go 语言高效分词,支持英文、中文、日文等。

该版本主要增加:AlphaNum 拉丁字母和数字分词设置,RemoveToken,gse.New(),分词 ToLower 设置;Tirm 清除标点符号和空格,TextFreq 设置默认加载 frenquency,cutDAGNoHMM 和最短路径加动态规划配置,支持 ", " 分割字典文件等功能。

增加更多示例、测试和 benchmark 代码, 修复 bug。

项目地址:https://github.com/go-ego/gse

Nisqually Glacier

Add

add alphanum split words support
use variable to control default frequency

add gse.New() function and update test code, 
add New() function AlphaNum set support

add ToLower set support and update code

add remove token support and test code, 
add addToken and removeToken benchmark test,
update benchmark, example.go and godoc
add more test code

add English example code,
Add English token test code and Update README.md

update segment test code
update segment test code, add more test and remove unless code

add Trim punct and space function support, 
add Trim test code, 
add Trim benchmark test code, 
add Trim example code

update Trim function not exclude "include other char string"

update DictPaths() allow use ", " to separated dictionary files

add cutDAGNoHMM support and test code, 
add Cut() cutDAGNoHMM option support, 
add test and benchmark code

add python and node binding

 

Updtae

update gse code
export splitTextToWords function
export lookupTokens function

update example code
update data re base code

add Find token example code
update English example code

update example code use mixed text
update dictionary example code

update code fixed example print
update hmm test and example code

update gse server code
update server code add hmm support,
update jquery.min.js to v3.5.0
update server.go listen log print

update code and README.md
Update README.md, add binding...

update godoc
update load model godoc
update godoc and var name

update go mod pkg and version
remove unless go.sum hash
update go mod and remove vendor

add github workflow support
update go.yml
update and fmt circle.yml, travis.yml
add CI go1.13x support remove go1.11.x

rename utils.go to seg_utils.go

add more benchmark support
add hmm benchmark test support
add segmenter benchmark test code

add idf and pos files
update issue and pull request template

update segment test code use expect
update alpha num test code

优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/115948/gse-0-50-0-released

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

相关文章

发表评论

资源下载

更多资源
优质分享Android(本站安卓app)

优质分享Android(本站安卓app)

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Oracle Database,又名Oracle RDBMS

Oracle Database,又名Oracle RDBMS

Oracle Database,又名Oracle RDBMS,或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统,系统可移植性好、使用方便、功能强,适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Apache Tomcat7、8、9(Java Web服务器)

Apache Tomcat7、8、9(Java Web服务器)

Tomcat是Apache 软件基金会(Apache Software Foundation)的Jakarta 项目中的一个核心项目,由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定,而且免费,因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可,成为目前比较流行的Web 应用服务器。

Sublime Text 一个代码编辑器

Sublime Text 一个代码编辑器

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。