基于hanlp的es分词插件
摘要:elasticsearch是使用比较广泛的分布式搜索引擎,es提供了一个的单字分词工具,还有一个分词插件ik使用比较广泛,hanlp是一个自然语言处理包,能更好的根据上下文的语义,人名,地名,组织机构名等来切分词
Elasticsearch
默认分词
输出:
IK分词
输出:
hanlp分词
输出:
ik分词没有根据句子的含义来分词,hanlp能根据语义正确的切分出词
安装步骤:
1、进入https://github.com/pengcong90/elasticsearch-analysis-hanlp,下载插件并解压到es的plugins目录下,修改analysis-hanlp目录下的hanlp.properties文件,修改root的属性,值为analysis-hanlp下的data
目录的地址
2、修改es config目录下的jvm.options文件,最后一行添加
-Djava.security.policy=../plugins/analysis-hanlp/plugin-security.policy
重启es
GET /_analyze?analyzer=hanlp-index&pretty=true
{
“text”:”张柏芝士蛋糕店”
}
测试是否安装成功
analyzer有hanlp-index(索引模式)和hanlp-smart(智能模式)
自定义词典
修改plugins/analysis-hanlp/data/dictionary/custom下的 我的词典.txt文件
格式遵从[单词] [词性A] [A的频次]
修改完后删除同目录下的CustomDictionary.txt.bin文件
重启es服务

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
-
上一篇
【译】Spark-Alchemy:HyperLogLog的使用介绍
原文链接: [https://databricks.com/blog/2019/05/08/advanced-analytics-with-apache-spark.html] 译者:辰石,阿里巴巴计算平台事业部EMR团队技术专家,目前从事大数据存储以及Spark相关方面的工作。 预先聚合是一种常用高性能分析的手段,通过该方法处理数据的规模可以下降1000倍, 例如网站访问记录可以产生100亿条记录,通过预先聚合可以减少到1000万条记录, 因此数据的处理成本以及处理时间都会相应的减少,此外用户还可以通过更高层次的聚合达到进一步的提升,例如在时间维度上按天进行聚合, 或者按照网站维度上进行聚合而非按照URL来进行聚合。 本篇文章主要介绍开源库spark-alchemy中的HyperLogLog功能 以及他是如何解决数据聚合过程中遇到挑战
-
下一篇
【阿里云一周要闻第一期】阿里云数据库位列全球第三;《Java开发手册》正式发布;阿里云CDN实现毫秒级全网刷新
---------------------------------【一周要闻】--------------------------------- 突破!阿里云CDN实现毫秒级全网刷新 【阅读详情】 阿里云CDN技术团队进行大量协议优化与实践,最终达成突破性进展,实现了全网平均刷新生效时间低至毫秒级。也就是说在当客户源站内容发生更改,不到1秒时间内,全网用户已经可以访问到最新内容了。这套系统实现了真正的消息指数级广播,可以有效应对刷新系统缓慢带来的信息更新不及时等问题,极大地提升了客户内容的全网刷新速率,进而提升网民访问体验。 Gartner宣布阿里云数据库位列全球前三!【阅读详情】近日,国际权威研究机构Gartner发布 《The Future of the Database Management System (DBMS) Market
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Docker容器配置,解决镜像无法拉取问题
- Docker安装Oracle12C,快速搭建Oracle学习环境
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- 2048小游戏-低调大师作品
- SpringBoot2编写第一个Controller,响应你的http请求并返回结果
- SpringBoot2初体验,简单认识spring boot2并且搭建基础工程
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- SpringBoot2整合MyBatis,连接MySql数据库做增删改查操作
- MySQL数据库在高并发下的优化方案