首页 文章 精选 留言 我的

精选列表

搜索[自然语言处理],共10009篇文章
优秀的个人博客,低调大师

自然语言处理工具python调用hanlp的方法步骤

Python调用hanlp的方法此前有分享过,本篇文章分享自“逍遥自在017”的博客,个别处有修改,阅读时请注意!1.首先安装jpype首先各种坑,jdk和python 版本位数必须一致,我用的是JPype1-py3 版本号0.5.5.2 、1.6jdk和Python3.5,win7 64位下亲测没问题。否则死翘翘,有可能虚拟机都无法启动: 出错调试,原因已说;测试成功会有输出。下面启动虚拟机跑hanlp2.下载各种安装包使用自定义的HanLP——HanLP由3部分组成:类库hanlp.jar包、模型data包、配置文件hanlp.properties,请前往项目主页下载最新版(最新版是1.7.4)的对于非portable版,下载后,你需要编辑配置文件第一行的root指向data的父目录,详见文档。 测试成功: 这里有可能JClass("com.hankcs.hanlp.HanLP")时,报错出现找不到类的问题,仔细查看配置文件和jar路径是否对;如果还出错,查看data里面的文件是否全。

优秀的个人博客,低调大师

自然语言处理工具python调用hanlp中文实体识别

Hanlp作为一款重要的中文分词工具,在GitHub的用户量已经非常之高,应该可以看得出来大家对于hanlp这款分词工具还是很认可的。本篇继续分享一篇关于hanlp的使用实例即Python调用hanlp进行中文实体识别。 想要在python中调用hanlp进行中文实体识别,Ubuntu 16.04的系统环境 1.安装jpype1,在cmd窗口输入 pip install jpype1 2.下载hanlp的安装包 在github.com/hankcs/HanLP/releases (1)下载新的 hanlp-1.7.1-release.zip文件,里面包含hanlp-1.7.1.jar , hanlp-1.7.1-sources.jar , hanlp.properties (2)点击data-for-1.7.1.zip下载。(底下第8条) 注:如果你在hanlp.linrunsoft.com/services.html点击下载hanlp.jar,下载下来的是hanlp-1.2.8.jar。之后在使用过程中可能会出现“字符类型对应表加载失败”的错误,查看相应路径下也没有CharType.dat.yes文件。原因可能是hanlp-1.2.8版本过低,使用新版本应该不会出现这个问题。 3.新建一个文件夹Hanlp,放文件hanlp-1.7.1.jar和hanlp.properties文件 新建一个文件夹hanlp,放data-for-1.7.1.zip解压后的文件 配置hanlp.properties中的第一行的root为hanlp文件夹的位置,也就是data-for-1.7.1.zip解压后的文件放的位置。 4.写py文件调用hanlp进行中文分析。 用法可参考这个博客 blog.csdn.net/u011961856/article/details/77167546。 另,查看HanLP关于实体识别的文档hanlp.linrunsoft.com/doc.html 里面介绍说中文人名标注为“nr”,地名标注为“ns”,机构名标注为“nt”,所以使用用法参考链接里的NLPTokenizer.segment就可以标注出中文句子中的人名,地名和机构名。 比较使用jieba进行词性标注时,也可以标注出中文句子中的人名,地名和机构名。jieba分词的词性说明:

优秀的个人博客,低调大师

自然语言处理工具包HanLP的Python接口

pyhanlp: Python interfaces for HanLPHanLP的Python接口,支持自动下载与升级HanLP,兼容py2、py3。 安装pip install pyhanlp使用命令hanlp来验证安装,如因网络等原因自动安装HanLP失败,可参考《手动配置》。 命令行中文分词使用命令hanlp segment进入交互分词模式,输入一个句子并回车,HanLP会输出分词结果: $ hanlp segment商品和服务商品/n 和/cc 服务/vn当下雨天地面积水分外严重当/p 下雨天/n 地面/n 积水/n 分外/d 严重/a龚学平等领导说,邓颖超生前杜绝超生龚学平/nr 等/udeng 领导/n 说/v ,/w 邓颖超/nr 生前/t 杜绝/v 超生/vi还可以重定向输入输出到文件等: $ hanlp segment <<< '欢迎新老师生前来就餐' 欢迎/v 新/a 老/a 师生/n 前来/vi 就餐/vi依存句法分析命令为hanlp parse,同样支持交互模式和重定向: $ hanlp parse <<< '徐先生还具体帮助他确定了把画雄鹰、松鼠和麻雀作为主攻目标。' 1 徐先生 徐先生 nh nr 4 主谓关系 _2 还 还 d d 4 状中结构 _3 具体 具体 a a 4 状中结构 _4 帮助 帮助 v v 0 核心关系 _5 他 他 r rr 4 兼语 _6 确定 确定 v v 4 动宾关系 _7 了 了 u ule 6 右附加关系 _8 把 把 p pba 15 状中结构 _9 画 画 v v 8 介宾关系 _10 雄鹰 雄鹰 n n 9 动宾关系 _11 、 、 wp w 12 标点符号 _12 松鼠 松鼠 n n 10 并列关系 _13 和 和 c cc 14 左附加关系 _14 麻雀 麻雀 n n 10 并列关系 _15 作为 作为 p p 6 动宾关系 _16 主攻 主攻 v vn 17 定中关系 _17 目标 目标 n n 15 动宾关系 _18 。 。 wp w 4 标点符号 _服务器通过hanlp serve来启动内置的http服务器,默认本地访问地址为:http://localhost:8765 ;也可以访问官网演示页面:http://hanlp.hankcs.com/ 。 升级通过hanlp update命令来将HanLP升级到最新版。该命令会获取GitHub最新版本并自动下载安装。 欢迎通过hanlp --help查看最新帮助手册。 API通过工具类HanLP调用常用接口: from pyhanlp import * print(HanLP.segment('你好,欢迎在Python中调用HanLP的API'))testCases = [ "商品和服务", "结婚的和尚未结婚的确实在干扰分词啊", "买水果然后来世博园最后去世博会", "中国的首都是北京", "欢迎新老师生前来就餐", "工信处女干事每月经过下属科室都要亲口交代24口交换机等技术性器件的安装工作", "随着页游兴起到现在的页游繁盛,依赖于存档进行逻辑判断的设计减少了,但这块也不能完全忽略掉。"] for sentence in testCases: print(HanLP.segment(sentence)) 关键词提取 document = "水利部水资源司司长陈明忠9月29日在国务院新闻办举行的新闻发布会上透露," \ "根据刚刚完成了水资源管理制度的考核,有部分省接近了红线的指标," \ "有部分省超过红线的指标。对一些超过红线的地方,陈明忠表示,对一些取用水项目进行区域的限批," \ "严格地进行水资源论证和取水许可的批准。" print(HanLP.extractKeyword(document, 2)) 自动摘要 print(HanLP.extractSummary(document, 3)) 依存句法分析 print(HanLP.parseDependency("徐先生还具体帮助他确定了把画雄鹰、松鼠和麻雀作为主攻目标。"))更多功能更多功能,包括但不限于: 自定义词典极速词典分词索引分词CRF分词感知机词法分析臺灣正體、香港繁體关键词提取、自动摘要文本分类、情感分析请阅读HanLP主项目文档以了解更多。调用更底层的API需要参考Java语法用JClass引入更深的类路径。以感知机词法分析器为例,这个类位于包名com.hankcs.hanlp.model.perceptron.PerceptronLexicalAnalyzer下,所以先用JClass得到类,然后就可以调用了: PerceptronLexicalAnalyzer = JClass('com.hankcs.hanlp.model.perceptron.PerceptronLexicalAnalyzer')analyzer = PerceptronLexicalAnalyzer()print(analyzer.analyze("上海华安工业(集团)公司董事长谭旭光和秘书胡花蕊来到美国纽约现代艺术博物馆参观"))输出: [上海/ns 华安/nz 工业/n (/w 集团/n )/w 公司/n]/nt 董事长/n 谭旭光/nr 和/c 秘书/n 胡花蕊/nr 来到/v [美国/ns 纽约/ns 现代/t 艺术/n 博物馆/n]/ns 参观/v如果你经常使用某个类,欢迎将其写入pyhanlp/__init__.py中并提交pull request,谢谢! 与其他项目共享dataHanLP具备高度可自定义的特点,所有模型和词典都可以自由替换。如果你希望与别的项目共享同一套data,只需将该项目的配置文件hanlp.properties拷贝到pyhanlp的安装目录下即可。本机安装目录可以通过hanlp --version获取。 同时,还可以通过--config临时加载另一个配置文件: hanlp segment --config path/to/another/hanlp.properties配置自动配置默认在首次调用HanLP时自动下载jar包和数据包,并自动完成配置。 手动配置如因网络等原因自动配置失败,可以通过设置环境变量来自定义HanLP版本和数据位置。 变量名 默认值 备注HANLP_STATIC_ROOT pyhanlp所在安装路径的static文件夹 配置文件hanlp.properties所在的目录HANLP_JAR_PATH pyhanlp所在安装路径的static文件夹 HanLP jar 包位置HANLP_JVM_XMS 1g Java 虚拟机 初始申请内存大小HANLP_JVM_XMX 1g Java 虚拟机 可占用的最大内存HANLP_GOOGLE_UA UA-XXXXX-X Google Analytics 网站 idHANLP_VERBOSE 0 调试日志开关注意: 使用pip初次安装 pyhanlp 后,不设置上述变量,程序会自动下载所需依赖到默认位置。如果是设置了上述变量,则不进行下载。因为文件比较大,网络下载稳定性等原因,建议提前准备好jar包,配置文件和data,并使用环境变量进行配置。 保证 hanlp.properties 中的 root 是指向正确的data路径。 比如: export HANLP_JAR_PATH=/hanlp/hanlp-portable-1.6.0.jarexport HANLP_STATIC_ROOT=/hanlp就需要保证有如下的目录结构: hanlp├── data│ ├── README.url│ ├── dictionary│ └── model├── hanlp.properties└── hanlp-portable-1.6.0.jar测试git clone https://github.com/hankcs/pyhanlp.gitcd pyhanlppip install -r requirements.txt # 安装依赖export HANLP_JAR_PATH= # 配置环境变量export HANLP_STATIC_ROOT= # 配置环境变量python tests/test_hanlp.py # 执行测试授权协议Apache License 2.0 文章来源于hankcs的博客

优秀的个人博客,低调大师

中文自然语言处理工具集:分词,相似度匹配

欢迎大家关注我们的网站和系列教程:http://www.tensorflownews.com/,学习更多的机器学习、深度学习的知识! 分词工具 结巴分词 https://github.com/fxsjy/jieba pullword http://www.pullword.com/ FudanNLP https://github.com/FudanNLP/fnlp 相似度匹配工具 gensim gensim – Topic Modelling in Python https://github.com/RaRe-Technologies/gensim starspace https://github.com/facebookresearch/StarSpace 项目 bosonnlp https://bosonnlp.com/ 欢迎大家关注我们的网站和系列教程:http://www.tensorflownews.com/,学习更多的机器学习、深度学习的知识!

优秀的个人博客,低调大师

Jcseg 2.6.3 发布 - Java 轻量级开源自然语言处理包

Jcseg 是基于 mmseg 算法的一个轻量级中文分词器,同时集成了关键字提取,关键短语提取,关键句子提取和文章自动摘要等功能,并且提供了一个基于 Jetty 的 web 服务器,方便各大语言直接 http 调用,同时提供了最新版本的 lucene,solr 和 elasticsearch 的分词接口! 2.6.3 版本主要更新如下: 1、优化 mmseg 的过滤实现,主要是运行效率上的。 2、修复一个因为 “单字词条覆盖” 导致的 bug,这是一个隐藏很久的老 bug了,触发的情况会导致 “最大语素自由度” 的过滤异常,例如: # 怀旧时,词条 “时” 本身比 “怀” 的语素自由度高,也就是这个且分结果应该如下: jcseg~tokenizer:complex>> 怀旧时 分词结果: 怀旧[0,2]/v 时[2,1]/nhf Done, total:3, tokens:2, in 0.00000sec # 这个 bug 出现的时候且分结果会是错误的,例如:怀/ 旧时/ 3、词库更新:增加了一些新词条,例如 https 等。 2.6.3版本下载地址: 1、Gitee:https://gitee.com/lionsoul/jcseg/tree/v2.6.3-release 2、Github:https://github.com/lionsoul2014/jcseg/releases/tag/v2.6.3-release

资源下载

更多资源
腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册