博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
IK中文分词_IK分词器配置文件讲解以及自定义词库
阅读量:6993 次
发布时间:2019-06-27

本文共 631 字,大约阅读时间需要 2 分钟。

hot3.png

1、ik配置文件

ik配置文件地址:es/plugins/ik/config目录

IKAnalyzer.cfg.xml:用来配置自定义词库

main.dic:ik原生内置的中文词库,总共有27万多条,只要是这些单词,都会被分在一起
quantifier.dic:放了一些单位相关的词
suffix.dic:放了一些后缀
surname.dic:中国的姓氏
stopword.dic:英文停用词

ik原生最重要的两个配置文件

main.dic:包含了原生的中文词语,会按照这个里面的词语去分词

stopword.dic:包含了英文的停用词

停用词,stopword

a the and at but

一般,像停用词,会在分词的时候,直接被干掉,不会建立在倒排索引中

2、自定义词库

(1)自己建立词库:每年都会涌现一些特殊的流行词,网红,蓝瘦香菇,喊麦,鬼畜,一般不会在ik的原生词典里

自己补充自己的最新的词语,到ik的词库里面去

IKAnalyzer.cfg.xml:ext_dict,custom/mydict.dic

补充自己的词语,然后需要重启es,才能生效

(2)自己建立停用词库:比如了,的,啥,么,我们可能并不想去建立索引,让人家搜索

custom/ext_stopword.dic,已经有了常用的中文停用词,可以补充自己的停用词,然后重启es

转载于:https://my.oschina.net/zhongwenhao/blog/1647531

你可能感兴趣的文章
[转]什么是线程安全
查看>>
STlink下载和打断点Debug调试小结
查看>>
MySQL数据库与JDBC编程(一)
查看>>
移动端fixed后 横竖屏切换时上部或下部出现空隙问题
查看>>
poj 3122 Pie (二分)
查看>>
在面试中如何展示虚拟机和内存调优技能
查看>>
C++命名空间学习笔记
查看>>
购物商城Web开发第五天
查看>>
剑指Offer第36题—Java版
查看>>
txt 简单操作
查看>>
jquery $(document).ready() 与window.onload的区别
查看>>
解决Android中,禁止ScrollView内的控件改变之后自动滚动
查看>>
软件测试2019:第七次作业—— 用户体验测试
查看>>
.NET Winform 让程序以兼容模式运行
查看>>
Maven的配置文件pom.xml
查看>>
Flask
查看>>
Pycharm中实现多个项目共存的方式
查看>>
【转】一步一步学Linq to sql(三):增删改
查看>>
iOS开发CATransform3D.h属性详解和方法使用
查看>>
Variable Scope in C++
查看>>