django实现whoosh搜索引擎使用jieba分词-尊龙凯时

本文介绍了django实现whoosh搜索引擎使用jieba分词，分享给大家，具体如下：

django版本：3.0.4
python包准备：

pip install django-haystack
pip install jieba

使用jieba分词

1.cd到site-packages内的haystack包，创建并编辑chineseanalyzer.py文件

# （注意：pip安装的是django-haystack，但是实际包的文件夹名字为haystack）
cd /usr/local/lib/python3.8/site-packages/haystack/backends/
# 创建并编辑chineseanalyzer.py文件
vim chineseanalyzer.py

2.修改chineseanalyzer.py文件内容

import jieba
from whoosh.analysis import tokenizer, token
class chinesetokenizer(tokenizer):
  def __call__(self, 
         value,
         positions=false, 
         chars=false,
         keeporiginal=false, 
         removestops=true,
         start_pos=0, 
         start_char=0,
         mode='', 
         **kwargs):
  t = token(positions, chars, removestops=removestops, mode=mode,**kwargs)
  seglist = jieba.cut(value, cut_all=true)
  for w in seglist:
    t.original = t.text = w
    t.boost = 1.0
    if positions:
      t.pos = start_pos   value.find(w)
    if chars:
      t.startchar = start_char   value.find(w)
      t.endchar = start_char   value.find(w)   len(w)
      yield t
def chineseanalyzer():
  return chinesetokenizer()

3.替换分词器

cp whoosh_backend.py whoosh_cn_backend.py
vim whoosh_cn_backend.py

# 导入chineseanalyzer，并将原有的stemminganalyser替换为chineseanalyzer
from .chineseanalyzer import chineseanalyzer
# from whoosh.analysis import stemminganalyzer

vim替换命令： %s/stemminganalyzer/chineseanalyzer/g

4.修改setting.py文件

# 全文搜索框架配置
haystack_connections = {
  'default': {
   # 使用whoosh引擎
   # 'engine': 'haystack.backends.whoosh_backend.whooshengine',
   # 使用jieba分词
    'engine': 'haystack.backends.whoosh_cn_backend.whooshengine',
   # 索引文件路径
    'path': os.path.join(base_dir, 'whoosh_index'),
  },
}

5.重新建立索引

python manage.py rebuild_index

可以看到，已经使用了jieba分词。

到此这篇关于django实现whoosh搜索引擎使用jieba分词的文章就介绍到这了,