一、前言
在postgresql中有个比较骚的功能全文索引,这个功能虽然比不上搜索引擎,但简单的需求还是能够满足的.由于国内大多都需要进行中文进行检索,所以需要给postgresql安装一个中文分词的插件.目前中文分词的插件有jieba、zhparser,推荐使用zhparser,安装比较简单.
二、开始
- 环境:
- 系统: centos7
- postgresql: 11
安装gcc:
yum install -y gcc
安装g++:
yum install -y gcc-c++
安装wget:
yum install -y wget
安装clang:
yum install -y centos-release-scl
yum install -y llvm-toolset-7
yum install -y devtoolset-7
#启用llvm-toolset-7
scl enable llvm-toolset-7 bash
安装postgresql依赖:
yum install -y postgresql11-libs
yum install -y postgresql11-devel
安装SCWS:
wget -q -O - http://www.xunsearch.com/scws/down/scws-1.2.3.tar.bz2 | tar xf -
cd scws-1.2.3 ; ./configure ; make install
下载zhparser源码:
git clone https://github.com/amutu/zhparser.git
编译和安装zhparser:
make PG_CONFIG=/usr/pgsql-11/bin/pg_config && make install
#PG_CONFIG 为pgsql的安装路径
以上zhpraser就安装完毕了,可能会遇到llvm的环境问题,只需要按照报错信息建立软链接就好.
下面开始测试
//创建扩展,如果遇到权限不足请换postgresql用户操作,如果无法打开文件权限不足,请把对应的目录的用户用户组改为postgresql
CREATE EXTENSION zhparser;
//创建conf
CREATE TEXT SEARCH CONFIGURATION testzhcfg (PARSER = zhparser);
//添加token映射
ALTER TEXT SEARCH CONFIGURATION testzhcfg ADD MAPPING FOR n,v,a,i,e,l WITH simple;
//测试分词效果
SELECT * FROM ts_parse('zhparser', 'hello world! 2010年保障房建设在全国范围内获全面启动，从中央到地方纷纷加大 了保障房的建设和投入力度 。2011年，保障房进入了更大规模的建设阶段。住房城乡建设部党组书记、部长姜伟新去年底在全国住房城乡建设工作会议上表示，要继续推进保障性安居工程建设。');
SELECT to_tsvector('testzhcfg','“今年保障房新开工数量虽然有所下调，但实际的年度在建规模以及竣工规模会超以往年份，相对应的对资金的需求也会创历>史纪录。”陈国强说。在他看来，与2011年相比，2012年的保障房建设在资金配套上的压力将更为严峻。');
SELECT to_tsquery('testzhcfg', '保障房资金压力');
//如果短词效果不理想,可以开启以下选项
alter role all set zhparser.multi_short=on;
//如果需要忽略标点分好,可以开启以下选项
alter role all set zhparser.punctuation_ignore=on;
经过测试,在少量数据的情况下,效果没有like稳定,据说在大量数据的情况下,会表现的很不错