DedeCMS V5.7全文檢索使用說明

2024-07-12 08:54:14

字體：大中小

來源：轉載

供稿：網友

首先了解一下sphinx全文索引的相關知識,考慮到Sphinx全文索引使用的實際需要，主要介紹Sphinx全文索引中文方面的支持。這里需要感謝李沫南同學對Sphinx全文索引中文支持的貢獻！

官方網站：http://www.sphinxsearch.com/
官方文檔：http://www.sphinxsearch.com/docs/
中文支持：http://www.coreseek.cn/
中文使用手冊下載：http://www.coreseek.cn/uploads/pdf/sphinx_doc_zhcn_0.9.pdf
中文在線手冊:http://www.coreseek.cn/docs/coreseek_3.2-sphinx_0.9.9.html

1.Windows下安裝Sphinx
1.1.開始前的準備工作
先從http://www.coreseek.cn/products/ft_down/下載Coreseek 3.2.13,這里我們就以Windows環境為例:
下載后直接解壓coreseek-3.2.13-win32.zip,我們這里假設解壓到:D:/coreseek-3.2.13-win32.這里我們需要簡單了解幾個目錄:

[D:/coreseek-3.2.13-win32/api]API接口目錄,其中包括了php,python,ruby等操作實例,其中test_coreseek.php是一個不錯的中文檢索的例子.

[D:/****/bin]應用程序目錄,其中包含以下幾個文件
    * indexer: 用于創建全文索引;
    * search: 一個簡單的命令行(CLI) 的測試程序，用于測試全文索引;
    * searchd: 一個守護進程，其他軟件可以通過這個守護進程進行全文檢索;
    * sphinxapi: 一系列searchd 的客戶端API 庫，用于流行的Web腳本開發語言(PHP, Python, Perl, Ruby, Java).
    * spelldump: 一個簡單的命令行工具，用于從 ispell 或 MySpell (OpenOffice內置綁定) 格式的字典中提取詞條。當使用 wordforms 時可用這些詞條對索引進行定制.
    * indextool: 工具程序，用來轉儲關于索引的多項調試信息。此工具是從版本Coreseek 3.1(Sphinx 0.9.9-rc2)開始加入的。
    * mmseg: 工具程序和庫，Coreseek用于提供中文分詞和詞典處理。

[D:/****/etc]sphinx配置目錄
[D:/****/var]sphinx變量&索引&日志存放目錄

1.2.創建配置文件
由于dedecms使用的是mysql,所以我們需要來配置一個mysql的sphinx模板配置,可以復制csft_mysql.conf改名為:csft_dedecmsv57.conf,例如我們這里僅做文章的全文檢索,我們需要做如下配置:
先在DedeCMS中創建一個統計表,方法可以在DedeCMS后臺[系統]->[SQL命令行工具]中執行下列代碼:
CREATE TABLE `dede_sphinx` (
    `countid` int(11) unsigned NOT NULL,
    `maxaid` int(11) unsigned NOT NULL,
    PRIMARY KEY (`countid`)
) ENGINE=MyISAM DEFAULT CHARSET=gbk
這是一個sphinx內容統計表,為了適合數據量較大的情況下分批生成索引而使用的.
創建完數據表后,我們對sphinx的配置文件,即csft_dedecmsv57.conf修改,內容如下,其中包含注釋:
--------------------------------------------------------------------------------------------

#源定義
source mysql
{
   type                   = mysql

    # 數據庫服務器基本配置信息
    sql_host                = 192.168.0.103
    sql_user                = dedev57
    sql_pass                = dedecms
    sql_db                  = dedecmsv57gbk
    sql_port                = 3306

    # 設定編碼,這里我們是gbk編碼,如果是utf-8,可以設置:
    # sql_query_pre           = SET NAMES utf8
   sql_query_pre           = SET NAMES gbk

   # 數據檢索增量
    sql_range_step = 1000

    #當前最新文檔id數
    sql_query_pre = REPLACE INTO dede_sphinx SELECT 1, MAX(id) FROM dede_archives

    #檢索條件
    sql_query               = SELECT ARC.id,ARC.typeid,ARC.typeid2,ARC.sortrank,ARC.flag,ARC.channel,ARC.ismake,ARC.arcrank,ARC.click,ARC.title,ARC.shorttitle,ARC.color,ARC.writer,ARC.source,ARC.litpic,ARC.pubdate,ARC.senddate,ARC.mtype,ARC.description,ARC.badpost,ARC.goodpost,ARC.scores,ARC.lastpost,ARC.keywords,ARC.mid,ART.body FROM dede_archives AS ARC LEFT JOIN dede_addonarticle AS ART ON ARC.id = ART.aid WHERE ARC.id>=$start AND ARC.id<=$end #sql_query第一列id需為整數
    #title、body作為字符串/文本字段，被全文索引

    # 獲取當前最大檢索id
    sql_query_range = SELECT 1,maxaid FROM dede_sphinx WHERE countid=1


   sql_attr_uint           = typeid           #從SQL讀取到的值必須為整數
    sql_attr_uint            = typeid2
    sql_attr_uint            = channel
    sql_attr_uint            = click
    sql_attr_uint            = badpost
    sql_attr_uint            = goodpost
    sql_attr_uint            = scores
    sql_attr_uint            = mid
    sql_attr_timestamp = pubdate    #從SQL讀取到的值必須為整數，作為時間屬性
    sql_attr_timestamp = senddate
    sql_attr_timestamp = lastpost

    #命令行查詢時，從數據庫讀取原始數據信息
   sql_query_info           = SELECT ARC.*,ART.body FROM dede_archives AS ARC LEFT JOIN dede_addonarticle AS ART ON ARC.id = ART.aid WHERE ARC.id=$id
}

source delta
{
   type                   = mysql

    # 數據庫服務器基本配置信息
    sql_host                = 192.168.0.103
    sql_user                = dedev57
    sql_pass                = dedecms
    sql_db                  = dedecmsv57gbk
    sql_port                = 3306
   sql_query_pre           = SET NAMES gbk

    # 增量索引,從最大id開始
    sql_query = SELECT ARC.id,ARC.typeid,ARC.typeid2,ARC.sortrank,ARC.flag,ARC.channel,ARC.ismake,ARC.arcrank,ARC.click,ARC.title,ARC.shorttitle,ARC.color,ARC.writer,ARC.source,ARC.litpic,ARC.pubdate,ARC.senddate,ARC.mtype,ARC.description,ARC.badpost,ARC.goodpost,ARC.scores,ARC.lastpost,ARC.keywords,ARC.mid,ART.body FROM dede_archives AS ARC LEFT JOIN dede_addonarticle AS ART ON ARC.id = ART.aid WHERE ARC.id > ( SELECT maxaid FROM dede_sphinx WHERE countid=1 )
    #從SQL讀取到的值必須為整數

    sql_query_post = REPLACE INTO dede_sphinx SELECT 1, MAX(id) FROM dede_archives

   sql_attr_uint           = typeid
    sql_attr_uint            = typeid2
    sql_attr_uint            = channel
    sql_attr_uint            = click
    sql_attr_uint            = badpost
    sql_attr_uint            = goodpost
    sql_attr_uint            = scores
    sql_attr_uint            = mid
    sql_attr_timestamp = pubdate    #從SQL讀取到的值必須為整數，作為時間屬性
    sql_attr_timestamp = senddate
    sql_attr_timestamp = lastpost

    #命令行查詢時，從數據庫讀取原始數據信息
   sql_query_info           = SELECT ARC.*,ART.body FROM dede_archives AS ARC LEFT JOIN dede_addonarticle AS ART ON ARC.id = ART.aid WHERE ARC.id=$id
}

#index定義
index mysql
{
   source           = mysql             #對應的source名稱
   path           = D:/coreseek-3.2.13-win32/var/data/mysql
   docinfo           = extern
   mlock           = 0
   morphology       = none
   min_word_len       = 1
   html_strip               = 0
   #charset_dictpath = /usr/local/mmseg3/etc/   #BSD、Linux環境下設置，/符號結尾
   charset_dictpath = D:/coreseek-3.2.13-win32/etc/                       #Windows環境下設置，/符號結尾
   charset_type       = zh_cn.gbk
}

index delta : mysql
{
    min_word_len       = 1
    source = delta
   path           = D:/coreseek-3.2.13-win32/var/data/delta.new
}

#全局index定義
indexer
{
   mem_limit           = 128M
}

#searchd服務定義
searchd
{
    listen                  =   9312
   read_timeout       = 5
   max_children       = 30
   max_matches           = 1000
   seamless_rotate       = 0
   preopen_indexes       = 0
   unlink_old           = 1
   pid_file = D:/coreseek-3.2.13-win32/var/log/searchd_mysql.pid
   log = D:/coreseek-3.2.13-win32/var/log/searchd_mysql.log
   query_log = D:/coreseek-3.2.13-win32/var/log/query_mysql.log
}

-------------------------------------------------------------------------------------------------------

1.3.建立索引
配置完成后,我們要先建立索引,在開始菜單中打開[運行],輸入"cmd",確認后打開命令行.輸入下列代碼:

d:&cd D:/coreseek-3.2.13-win32/bin

先切換到sphinx的bin目錄,然后再執行:

indexer.exe -c D:/coreseek-3.2.13-win32/etc/csft_dedecmsv57.conf mysql --rotate

這個時候sphinx開始構建索引,如果數據量比較大,這個時間可能比較長,需要耐心等待(如圖1).

然后再創建下增量索引,使用下列命令:
indexer.exe -c D:/coreseek-3.2.13-win32/etc/csft_dedecmsv57.conf delta --rotate

1.4.測試檢索是否正常
建立完索引之后我們來檢測下是否能夠正常搜索到匹配內容,可以繼續在cmd中輸入下列命令:

search.exe -c D:/coreseek-3.2.13-win32/etc/csft_dedecmsv57.conf dedecms

如果能夠正常返回數據(如圖2),則說明已經成功建立索引.

2.結合DedeCMS程序使用sphinx
2.1.開啟sphinx服務
在上面的步驟中我們已經成功生成了索引,接下來為了能夠使用客戶端調用則需要開啟sphinx服務.
可以直接在cmd中執行:
searchd.exe -c D:/coreseek-3.2.13-win32/etc/csft_dedecmsv57.conf
這樣我們就開啟了sphinx服務(如圖3),我們可以寫一個簡單的例子進行測試:

sphinx_test.php
--------------------------------------------------------------------------------------------------------
<?php
set_time_limit(0);
require_once (dirname(__FILE__) . "/include/common.inc.php");
$sphinx = new SphinxClient;

$mode = SPH_MATCH_ANY;            //匹配模式
$host = "localhost";            //服務ip
$port = 9312;    //服務端口

$sphinx->SetServer($host, $port);
$sphinx->SetArrayResult(true);
$sphinx->SetMatchMode($mode);

$res = $sphinx->Query('織夢內容管理系統');

//var_dump($sphinx);
//var_dump($res);
$total = count($res['matches']);
for($i=0; $i < $total; $i++)
{
    var_dump($res['matches'][$i]);
}

-----------------------------------------------------------------------------------------------------
執行sphinx_test.php,可以看到已經能夠正常通信,并且返回了內容.

2.2.創建一個DedeSphinx服務
上面我們通過searchd.exe開啟了服務,但不好的是,我們關閉了cmd窗口就不能繼續訪問了,解決辦法如下:
同樣切換到bin目錄下,執行:

searchd.exe --install -c D:/coreseek-3.2.13-win32/etc/csft_dedecmsv57.conf --servicename DedeSphinx
這樣就在系統中成功創建了一個DedeSphinx服務,無需再打開窗口(如圖5).

3.更新與維護
對于全文檢索的索引,我們是需要不定期生成的,如果是數據量比較小,直接使用上述生成索引的命令重建就可以,如果數據量比較大,我們則需要定義的更新全文索引.

如果內容更新比較頻繁,下列的命令需要每分鐘被執行一次(可以創建一個腳本,使用windows計劃任務定期執行)

生成增量索引:

indexer.exe -c D:/coreseek-3.2.13-win32/etc/csft_dedecmsv57.conf delta --rotate

當然每一天都需要將增量索引合并到主索引mysql中去,需要執行:

indexer.exe -c D:/coreseek-3.2.13-win32/etc/csft_dedecmsv57.conf --merge mysql delta --rotate

上一篇：屎上最全織夢全站偽靜態規則.。。

下一篇：DedeCMS V5.7 memcache配置說明