搜索引擎技術(shù)核心揭密(PHP版)
2024-05-04 22:53:41
供稿：網(wǎng)友
談到網(wǎng)頁搜索引擎時(shí)，大多數(shù)人都會想到雅虎。的確，雅虎開創(chuàng)了一個(gè)互聯(lián)網(wǎng)絡(luò)的搜索時(shí)代。然而，雅虎目前用于搜索網(wǎng)頁的技術(shù)卻并非該公司原先自己開發(fā)的。2000年8月，雅虎采用了google（www.google.com）這家由斯坦福大學(xué)學(xué)生創(chuàng)建的風(fēng)險(xiǎn)公司的技術(shù)。理由非常簡單，google的搜索引擎比雅虎先前使用的技術(shù)能更快、更準(zhǔn)確搜索到所需要的信息。
讓我們自己來設(shè)計(jì)、開發(fā)一個(gè)強(qiáng)勁、高效的搜索引擎和數(shù)據(jù)庫恐怕短時(shí)間內(nèi)在技術(shù)、資金等方面是不可能的，不過，既然雅虎都在使用別人的技術(shù)，那么我們是不是也可以使用別人現(xiàn)成的搜索引擎網(wǎng)站呢？
剖析編程思路
我們可以這樣設(shè)想：模擬一個(gè)查詢，向某個(gè)搜索引擎網(wǎng)站發(fā)出相應(yīng)格式的搜索命令，然后傳回搜索結(jié)果，對結(jié)果的html代碼進(jìn)行分析，剝離多余的字符和代碼，最后按所需要的格式顯示在我們自己的網(wǎng)站頁面里。
這樣，問題的關(guān)鍵就在于，我們要選定一個(gè)搜索信息準(zhǔn)確（這樣我們的搜索才會更有意義啊）、速度快（因?yàn)槲覀兎治鏊阉鹘Y(jié)果并顯示需要額外的時(shí)間），搜索結(jié)果簡潔（便于進(jìn)行html源代碼分析和剝離）的搜索網(wǎng)站，由于新一代搜索引擎google的各種優(yōu)良特性，這里我們選擇它為例，來看看用php怎樣實(shí)現(xiàn)后臺對google(www.google.com)搜索、前臺個(gè)性化顯示這一過程。
我們先來看看google的查詢命令的構(gòu)成。進(jìn)入www.google.com網(wǎng)站，在查詢欄中輸入“abcd”，點(diǎn)擊查詢按鈕，我們可以發(fā)現(xiàn)瀏覽器的地址欄變成："http://www.google.com/search?q=abcd&btng=google%cb%d1%cb%f7&hl=zh-cn&lr="，可見，google是通過表單的get方式來傳遞查詢參數(shù)并遞交查詢命令的。我們可以使用php中的file()函數(shù)來模擬這個(gè)查詢過程。
了解file（）函數(shù)
語法: array file(string filename);
返回值為數(shù)組，將文件全部讀入數(shù)組變量中。這里的文件可以是本地的，也可以是遠(yuǎn)程的，遠(yuǎn)程文件必須指明所使用的協(xié)議。例如： result=file(“http://www.google.com/search?q=a ... mp;hl=zh-cn&lr=”)，該語句將模擬我們在google上查詢單詞“abcd”的過程，并將搜索結(jié)果以每行為元素，傳回到數(shù)組變量 result中。因?yàn)檫@里讀取的文件是遠(yuǎn)程的，所以協(xié)議名“http://”不能缺少。
如果要讓用戶輸入搜索字符進(jìn)行任意搜索，我們可以做一個(gè)輸入文本框和提交按鈕，并將上文中的被搜索字符“abcd”用變量替換：
echo '
'; file://沒有參數(shù)的form，默認(rèn)提交方式為get，提交到本身
echo ''; file://構(gòu)造一個(gè)文本輸入框
echo ''; file://構(gòu)造一個(gè)提交查詢按鈕
echo '
';
if (isset( keywords)) file://提交后php會生成變量 kwywords,即要求下面的程序在提交后運(yùn)行
{
urlencode( keywords); file://對用戶輸入內(nèi)容進(jìn)行url編碼
result=file("http://www.google.com/search?q=". keywords."&btng=google%cb%d1%cb%f7&hl=zh-cn&lr=");
file://對查詢語句進(jìn)行變量替換,將查詢結(jié)果保存在數(shù)組變量 result中
result_string=join(" ", result); file://將數(shù)組$result合并成字符串，各數(shù)組元素之間用空格粘和
... file://進(jìn)一步處理
}
?＞
上面的這段程序已經(jīng)能按用戶輸入內(nèi)容進(jìn)行查詢，并將返回的結(jié)果合成一個(gè)字符串變量$result_string。請注意要使用urlencode()函數(shù)將用戶輸入內(nèi)容進(jìn)行url編碼，才可以正常地對輸入的漢字、空格以及其他特殊字符進(jìn)行查詢，這樣做也是盡可能逼真地模擬google的查詢命令，保證搜索結(jié)果的正確性。
對google的分析
為了便于理解，現(xiàn)在假設(shè)我們所真正需要的東西是：搜索結(jié)果的標(biāo)題。網(wǎng)址和簡介等，這是一個(gè)簡潔而典型的需求。這樣，我們所要做的便是：去除google搜索結(jié)果的臺頭和腳注，包括一個(gè)google的標(biāo)志、再次搜索的輸入框和搜索結(jié)果說明等，并且在剩余的搜索結(jié)果各項(xiàng)條目中剝離原來的html格式標(biāo)記，替換成我們想要的格式。
要做到這一點(diǎn)，我們必須仔細(xì)地分析google搜索結(jié)果的html源碼，找到其中的規(guī)律。不難發(fā)現(xiàn)，在google的搜索結(jié)果的正文總是包含在源碼的第一個(gè)
標(biāo)記和倒數(shù)第二個(gè)
標(biāo)記之間，并且倒數(shù)第二個(gè)
標(biāo)記后緊跟table字符，而且這個(gè)組合“
以下所有程序均依次接續(xù)在上文程序的“進(jìn)一步處理”處。
result_string = strstr( result_string, " ");
file://取 result_string從第一個(gè)開始后的字符串，以去除google臺頭
position= strpos( result_string," table符號的位置
result_string= substr( result_string,0, position);//截取第一個(gè)table符號之前的字符串,以去除腳注
應(yīng)用與實(shí)現(xiàn)
現(xiàn)在我們已經(jīng)得到有用的html源碼主干了，剩下的問題是如何自主地顯示這些內(nèi)容。我們再分析一下這些搜索結(jié)果條目，發(fā)現(xiàn)每個(gè)條目之間也是很有規(guī)律的用分隔，也就是各成一個(gè)段落，按這個(gè)特點(diǎn)我們用explode()函數(shù)把每個(gè)條目切開：
語法：explode(string separator, string string);
返回一個(gè)數(shù)組，按separator切開后的各個(gè)小字串被保存在數(shù)組中。
于是：
result_array=explode(" ", result_string); file://用字串" "把結(jié)果切開
我們就得到一個(gè)數(shù)組 result_array，其中每個(gè)元素都是一個(gè)搜索結(jié)果條目。我們所要做的僅僅是研究每個(gè)條目及其html顯示格式代碼，然后按要求替換就行了。下面用循環(huán)來處理 result_array中的每個(gè)條目。
for( i=0; i {
... file://處理每個(gè)條目
}
對于每個(gè)條目，我們也很容易找到一些特點(diǎn)：每個(gè)條目都由標(biāo)題、摘要、簡介、類別、網(wǎng)址等組成，每個(gè)部分都換行，即包含
標(biāo)記，于是再次分割：（以下處理程序放在上文的循環(huán)中）
every_item=explode(" ", result_array[ i]);
這樣我們得到一個(gè)數(shù)組 every_item，其中 every_item[0]就是標(biāo)題， every_item[1]和 every_item[2]兩行為摘要， every_item[3]和 every_item[4]等等的頭部如果包含“簡介:”、“＜ font size=-1 color=#6f6f6f＞類別:＜ /font＞”字符，則是簡介或類別（因?yàn)橛械慕Y(jié)果條目沒有該項(xiàng)），如果頭部包含“＜ font color=green＞”則肯定就是網(wǎng)址啦，這種對比判斷我們常使用正則表達(dá)式（略），如果要替換也很方便，比如包含標(biāo)題的$every_item[0]，其本身是有鏈接的，我們希望修改這個(gè)鏈接屬性，讓它在新窗口打開鏈接：
echo eregi_replace(' {
... file://處理每個(gè)條目中除去第一項(xiàng)（第一項(xiàng)為標(biāo)題，已經(jīng)顯示）的每一項(xiàng)
... file://更多格式修改
}
這樣就修改了鏈接屬性，其余很多顯示格式的修改、剝離、替換都能用正則替換eregi_replace()來完成。
至此我們已經(jīng)得到了每個(gè)搜索條目的每一項(xiàng)，并能任意修改每項(xiàng)的格式，甚至可以給他套上漂亮的表格。然而一個(gè)好的程序應(yīng)該能適應(yīng)各種運(yùn)行環(huán)境的，這里也不例外，我們其實(shí)還只是討論了搜索結(jié)果的html剝離的一種框架方法，真正要做得完美，還要考慮很多內(nèi)容，比如要顯示一共搜索出多少結(jié)果，分成多少頁等等，甚至還可以刨除與google相關(guān)的那些“類別”、“簡介”等代碼，讓客戶根本看不到原始網(wǎng)站。不過這些內(nèi)容和要求我們都能通過分析html進(jìn)行剝離得到。現(xiàn)在大家完全能自己動手，做個(gè)極富個(gè)性化的搜索引擎啦。
