給各位介紹一下Curl多線程實(shí)例與原理。不對(duì)之處請(qǐng)指教
相信許多人對(duì)php手冊(cè)中語(yǔ)焉不詳?shù)腸url_multi一族的函數(shù)頭疼不已,它們文檔少,給的例子 更是簡(jiǎn)單的讓你無(wú)從借鑒,我也曾經(jīng)找了許多網(wǎng)頁(yè),都沒(méi)見(jiàn)一個(gè)完整的應(yīng)用例子。
curl_multi_add_handle 
curl_multi_close 
curl_multi_exec 
curl_multi_getcontent 
curl_multi_info_read 
curl_multi_init 
curl_multi_remove_handle 
curl_multi_select 
一般來(lái)說(shuō),想到要用這些函數(shù)時(shí),目的顯然應(yīng)該是要同時(shí)請(qǐng)求多個(gè)url,而不是一個(gè)一個(gè)依次請(qǐng)求,否則不如自己循環(huán)去調(diào)curl_exec好了。
步驟總結(jié)如下:
第一步:調(diào)用curl_multi_init
第二步:循環(huán)調(diào)用curl_multi_add_handle
這一步需要注意的是,curl_multi_add_handle的第二個(gè)參數(shù)是由curl_init而來(lái)的子handle。
第三步:持續(xù)調(diào)用curl_multi_exec
第四步:根據(jù)需要循環(huán)調(diào)用curl_multi_getcontent獲取結(jié)果
第五步:調(diào)用curl_multi_remove_handle,并為每個(gè)字handle調(diào)用curl_close
第六步:調(diào)用curl_multi_close 
這里有PHP手冊(cè)上的例子:
復(fù)制代碼 代碼如下:
<?php 
// 創(chuàng)建一對(duì)cURL資源 
$ch1 = curl_init(); 
$ch2 = curl_init(); 
// 設(shè)置URL和相應(yīng)的選項(xiàng) 
curl_setopt($ch1, CURLOPT_URL, "http://m.survivalescaperooms.com/"); 
curl_setopt($ch1, CURLOPT_HEADER, 0); 
curl_setopt($ch2, CURLOPT_URL, "http://www.php.net/"); 
curl_setopt($ch2, CURLOPT_HEADER, 0); 
// 創(chuàng)建批處理cURL句柄 
$mh = curl_multi_init(); 
// 增加2個(gè)句柄 
curl_multi_add_handle($mh,$ch1); 
curl_multi_add_handle($mh,$ch2); 
$active = null; 
// 執(zhí)行批處理句柄 
do { 
    $mrc = curl_multi_exec($mh, $active); 
} while ($mrc == CURLM_CALL_MULTI_PERFORM); 
while ($active && $mrc == CURLM_OK) { 
    if (curl_multi_select($mh) != -1) { 
        do { 
            $mrc = curl_multi_exec($mh, $active); 
        } while ($mrc == CURLM_CALL_MULTI_PERFORM); 
    } 
} 
// 關(guān)閉全部句柄 
curl_multi_remove_handle($mh, $ch1); 
curl_multi_remove_handle($mh, $ch2); 
curl_multi_close($mh); 
?>
復(fù)制代碼 代碼如下:
do { 
                        $mrc = curl_multi_exec($mh,$active); 
                 } while ($mrc == CURLM_CALL_MULTI_PERFORM); 
                while ($active and $mrc == CURLM_OK) { 
                        if (curl_multi_select($mh) != -1) { 
                                do { 
                                        $mrc = curl_multi_exec($mh, $active); 
                                 } while ($mrc == CURLM_CALL_MULTI_PERFORM); 
                         } 
                 }
本類的特點(diǎn):
運(yùn)行非常穩(wěn)定。
設(shè)置一個(gè)并發(fā)就會(huì)始終以這個(gè)并發(fā)數(shù)進(jìn)行工作,即使通過(guò)回調(diào)函數(shù)添加任務(wù)也不影響。
CPU占用極低,絕大部分CPU消耗在用戶的回調(diào)函數(shù)上。
內(nèi)存利用率高,任務(wù)數(shù)量較多(15W個(gè)任務(wù)占用內(nèi)存會(huì)超過(guò)256M)可以使用回調(diào)函數(shù)添加任務(wù),個(gè)數(shù)自定。
能夠最大限度的占用帶寬。
鏈?zhǔn)饺蝿?wù),比如一個(gè)任務(wù)需要從多個(gè)不同的地址采集數(shù)據(jù),可以通過(guò)回調(diào)一氣呵成。
能夠?qū)URL錯(cuò)誤進(jìn)行多次嘗試,次數(shù)自定(大并發(fā)一開(kāi)始容易產(chǎn)生CURL錯(cuò)誤,網(wǎng)絡(luò)狀況或?qū)Ψ?a href='http://m.survivalescaperooms.com/fuwuqi/' target='_blank'>服務(wù)器穩(wěn)定性也有可能產(chǎn)生CURL錯(cuò)誤)。
回調(diào)函數(shù)相當(dāng)靈活,可以多種類型任務(wù)同時(shí)進(jìn)行(比如下載文件,抓取網(wǎng)頁(yè),分析404可以在一個(gè)PHP進(jìn)程中同時(shí)進(jìn)行)。
可以非常容易的定制任務(wù)類型,比如檢查404,獲取redirect的最后url等。
可以設(shè)置緩存,挑戰(zhàn)產(chǎn)品節(jié)操。
不足:
不能充分利用多核CPU(可以開(kāi)多個(gè)進(jìn)程解決,需要自己處理任務(wù)分割等邏輯)。
最大并發(fā)500(或512?),經(jīng)過(guò)測(cè)試是CURL 內(nèi)部限制,超過(guò)最大并發(fā)會(huì)導(dǎo)致總是返回失敗。
目前沒(méi)有斷點(diǎn)續(xù)傳功能。
目前任務(wù)是原子性的,不能對(duì)一個(gè)大文件分為幾部分分別開(kāi)線程下載。
新聞熱點(diǎn)
疑難解答