php語言本身不支持多線程,所以開發爬蟲程序效率并不高,借助Curl Multi 它可以實現并發多線程的訪問多個url地址。用 Curl Multi 多線程下載文件代碼:
代碼1:將獲得的代碼直接寫入某個文件
- <?php
- $urls =array(
- 'http://m.survivalescaperooms.com/',
- 'http://www.baidu.com/',
- );// 設置要抓取的頁面URL
- $save_to='test.txt'; // 把抓取的代碼寫入該文件
- $st =fopen($save_to,"a");
- $mh = curl_multi_init();
- foreach ($urls as $i =>$url) {
- $conn[$i] = curl_init($url);
- curl_setopt($conn[$i], CURLOPT_USERAGENT,"Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0)");
- curl_setopt($conn[$i], CURLOPT_HEADER ,0);
- curl_setopt($conn[$i], CURLOPT_CONNECTTIMEOUT,60);
- curl_setopt($conn[$i], CURLOPT_FILE,$st);// 設置將爬取的代碼寫入文件
- curl_multi_add_handle ($mh,$conn[$i]);
- }// 初始化
- do {
- curl_multi_exec($mh,$active);
- }while ($active); // 執行
- foreach ($urls as $i =>$url) {
- curl_multi_remove_handle($mh,$conn[$i]);
- curl_close($conn[$i]);
- }// 結束清理
- curl_multi_close($mh);
- fclose($st);
- ?>
代碼2:將獲得的代碼先放入變量,再寫入某個文件
- <?php
- $urls =array(
- 'http://m.Vevb.com/',
- 'http://m.survivalescaperooms.com/',
- 'http://www.163.com/'
- );
- $save_to='/test.txt'; // 把抓取的代碼寫入該文件
- $st =fopen($save_to,"a");
- $mh = curl_multi_init();
- foreach ($urls as $i =>$url) {
- $conn[$i] = curl_init($url);
- curl_setopt($conn[$i], CURLOPT_USERAGENT,"Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0)");
- curl_setopt($conn[$i], CURLOPT_HEADER ,0);
- curl_setopt($conn[$i], CURLOPT_CONNECTTIMEOUT,60);
- curl_setopt($conn[$i],CURLOPT_RETURNTRANSFER,true); // 設置不將爬取代碼寫到瀏覽器,而是轉化為字符串
- curl_multi_add_handle ($mh,$conn[$i]);
- }
- do {
- curl_multi_exec($mh,$active);
- }while ($active);
- foreach ($urls as $i =>$url) {
- $data = curl_multi_getcontent($conn[$i]);// 獲得爬取的代碼字符串
- fwrite($st,$data); // 將字符串寫入文件。當然,也可以不寫入文件,比如存入數據庫
- }// 獲得數據變量,并寫入文件
- foreach ($urls as $i =>$url) {
- curl_multi_remove_handle($mh,$conn[$i]);
- curl_close($conn[$i]);
- }
- curl_multi_close($mh);
- fclose($st);
- ?>
curl抓取網頁中文亂碼的解決方法
function ppost($url,$data,$ref){ // 模擬提交數據函數
$curl = curl_init(); // 啟動一個CURL會話
curl_setopt($curl, CURLOPT_URL, $url); // 要訪問的地址
curl_setopt($curl, CURLOPT_SSL_VERIFYPEER, 0); // 對認證證書來源的檢查
curl_setopt($curl, CURLOPT_SSL_VERIFYHOST, 1); // 從證書中檢查SSL加密算法是否存在
curl_setopt($curl, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']); // 模擬用戶使用的瀏覽器
curl_setopt($curl, CURLOPT_FOLLOWLOCATION, 1); // 使用自動跳轉
curl_setopt($curl, CURLOPT_REFERER, $ref);
curl_setopt($curl, CURLOPT_POST, 1); // 發送一個常規的Post請求
curl_setopt($curl, CURLOPT_POSTFIELDS, $data); // Post提交的數據包
curl_setopt($curl, CURLOPT_COOKIEFILE,$GLOBALS ['cookie_file']); // 讀取上面所儲存的Cookie信息
curl_setopt($curl, CURLOPT_COOKIEJAR, $GLOBALS['cookie_file']); // 存放Cookie信息的文件名稱
curl_setopt($curl, CURLOPT_HTTPHEADER,array('Accept-Encoding: gzip, deflate'));
curl_setopt($curl, CURLOPT_ENCODING, 'gzip,deflate');這個是解釋gzip內容.................
curl_setopt($curl, CURLOPT_TIMEOUT, 30); // 設置超時限制防止死循環
curl_setopt($curl, CURLOPT_HEADER, 0); // 顯示返回的Header區域內容
curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1); // 獲取的信息以文件流的形式返回
$tmpInfo = curl_exec($curl); // 執行操作
新聞熱點
疑難解答