PHP的curl()在抓取網(wǎng)頁的效率方面是比較高的,而且支持多線程,而file_get_contents()效率就要稍低些,當(dāng)然,使用curl時(shí)需要開啟下curl擴(kuò)展.
先來看登錄部分的代碼:
- //模擬登錄
- function login_post($url, $cookie, $post) {
- $curl = curl_init();//初始化curl模塊
- curl_setopt($curl, CURLOPT_URL, $url);//登錄提交的地址
- curl_setopt($curl, CURLOPT_HEADER, 0);//是否顯示頭信息
- curl_setopt($curl, CURLOPT_RETURNTRANSFER, 0);//是否自動(dòng)顯示返回的信息
- curl_setopt($curl, CURLOPT_COOKIEJAR, $cookie); //設(shè)置Cookie信息保存在指定的文件中
- curl_setopt($curl, CURLOPT_POST, 1);//post方式提交
- curl_setopt($curl, CURLOPT_POSTFIELDS, http_build_query($post));//要提交的信息
- curl_exec($curl);//執(zhí)行cURL
- curl_close($curl);//關(guān)閉cURL資源,并且釋放系統(tǒng)資源
- }
函數(shù)login_post()首先初始化curl_init(),然后使用curl_setopt()設(shè)置相關(guān)選項(xiàng)信息,包括要提交的url地址,保存的cookie文件,post的數(shù)據(jù)(用戶名和密碼等信息),是否返回信息等等,然后curl_exec執(zhí)行curl,最后curl_close()釋放資源,注意PHP自帶的http_build_query()可以將數(shù)組轉(zhuǎn)換成相連接的字符串.
接下來如果登錄成功后,我們要獲取登錄成功后的頁面信息,代碼如下:
- //登錄成功后獲取數(shù)據(jù)
- function get_content($url, $cookie) {
- $ch = curl_init();
- curl_setopt($ch, CURLOPT_URL, $url);
- curl_setopt($ch, CURLOPT_HEADER, 0);
- curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
- curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie); //讀取cookie
- $rs = curl_exec($ch); //執(zhí)行cURL抓取頁面內(nèi)容
- curl_close($ch);
- return $rs;
- }
函數(shù)get_content()中也是先初始化curl,然后設(shè)置相關(guān)選項(xiàng),執(zhí)行curl,釋放資源,其中我們?cè)O(shè)置CURLOPT_RETURNTRANSFER為1即自動(dòng)返回信息,而CURLOPT_COOKIEFILE可以讀取到登錄時(shí)保存的cookie信息,最后將頁面內(nèi)容返回.
我們的最終目的是要獲取到模擬登錄后的信息,也就是只有正常登錄成功后才能獲取的有用信息,接下來我們以登錄開源中國(guó)的移動(dòng)版為例,看看如何抓取到登錄成功后的信息.
- //設(shè)置post的數(shù)據(jù)
- $post = array (
- 'email' => 'oschina賬戶',
- 'pwd' => 'oschina密碼',
- 'goto_page' => '/my',
- 'error_page' => '/login',
- 'save_login' => '1',
- 'submit' => '現(xiàn)在登錄'
- );
- //登錄地址
- $url = http://m.survivalescaperooms.com;
- //設(shè)置cookie保存路徑
- $cookie = dirname(__FILE__) . '/cookie_oschina.txt';
- //登錄后要獲取信息的地址
- $url2 = "http://m.oschina.net/my";
- //模擬登錄
- login_post($url, $cookie, $post);
- //獲取登錄頁的信息
- $content = get_content($url2, $cookie);
- //刪除cookie文件
- @ unlink($cookie);
- //匹配頁面信息
- $preg = "/<td class='portrait'>(.*)</td>/i";
- preg_match_all($preg, $content, $arr);
- $str = $arr[1][0];
- //輸出內(nèi)容
- echo $str;
運(yùn)行上述代碼后,我們會(huì)看到最終獲取到登錄用戶的頭像圖片.
使用總結(jié):1、初始化curl;2、使用curl_setopt設(shè)置目標(biāo)url,和其他選項(xiàng);3、curl_exec,執(zhí)行curl;4、執(zhí)行后,關(guān)閉curl;5、輸出數(shù)據(jù).
新聞熱點(diǎn)
疑難解答