国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 學院 > 開發設計 > 正文

采集天貓新百倫旗艦店商品數據

2019-11-15 01:54:36
字體:
來源:轉載
供稿:網友
采集天貓新百倫旗艦店商品數據

1. 下載火蜘蛛采集器

火蜘蛛采集器下載地址:

http://firespider.duapp.com/FireSpiderWeb/index.html

2.安裝

火蜘蛛采集器包含了一個客戶端和一個服務端安裝包。安裝非常方便,一路下一步就可以安裝完成。具體安裝步驟可以參考它提供的安裝手冊。

3.啟動

啟動服務端:在桌面有個快捷方式“Fire Spider Server Startup”,右鍵-》以管理員身份運行。

啟動客戶端:雙擊桌面快捷方式“FireSpider”

4.試用

安裝之后默認已經包含了幾個采集任務了。打開客戶端,如下圖所示,選中一個任務后點擊“執行采集”。

可以看到采集開始執行了。

如果需要停止采集,選中采集任務,點擊“執行采集”按鈕旁邊的“退出”。

5.建立新百倫任務

安裝之后默認已經包含了一個采集駱駝天貓店的任務——“駱駝-列表頁”。我們只要參考這個,建一個自己的任務就可以了。比如我要采集 “新百倫旗艦店”,在天貓搜索“新百倫”進入新百倫天貓店,找到新百倫的列表頁,鏈接是這樣的:

http://newbalance.tmall.com/search.htm?spm=a220m.1000858.1000725.4.vvTbdj&rn=bda5ce8edbc3307bf802e68880861de3&user_number_id=520557274

接下來建一個采集新百倫的任務

在瀏覽器輸出http://localhost:8090/FireSpider/html/index.html 打開管理中心

新建一個任務,除了“任務名稱”,“鏈接”,“數據上傳鏈接”,其實都跟“駱駝-列表頁”一樣就行了。鏈接填寫剛才的新百倫列表頁的鏈接。

注意“數據上傳鏈接” 字段:這個是采集器在采集到數據的時候,會把數據往這個鏈接以POST方式推送。因為采集器并不知道我們拿采集到的數據有什么用,只好把數據交給我們自己處理。我們可以在本地開一個REST服務,apache, tomcat, iis什么的都可以。

這里“數據上傳鏈接” 我們填寫 “http://localhost/myphp/index.php”,這里我們用的是PHP。待會會講一個這個PHP腳本。

如果只是體驗一下采集,“數據上傳鏈接”也可以留空。

點擊保存

6. 搭建WAMP

如果你不需要自己處理采集到的數據,這一步并不是必須的。這里講的是PHP自定義采集數據處理,其它語言也可以略過。

6.1 安裝wamp

這個無需多言,也是一直下一步就可以了。

6.2 建立Alias

輸入alias名稱

輸入alias對應的目錄

6.3 index.php腳本

[php]view plaincopy
  1. <?php
  2. //注意PHP文件要保存為UTF-8無BOM格式
  3. //取得POST過來的數據
  4. //因為firespiderpost時沒有設置contenttype,所以要用這種方式取post數據,不能用$_POST
  5. $content=file_get_contents("php://input");
  6. //JSON解碼
  7. $p=json_decode($content);
  8. //后面可以寫你自己的邏輯。這里只是保存到一個文件中
  9. $james=fopen("e:/test/json-".$p->urlId.".txt","w");
  10. if(!$james){
  11. echo'filenotexist';
  12. exit;
  13. }
  14. fwrite($james,$content);
  15. fclose($james);

7. 采集新百倫

任務建立后就可以開始采集了。打開采集器客戶端,在任務標簽頁,選中我們剛才新建的“新百倫”,點擊“執行采集”

采集開始后,我們就可以在e:/test/ 下的josn-xxx.txt看到采集到的數據啦。


上一篇:Quick Sort

下一篇:yii源碼分析1

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 绥棱县| 龙山县| 张家川| 康定县| 英山县| 日喀则市| 江阴市| 磴口县| 含山县| 南投市| 常熟市| 霍州市| 万州区| 兴仁县| 富蕴县| 田阳县| 田东县| 西青区| 凤庆县| 铜山县| 灌阳县| 兴义市| 涿鹿县| 抚州市| 南澳县| 武安市| 邢台市| 南昌县| 永平县| 双流县| 武鸣县| 封开县| 乐昌市| 大洼县| 遂溪县| 云林县| 临汾市| 南靖县| 喜德县| 财经| 永清县|