国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

在Linux系統上安裝Python的Scrapy框架的教程

2020-02-23 01:34:59
字體:
來源:轉載
供稿:網友

這是一款提取網站數據的開源工具。Scrapy框架用Python開發而成,它使抓取工作又快又簡單,且可擴展。我們已經在virtual box中創建一臺虛擬機(VM)并且在上面安裝了Ubuntu 14.04 LTS。
安裝 Scrapy
Scrapy依賴于Python、開發庫和pip。Python最新的版本已經在Ubuntu上預裝了。因此我們在安裝Scrapy之前只需安裝pip和python開發庫就可以了。

pip是作為python包索引器easy_install的替代品,用于安裝和管理Python包。pip包的安裝可見圖 1。

  sudo apt-get install python-pip

201561193734623.png (530×109)

圖:1 pip安裝

我們必須要用下面的命令安裝python開發庫。如果包沒有安裝那么就會在安裝scrapy框架的時候報關于python.h頭文件的錯誤。

  sudo apt-get install python-dev

201561193801448.png (513×74)

    圖:2 Python 開發庫

scrapy框架既可從deb包安裝也可以從源碼安裝。在圖3中我們用pip(Python 包管理器)安裝了deb包了。

  sudo pip install scrapy 

201561193823875.png (507×126)

    圖:3 Scrapy 安裝

圖4中scrapy的成功安裝需要一些時間。

201561193846944.png (572×108)

圖:4 成功安裝Scrapy框架
使用scrapy框架提取數據
基礎教程

我們將用scrapy從fatwallet.com上提取商店名稱(賣卡的店)。首先,我們使用下面的命令新建一個scrapy項目“store name”, 見圖5。   

$sudo scrapy startproject store_name

    201561193909068.png (553×341)

    圖:5 Scrapy框架新建項目

上面的命令在當前路徑創建了一個“store_name”的目錄。項目主目錄下包含的文件/文件夾見圖6。

  

 $sudo ls –lR store_name

   201561193933392.png (488×336)

    圖:6 store_name項目的內容

每個文件/文件夾的概要如下:

    scrapy.cfg 是項目配置文件     store_name/ 主目錄下的另一個文件夾。 這個目錄包含了項目的python代碼     store_name/items.py 包含了將由蜘蛛爬取的項目     store_name/pipelines.py 是管道文件     store_name/settings.py 是項目的配置文件     store_name/spiders/, 包含了用于爬取的蜘蛛
發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 和田县| 都昌县| 祁阳县| 瑞昌市| 石棉县| 大理市| 罗定市| 长汀县| 惠安县| 临猗县| 临颍县| 中阳县| 开远市| 台湾省| 苏尼特左旗| 白山市| 芦溪县| 萝北县| 嘉兴市| 梨树县| 渝北区| 万源市| 白朗县| 云和县| 桦南县| 永胜县| 潞城市| 长汀县| 上饶市| 霍城县| 宁河县| 长海县| 浙江省| 宁乡县| 巫溪县| 崇明县| 平南县| 东乡族自治县| 稷山县| 泗阳县| 东港市|