国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

Python使用Scrapy爬取妹子圖

2019-11-25 17:21:43
字體:
來源:轉載
供稿:網友

Python Scrapy爬蟲,聽說妹子圖挺火,我整站爬取了,上周一共搞了大概8000多張圖片。和大家分享一下。

核心爬蟲代碼

# -*- coding: utf-8 -*-from scrapy.selector import Selectorimport scrapyfrom scrapy.contrib.loader import ItemLoader, Identityfrom fun.items import MeizituItem  class MeizituSpider(scrapy.Spider):  name = "meizitu"  allowed_domains = ["meizitu.com"]  start_urls = (    'http://www.meizitu.com/',  )   def parse(self, response):    sel = Selector(response)    for link in sel.xpath('//h2/a/@href').extract():      request = scrapy.Request(link, callback=self.parse_item)      yield request     pages = sel.xpath("http://div[@class='navigation']/div[@id='wp_page_numbers']/ul/li/a/@href").extract()    print('pages: %s' % pages)    if len(pages) > 2:      page_link = pages[-2]      page_link = page_link.replace('/a/', '')        request = scrapy.Request('http://www.meizitu.com/a/%s' % page_link, callback=self.parse)      yield request   def parse_item(self, response):    l = ItemLoader(item=MeizituItem(), response=response)    l.add_xpath('name', '//h2/a/text()')    l.add_xpath('tags', "http://div[@id='maincontent']/div[@class='postmeta clearfix']/div[@class='metaRight']/p")    l.add_xpath('image_urls', "http://div[@id='picture']/p/img/@src", Identity())     l.add_value('url', response.url)    return l.load_item()

項目地址:https://github.com/ZhangBohan/fun_crawler

以上所述就是本文的全部內容了,希望大家能夠喜歡。

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 鄂伦春自治旗| 清苑县| 东安县| 阳高县| 修水县| 齐河县| 读书| 茶陵县| 凌云县| 兴文县| 城口县| 庄浪县| 广宗县| 米脂县| 革吉县| 揭阳市| 阆中市| 长治市| 五莲县| 松潘县| 西城区| 松滋市| 遂川县| 祁连县| 哈尔滨市| 饶河县| 中方县| 东乌| 新巴尔虎右旗| 南阳市| 连平县| 清镇市| 温泉县| 邢台县| 固原市| 郸城县| 辽宁省| 蕉岭县| 长海县| 保靖县| 景泰县|