国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

python爬取NUS-WIDE數據庫圖片

2020-01-04 17:23:55
字體:
來源:轉載
供稿:網友

實驗室需要NUS-WIDE數據庫中的原圖,數據集的地址為http://lms.comp.nus.edu.sg/research/NUS-WIDE.htm   由于這個數據只給了每個圖片的URL,所以需要一個小爬蟲程序來爬取這些圖片。在圖片的下載過程中建議使用VPN。由于一些URL已經失效,所以會下載一些無效的圖片。

# PYTHON 2.7   Ubuntu 14.04nuswide = "$NUS-WIDE-urls_ROOT" #the location of your nus-wide-urls.txtimagepath = "$IMAGE_ROOT" # path of dataset you want to download inf = open(nuswide, 'r')url = f.readlines()import reimport urllibimport osreg = r"ImageData.+?jpg"location_re = re.compile(reg)reg = r"(ImageData.+?)/0"direction_re = re.compile(reg)reg = r"http.+?jpg"image_re = re.compile(reg)for i in url:  filename = re.findall(location_re, i)  direction = re.findall(direction_re, i)  image = re.findall(image_re, i)  if image:    path = imagepath+filename[0]    path_n = imagepath+direction[0]    print path_n    if os.path.exists(path_n):      urllib.urlretrieve(image[1], path)    else:      os.makedirs(path_n)      urllib.urlretrieve(image[1], path)

再給大家分享一個爬取百度貼吧圖片的小爬蟲(你懂得)

#coding=utf-8#urllib模塊提供了讀取Web頁面數據的接口import urllib#re模塊主要包含了正則表達式import re#定義一個getHtml()函數def getHtml(url):  page = urllib.urlopen(url) #urllib.urlopen()方法用于打開一個URL地址  html = page.read() #read()方法用于讀取URL上的數據  return htmldef getImg(html):  reg = r'src="(.+?/.jpg)" pic_ext'  #正則表達式,得到圖片地址  imgre = re.compile(reg)   #re.compile() 可以把正則表達式編譯成一個正則表達式對象.  imglist = re.findall(imgre,html)   #re.findall() 方法讀取html 中包含 imgre(正則表達式)的  數據  #把篩選的圖片地址通過for循環遍歷并保存到本地  #核心是urllib.urlretrieve()方法,直接將遠程數據下載到本地,圖片通過x依次遞增命名  x = 0  for imgurl in imglist:  urllib.urlretrieve(imgurl,'D:/E/%s.jpg' % x)      x+=1html = getHtml("http://tieba.baidu.com/p/xxxx")print getImg(html)

 

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 广水市| 巴林右旗| 桑日县| 从江县| 克山县| 辽阳县| 巧家县| 曲沃县| 长沙市| 卫辉市| 玉山县| 双牌县| 建宁县| 平阴县| 嘉义市| 吉林市| 新竹县| 太湖县| 中方县| 水城县| 浑源县| 江津市| 曲周县| 信阳市| 台江县| 东阿县| 商丘市| 桐乡市| 历史| 桐城市| 五河县| 博野县| 钟山县| 沂水县| 宿迁市| 大邑县| 永昌县| 城固县| 河池市| 浮梁县| 获嘉县|