国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 學院 > 開發設計 > 正文

一個簡單的Python爬蟲

2019-11-14 17:32:50
字體:
來源:轉載
供稿:網友

寫了一個抓taobao圖片的爬蟲,全是用if,for,while寫的,比較簡陋,入門作品。

從網頁http://mm.taobao.com/json/request_top_list.htm?type=0&page=中提取taobao模特的照片。
# -*- coding: cp936 -*-import urllib2import urllibmmurl="http://mm.taobao.com/json/request_top_list.htm?type=0&page="i=0#第二頁有個人的頁面沒圖片,會出現IO錯誤while i<15:        url=mmurl+str(i)        #PRint url #打印出列表的url        up=urllib2.urlopen(url)#打開頁面,存入句柄中        cont=up.read()        #print len(cont)#頁面的長度        ahref='<a href="http'#篩選頁面內網頁鏈接的關鍵字        target="target"        pa=cont.find(ahref)#找出網頁鏈接的頭部位置        pt=cont.find(target,pa)#找出網頁鏈接的尾部位置        for a in range(0,20):#如才能不把20硬編碼進去?如何找到文件結尾?                urlx=cont[pa+len(ahref)-4:pt-2]#從頭部到尾部,將網頁鏈接存入變量                if len(urlx) < 60:#如果網頁鏈接長度適合【len()!!!!】                    urla=urlx     #那么就準備將其打印出來                    print urla    #這是想要的model個人URL                    #########以下開始對model個人的URL進行操作#########                    mup=urllib2.urlopen(urla)#打開model個人的頁面,存入句柄中                    mcont=mup.read()#對model頁面的句柄進行讀出操作,存入mcont字符串                    imgh="<img style=" #篩選頁面內【圖片】鏈接的關鍵字                    imgt=".jpg"                    iph=mcont.find(imgh)#找出【圖片】鏈接的頭部位置                    ipt=mcont.find(imgt,iph)#找出【圖片】鏈接的尾部位置                    for b in range(0,10):#又是硬編碼····                            mpic=mcont[iph:ipt+len(imgt)]#原始圖片鏈接,鏈接字符的噪聲太大                            iph1=mpic.find("http")#對上面的鏈接再過濾一次                            ipt1=mpic.find(imgt)  #同上                            picx=mpic[iph1:ipt1+len(imgt)]                            if len(picx)<150:#仍有一些URL是“http:ss.png><dfsdf>.jpg”(設為100竟然會誤傷)                                    pica=picx #【是len(picx)<100而不是picx!!】不然會不顯示                                    print pica                                    ############################                                    ###########開始下載pica這個圖片                                    urllib.urlretrieve(pica,"pic//tb"+str(i)+"x"+str(a)+"x"+str(b)+".jpg")                                                                       ###########   pica圖片下載完畢.(加上各循環體的數字,以免名字重復)                                    ############################                                                        iph=mcont.find(imgh,iph+len(imgh))#開始下一個循環                            ipt=mcont.find(imgt,iph)                    ############model個人URL內的【圖片鏈接】提取完畢##########                                    pa=cont.find(ahref,pa+len(ahref))#將原來的頭部位作為起始點,繼續向后找下一個頭部                pt=cont.find(target,pa)#繼續找下一個尾部        i+=1

 


發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 旬邑县| 肇州县| 金沙县| 大兴区| 盐边县| 宁乡县| 石河子市| 宁津县| 大石桥市| 绥棱县| 无极县| 红安县| 于田县| 铁岭市| 昆山市| 舞阳县| 来宾市| 湾仔区| 沙坪坝区| 武功县| 佳木斯市| 呼和浩特市| 类乌齐县| 南部县| 扬州市| 安义县| 元氏县| 梨树县| 安化县| 周口市| 吉林省| 三河市| 大邑县| 沙洋县| 东源县| 安庆市| 股票| 云安县| 延安市| 顺平县| 盐津县|