国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

python爬蟲之urllib3的使用示例

2020-02-15 22:16:09
字體:
供稿:網(wǎng)友

Urllib3是一個功能強大,條理清晰,用于HTTP客戶端的Python庫。許多Python的原生系統(tǒng)已經(jīng)開始使用urllib3。Urllib3提供了很多python標準庫urllib里所沒有的重要特性:

    線程安全 連接池 客戶端SSL/TLS驗證 文件分部編碼上傳 協(xié)助處理重復(fù)請求和HTTP重定位 支持壓縮編碼 支持HTTP和SOCKS代理

一、get請求

urllib3主要使用連接池進行網(wǎng)絡(luò)請求的訪問,所以訪問之前我們需要創(chuàng)建一個連接池對象,如下所示:

import urllib3url = "http://httpbin.org"http = urllib3.PoolManager();r = http.request('GET',url+"/get")print(r.data.decode())print(r.status)帶參數(shù)的getr = http.request('get','http://www.baidu.com/s',fields={'wd':'周杰倫'})print(r.data.decode())

經(jīng)查看源碼:

def request(self, method, url, fields=None, headers=None, **urlopen_kw):
第一個參數(shù)method 必選,指定是什么請求,'get'、'GET'、'POST'、'post'、'PUT'、'DELETE'等,不區(qū)分大小寫。 第二個參數(shù)url,必選 第三個參數(shù)fields,請求的參數(shù),可選 第四個參數(shù)headers 可選

request請求的返回值是<urllib3.response.HTTPResponse object at 0x000001B3879440B8>

我們可以通過dir()查看其所有的屬性和方法。

dir(r)

直截取了一部分

#'data', 'decode_content', 'enforce_content_length', 'fileno', 'flush', 'from_httplib',# 'get_redirect_location', 'getheader', 'getheaders', 'headers', 'info', 'isatty',# 'length_remaining', 'read', 'read_chunked', 'readable', 'readinto', 'readline',# 'readlines', 'reason', 'release_conn', 'retries', 'seek', 'seekable', 'status',# 'stream', 'strict', 'supports_chunked_reads', 'tell', 'truncate', 'version', 'writable',# 'writelines']

二、post請求

import urllib3url = "http://httpbin.org"fields = {  'name':'xfy'}http = urllib3.PoolManager()r = http.request('post',url+"/post",fields=fields)print(r.data.decode())

可以看到很簡單,只是第一個參數(shù)get換成了post。

并且參數(shù)不需要再像urllib一樣轉(zhuǎn)換成byte型了。

三、設(shè)置headers

import urllib3headers = {   'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.113 Safari/537.36'}http = urllib3.PoolManager();r = http.request('get',url+"/get",headers = headers)print(r.data.decode())

四、設(shè)置代理

import urllib3url = "http://httpbin.org"headers = {   'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.113 Safari/537.36'}proxy = urllib3.ProxyManager('http://101.236.19.165:8866',headers = headers)r = proxy.request('get',url+"/ip")print(r.data.decode())

五、當(dāng)請求的參數(shù)為json

發(fā)表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發(fā)表
主站蜘蛛池模板: 明溪县| 金坛市| 天水市| 大连市| 射洪县| 株洲县| 黔南| 凤凰县| 印江| 简阳市| 布拖县| 彝良县| 黄平县| 博罗县| 加查县| 来安县| 清新县| 龙游县| 泊头市| 昌宁县| 抚宁县| 凤山县| 清苑县| 商水县| 台南市| 台北县| 马公市| 高雄县| 灵山县| 增城市| 湖北省| 兴安盟| 铁岭县| 广元市| 海阳市| 三江| 稷山县| 东乡县| 麟游县| 会理县| 万宁市|