国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

對python使用http、https代理的實例講解

2020-01-04 15:10:29
字體:
來源:轉載
供稿:網友

在國內利用Python從Internet上爬取數據時,有些網站或API接口被限速或屏蔽,這時使用代理可以加速爬取過程,減少請求失敗,Python程序使用代理的方法主要有以下幾種:

(1)如果是在代碼中使用一些網絡庫或爬蟲框架進行數據爬取,一般這種框架都會支持設置代理,例如:

<span style="font-size:14px;">import urllib.request as urlreq # 設置https代理 ph = urlreq.ProxyHandler({'https': 'https://127.0.0.1:1080'}) oper = urlreq.build_opener(ph) # 將代理安裝到全局環境,這樣所有請求都會自動使用代理 urlreq.install_opener(oper) res = oper.open("https://www.google.com") print(res.read())</span> 
<span style="font-size:14px;">import requests as req print(req.get("https://www.google.com", proxies={'https': 'https://127.0.0.1:1080'}).content)</span> 

(2)如果使用的庫沒有提供設置代理的接口,但是底層使用了urllib、requests等庫,可以嘗試設置HTTP_PROXY 和HTTPS_PROXY環境變量,常用的網絡庫會自動識別這些環境變量,使用變量設置的代理發起請求,設置如下:

import os os.environ['http_proxy'] = 'http://127.0.0.1:1080' os.environ['https_proxy'] = 'https://127.0.0.1:1080' 

(3)如果上述兩種方法都沒有用,那么還可以使用一些可以監聽、攔截和修改網絡包的工具和庫如(Fiddler、mitmproxy)來攔截http請求包并修改地址,達到使用代理的效果。

以上這篇對python使用http、https代理的實例講解就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持VEVB武林網。


注:相關教程知識閱讀請移步到python教程頻道。
發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 措勤县| 旬邑县| 綦江县| 黄平县| 崇州市| 镶黄旗| 隆昌县| 施秉县| 渭源县| 太原市| 黎城县| 阿图什市| 沙雅县| 永定县| 阿图什市| 方山县| 玛纳斯县| 武夷山市| 当雄县| 桦甸市| 贺州市| 枣强县| 双辽市| 梁平县| 博乐市| 扎赉特旗| 莱阳市| 偃师市| 东海县| 彩票| 连平县| 沾化县| 尼勒克县| 安岳县| 宁蒗| 德化县| 都昌县| 定结县| 夹江县| 牡丹江市| 德州市|