国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

對python抓取需要登錄網站數據的方法詳解

2020-01-04 15:01:55
字體:
來源:轉載
供稿:網友

scrapy.FormRequest

login.py

class LoginSpider(scrapy.Spider): name = 'login_spider' start_urls = ['http://www.login.com'] def parse(self, response):  return [   scrapy.FormRequest.from_response(     response,     # username和password要根據實際頁面的表單的name字段進行修改     formdata={'username': 'your_username', 'password': 'your_password'},     callback=self.after_login)] def after_login(self, response):  # 登錄后的代碼  pass

selenium登錄獲取cookie

get_cookie_by_selenium.py

import pickleimport timefrom selenium import webdriverdef get_cookies(): url = 'https://www.test.com' web_driver = webdriver.Chrome() web_driver.get(url) username = web_driver.find_element_by_id('login-email') username.send_keys('username') password = web_driver.find_element_by_id('login-password') password.send_keys('password') login_button = web_driver.find_element_by_id('login-submit') login_button.click() time.sleep(3) cookies = web_driver.get_cookies() web_driver.close() return cookiesif __name__ == '__main__': cookies = get_cookies() pickle.dump(cookies, open('cookies.pkl', 'wb'))

獲取瀏覽器cookie(以Ubuntu的Firefox為例)

get_cookie_by_firefox.py

import sqlite3import pickledef get_cookie_by_firefox(): cookie_path = '/home/name/.mozilla/firefox/bqtvfe08.default/cookies.sqlite' with sqlite3.connect(cookie_path) as conn:  sql = 'select name,value from moz_cookies where baseDomain="test.com"'  cur = conn.cursor()  cookies = [{'name': name, 'value': value} for name, value in cur.execute(sql).fetchall()]  return cookiesif __name__ == '__main__': cookies = get_cookie_from_firefox() pickle.dump(cookies, open('cookies.pkl', 'wb'))

scrapy使用獲取后的cookie

cookies = pickle.load(open('cookies.pkl', 'rb'))yield scrapy.Request(url, cookies=cookies, callback=self.parse)

requests使用獲取后的cookie

cookies = pickle.load(open('cookies.pkl', 'rb'))s = requests.Session()for cookie in cookies: s.cookies.set(cookie['name'], cookie['value'])

selenium使用獲取后的cookie

from selenium import webdrivercookies = pickle.load(open('cookies.pkl', 'rb'))w = webdriver.Chrome()# 直接添加cookie會報錯,下面是一種解決方案,可能有更好的# -- start --w.get('http://www.test.com')w.delete_all_cookies()# -- end --for cookie in cookies: w.add_cookie(cookie)

以上這篇對python抓取需要登錄網站數據的方法詳解就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持VEVB武林網。


注:相關教程知識閱讀請移步到python教程頻道。
發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 苍溪县| 方山县| 关岭| 西藏| 皋兰县| 合水县| 福州市| 噶尔县| 武川县| 南宫市| 翼城县| 永清县| 亚东县| 垫江县| 舞钢市| 望奎县| 栾城县| 广东省| 乾安县| 开阳县| 明溪县| 岫岩| 阿拉善右旗| 丹江口市| 镇巴县| 大田县| 顺昌县| 遂川县| 无棣县| 郁南县| 三明市| 盖州市| 巨野县| 武夷山市| 抚松县| 仁怀市| 盐池县| 内丘县| 宁城县| 防城港市| 安陆市|