準備工作:安裝requests和BeautifulSoup4。打開cmd,輸入如下命令
pip install requestspip install BeautifulSoup4打開我們要爬取的頁面,這里以新浪新聞為例,地址為:http://news.sina.com.cn/china/
按F12打開開發人員工具,點擊左上角的圖片,然后再頁面中點擊你想查看的元素:

我點擊了新聞標題處的元素,查看到該元素為class=news-item的元素:

在這里,我們要獲取新聞的時間,標題和鏈接,查看到分別在如下位置:

現在,就可以根據元素的結構編寫爬蟲代碼了:
import requestsfrom bs4 import BeautifulSoupurl = 'http://news.sina.com.cn/china/'res = requests.get(url)# 使用UTF-8編碼res.encoding = 'UTF-8'# 使用剖析器為html.parsersoup = BeautifulSoup(res.text, 'html.parser')#遍歷每一個class=news-item的節點for news in soup.select('.news-item'): h2 = news.select('h2') #只選擇長度大于0的結果 if len(h2) > 0: #新聞時間 time = news.select('.time')[0].text #新聞標題 title = h2[0].text #新聞鏈接 href = h2[0].select('a')[0]['href'] #打印 PRint(time, title, href)運行程序,結果如下圖所示:

新聞熱點
疑難解答