一、概述

機(jī)器學(xué)習(xí)算法在近幾年大數(shù)據(jù)點(diǎn)燃的熱火熏陶下已經(jīng)變得被人所“熟知”，就算不懂得其中各算法理論，叫你喊上一兩個著名算法的名字，你也能昂首挺胸脫口而出。當(dāng)然了，算法之林雖大，但能者還是有限，能適應(yīng)某些環(huán)境并取得較好效果的算法會脫穎而出，而表現(xiàn)平平者則被歷史所淡忘。隨著機(jī)器學(xué)習(xí)社區(qū)的發(fā)展和實(shí)踐驗(yàn)證，這群脫穎而出者也逐漸被人所認(rèn)可和青睞，同時獲得了更多社區(qū)力量的支持、改進(jìn)和推廣。

以最廣泛的分類算法為例，大致可以分為線性和非線性兩大派別。線性算法有著名的邏輯回歸、樸素貝葉斯、最大熵等，非線性算法有隨機(jī)森林、決策樹、神經(jīng)網(wǎng)絡(luò)、核機(jī)器等等。線性算法舉的大旗是訓(xùn)練和預(yù)測的效率比較高，但最終效果對特征的依賴程度較高，需要數(shù)據(jù)在特征層面上是線性可分的。因此，使用線性算法需要在特征工程上下不少功夫，盡量對特征進(jìn)行選擇、變換或者組合等使得特征具有區(qū)分性。而非線性算法則牛逼點(diǎn)，可以建模復(fù)雜的分類面，從而能更好的擬合數(shù)據(jù)。

那在我們選擇了特征的基礎(chǔ)上，哪個機(jī)器學(xué)習(xí)算法能取得更好的效果呢？誰也不知道。實(shí)踐是檢驗(yàn)?zāi)膫€好的不二標(biāo)準(zhǔn)。那難道要苦逼到寫五六個機(jī)器學(xué)習(xí)的代碼嗎？No，機(jī)器學(xué)習(xí)社區(qū)的力量是強(qiáng)大的，碼農(nóng)界的共識是不重復(fù)造輪子！因此，對某些較為成熟的算法，總有某些優(yōu)秀的庫可以直接使用，省去了大伙調(diào)研的大部分時間。

基于目前使用python較多，而python界中遠(yuǎn)近聞名的機(jī)器學(xué)習(xí)庫要數(shù)scikit-learn莫屬了。這個庫優(yōu)點(diǎn)很多。簡單易用，接口抽象得非常好，而且文檔支持實(shí)在感人。本文中，我們可以封裝其中的很多機(jī)器學(xué)習(xí)算法，然后進(jìn)行一次性測試，從而便于分析取優(yōu)。當(dāng)然了，針對具體算法，超參調(diào)優(yōu)也非常重要。

二、Scikit-learn的python實(shí)踐

本篇文章利用線性回歸算法預(yù)測波士頓的房價。波士頓房價數(shù)據(jù)集包含波士頓郊區(qū)住房價值的信息。

第一步：Python庫導(dǎo)入

%matplotlib inlineimport numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport sklearn

第二步：數(shù)據(jù)獲取和理解

波士頓數(shù)據(jù)集是scikit-learn的內(nèi)置數(shù)據(jù)集，可以直接拿來使用。

from sklearn.datasets import load_bostonboston = load_boston()

print(boston.keys())

dict_keys([‘data', ‘target', ‘feature_names', ‘DESCR'])

print(boston.data.shape)

(506, 13)

print(boston.feature_names)

[‘CRIM' ‘ZN' ‘INDUS' ‘CHAS' ‘NOX' ‘RM' ‘AGE' ‘DIS' ‘RAD' ‘TAX' ‘PTRATIO''B' ‘LSTAT']

結(jié)論：波士頓數(shù)據(jù)集506個樣本，14個特征。

print(boston.DESCR)

bos = pd.DataFrame(boston.data)print(bos.head())

    0   1   2  3   4   5   6    7  8   9   10 /0 0.00632 18.0 2.31 0.0 0.538 6.575 65.2 4.0900 1.0 296.0 15.3  1 0.02731  0.0 7.07 0.0 0.469 6.421 78.9 4.9671 2.0 242.0 17.8  2 0.02729  0.0 7.07 0.0 0.469 7.185 61.1 4.9671 2.0 242.0 17.8  3 0.03237  0.0 2.18 0.0 0.458 6.998 45.8 6.0622 3.0 222.0 18.7  4 0.06905  0.0 2.18 0.0 0.458 7.147 54.2 6.0622 3.0 222.0 18.7      11  12 0 396.90 4.98 1 396.90 9.14 2 392.83 4.03 3 394.63 2.94 4 396.90 5.33 

bos.columns = boston.feature_namesprint(bos.head())

print(boston.target[:5])

bos['PRICE'] = boston.target

bos.head()

第三步：數(shù)據(jù)模型構(gòu)建——線性回歸

from sklearn.linear_model import LinearRegressionX = bos.drop('PRICE', axis=1)lm = LinearRegression()lm

lm.fit(X, bos.PRICE)

print('線性回歸算法w值：', lm.coef_)print('線性回歸算法b值: ', lm.intercept_)

import matplotlib.font_manager as fmmyfont = fm.FontProperties(fname='C:/Windows/Fonts/msyh.ttc')plt.scatter(bos.RM, bos.PRICE)plt.xlabel(u'住宅平均房間數(shù)', fontproperties=myfont)plt.ylabel(u'房屋價格', fontproperties=myfont)plt.title(u'RM與PRICE的關(guān)系', fontproperties=myfont)plt.show()

第四步：數(shù)據(jù)模型應(yīng)用——預(yù)測房價

lm.predict(X)[0:5]

array([ 30.00821269, 25.0298606 , 30.5702317 , 28.60814055, 27.94288232])

mse = np.mean((bos.PRICE - lm.predict(X)) ** 2)print(mse)

21.897779217687486

總結(jié)

1 使用.DESCR探索波士頓數(shù)據(jù)集，業(yè)務(wù)目標(biāo)是預(yù)測波士頓郊區(qū)住房的房價；

2 使用scikit-learn針對整個數(shù)據(jù)集擬合線性回歸模型，并計(jì)算均方誤差。

思考環(huán)節(jié)

1 對數(shù)據(jù)集分割成訓(xùn)練數(shù)據(jù)集和測試數(shù)據(jù)集

2 訓(xùn)練數(shù)據(jù)集訓(xùn)練線性回歸模型，利用線性回歸模型對測試數(shù)據(jù)集進(jìn)行預(yù)測

3 計(jì)算訓(xùn)練模型的MSE和測試數(shù)據(jù)集預(yù)測結(jié)果的MSE

4 繪制測試數(shù)據(jù)集的殘差圖

以上就是本文的全部內(nèi)容，希望對大家的學(xué)習(xí)有所幫助，也希望大家多多支持VEVB武林網(wǎng)。