回歸分析介紹

回歸分析通常是指用一個或者多個輸入X（稱為自變量，解釋變量或者預測變量）來預測輸出Y（稱為因變量，響應變量或者結果變量）的一種方法

• 連續(xù)型變量：如人的身高，每天的運動小時數(shù)

• 類別型變量：

• 無序類別變量：如性別，職業(yè)

• 有序類別變量：如運動強度（低，中，高），成績（優(yōu)，良，中，差）

簡單線性回歸

用一個連續(xù)型的解釋變量預測一個連續(xù)型的響應變量

比如：用廣告投入金額去預測銷售收入金額

銷售收入=b+a*廣告投入

簡單多項式回歸

用一個連續(xù)型的解釋變量預測一個連續(xù)型的響應變量，模型的關系是n階多項式

比如：用廣告投入金額去預測銷售收入金額

銷售收入=b+a1*廣告投入+a2*廣告投入^2

多元線性回歸

用兩個或多個連續(xù)型的解釋變量預測一個連續(xù)型的響應變量

比如：用風速和當日輻照值去預測光伏電站的發(fā)電效率PR

發(fā)電效率PR=b+a1*風速+a2*當日輻照值

多元多項式回歸

用兩個或多個連續(xù)型的解釋變量預測一個連續(xù)型的響應變量，模型的關系是n階多項式和交叉乘積項

比如：用廣告投入金額和研發(fā)投入金額去預測銷售收入金額

銷售收入=b+a1*廣告投入+a2*研發(fā)投入+a11*廣告投入^2+a22*研發(fā)投入^2+a12*廣告投入*研發(fā)投入

多變量回歸

用一個或者多個解釋變量預測多個響應變量

Logistic邏輯回歸

用一個或多個解釋變量預測一個類別型響應變量

注：Logistic回歸的解釋變量可以是連續(xù)型變量，也可以是類別型變量；響應變量是類別型變量

比如：廣告的點擊率預估問題（二分類問題），圖像識別問題（多分類問題）

Poison泊松回歸

用一個或多個解釋變量預測一個代表頻數(shù)的變量

Cox比例風險回歸

用一個或多個解釋變量預測一個事件（死亡，失敗或者舊病復發(fā)）發(fā)生的時間