logistic回歸模型是最成熟也是應(yīng)用最廣泛的分類(lèi)模型，通過(guò)學(xué)習(xí)和實(shí)踐擬通過(guò)從入門(mén)、進(jìn)階到高級(jí)的過(guò)程對(duì)其進(jìn)行總結(jié)，以便加深自己的理解也為對(duì)此有興趣者提供學(xué)習(xí)的便利。

一、有關(guān)logistic的基本概念

　　logistic回歸主要用來(lái)預(yù)測(cè)離散因變量與一組解釋變量之間的關(guān)系

最常用的是二值型logistic。即因變量的取值只包含兩個(gè)類(lèi)別 例如：好、壞 ；發(fā)生、不發(fā)生；常用Y=1或Y=0表示 X表示解釋變量則

P（Y=1|X）表示在X的條件下Y=1的概率，logistic回歸的數(shù)學(xué)表達(dá)式為：

log（p/1-p）=A+BX ＝Ｌ其中p/1-p稱(chēng)為優(yōu)勢(shì)比（ＯＤＤＳ） 即發(fā)生與不發(fā)生的概率之比

可以根據(jù)上式反求出P（Y=1|X）＝１/（１＋ｅ＾-L）

根據(jù)樣本資料可以通過(guò)最大似然估計(jì)計(jì)算出模型的參數(shù)

然后根據(jù)求出的模型進(jìn)行預(yù)測(cè)

下面介紹logistic回歸在ＳＡＳ中的實(shí)現(xiàn)以及輸出結(jié)果的解釋

二、logistic回歸模型初步

ＳＡＳ中ｌｏｇｉｓｔｉｃ回歸輸出結(jié)果主要包括預(yù)測(cè)模型的評(píng)價(jià)以及模型的參數(shù)

預(yù)測(cè)模型的評(píng)價(jià)與多元線(xiàn)性回歸模型的評(píng)價(jià)類(lèi)似主要從以下幾個(gè)層次進(jìn)行

（１）模型的整體擬合優(yōu)度

主要評(píng)價(jià)預(yù)測(cè)值與觀測(cè)值之間的總體一致性。可以通過(guò)以下兩個(gè)指標(biāo)來(lái)進(jìn)行檢驗(yàn)

１、Ｈosmer-Lemeshowz指標(biāo)

        HL統(tǒng)計(jì)量的原假設(shè)Ho是預(yù)測(cè)值和觀測(cè)值之間無(wú)顯著差異，因此HL指標(biāo)的P-Value的值越大，越不能拒絕原假設(shè)，即說(shuō)明模型很好的擬合了數(shù)據(jù)。

在ＳＡＳ中這個(gè)指標(biāo)可以用LACKFIT選項(xiàng)進(jìn)行調(diào)用

２、AIC和SC指標(biāo) 即池雷準(zhǔn)則和施瓦茨準(zhǔn)則

         與線(xiàn)性回歸類(lèi)似AIC和SC越小說(shuō)明模型擬合的越好

（2）從整體上看解釋變量對(duì)因變量有無(wú)解釋作用

          相當(dāng)于多元回歸中的F檢驗(yàn) 在logistic回歸中可以通過(guò)似然比（likelihood ratio test）進(jìn)行檢驗(yàn)

（3）解釋變量解釋在多大程度上解釋了因變量

          與線(xiàn)性回歸中的R^2作用類(lèi)似 在logistic回歸中可以通過(guò)Rsquare和C統(tǒng)計(jì)量進(jìn)行度量

在SAS中通過(guò)RSQ來(lái)調(diào)用Rsquare，C統(tǒng)計(jì)量自動(dòng)輸出

 (4) 模型評(píng)價(jià)指標(biāo)匯總

說(shuō)明：在實(shí)踐中，對(duì)以上統(tǒng)計(jì)量最為關(guān)注的是C統(tǒng)計(jì)量，其次是似然比卡方，最后才是HL統(tǒng)計(jì)量。AIC和RSQUARE極少關(guān)注，這一點(diǎn)和多元線(xiàn)性回歸有很大的區(qū)別。根本原因就是多元線(xiàn)性回歸模型是一個(gè)預(yù)測(cè)模型，目標(biāo)變量的值具有實(shí)際意義；而logistic是一個(gè)分類(lèi)模型，目標(biāo)變量只是一個(gè)分類(lèi)標(biāo)識(shí)，因此更關(guān)注預(yù)測(cè)值和預(yù)測(cè)值之間的相對(duì)一致性而不是絕對(duì)一致性。（注：引自姚志勇的《SAS編程與數(shù)據(jù)挖掘商業(yè)案例》）

（５）以SAS幫助中例子為例對(duì)輸出結(jié)果進(jìn)行解釋說(shuō)明

data Remission;       input remiss cell smear infil li blast temp;
      cards;

   1   .8   .83  .66  1.9  1.1     .996
   1   .9   .36  .32  1.4   .74    .992
   0   .8   .88  .7    .8   .176   .982
   0  1     .87  .87   .7  1.053   .986
   1   .9   .75  .68  1.3   .519   .98
   0  1     .65  .65   .6   .519   .982
   1   .95  .97  .92  1    1.23    .992
   0   .95  .87  .83  1.9  1.354  1.02
   0  1     .45  .45   .8   .322   .999
   0   .95  .36  .34   .5  0      1.038
   0   .85  .39  .33   .7   .279   .988
   0   .7   .76  .53  1.2   .146   .982
   0   .8   .46  .37   .4   .38   1.006
   0   .2   .39  .08   .8   .114   .99
   0  1     .9   .9   1.1  1.037   .99
   1  1     .84  .84  1.9  2.064  1.02
   0   .65  .42  .27   .5   .114  1.014
   0  1     .75  .75  1    1.322  1.004
   0   .5   .44  .22   .6   .114   .99
   1  1     .63  .63  1.1  1.072   .986
   0  1     .33  .33   .4   .176  1.01
   0   .9   .93  .84   .6  1.591  1.02
   1  1     .58  .58  1     .531  1.002
   0   .95  .32  .3   1.6   .886   .988
   1  1     .6   .6   1.7   .964   .99
   1  1     .69  .69   .9   .398   .986
   0  1     .73  .73   .7   .398   .986
   ;
run;

proc logistic data= Remission desc;

model  remiss=cell smear infil li blast temp

                       /selection=stepwise

                       lackfit

                      Rsquare;

run;

輸出結(jié)果如下：紅色字體是對(duì)輸出結(jié)果的注釋

（一）

Probability modeled is remiss=1.（注：這個(gè)要關(guān)注 指明了模型求的是在自變量作用下因變量remiss=1的概率）
（二）
Stepwise Selection Procedure（注：逐步回歸的選擇過(guò)程，說(shuō)明了模型是怎么一步步根據(jù)一定的原則來(lái)選擇最終進(jìn)入模型的變量的）

Step 0. Intercept entered:（注：第一步只包含截距項(xiàng)而無(wú)變量時(shí)時(shí)的結(jié)果）

（注：AIC、SC和-2 Log L都變小了說(shuō)明加入變量FAC4_1后模型擬合的更好了）

（注：原假設(shè)是所有變量的參數(shù)為0 ，根據(jù)檢驗(yàn)結(jié)果可以看出P<0.001拒絕原假設(shè)，即變量的參數(shù)不全為0）

接下來(lái)的跟上面的一樣都是些變量的選擇過(guò)程，進(jìn)進(jìn)出出的

（三）最終的結(jié)果如下

Step 2. Effect FAC3_1 entered: