SVM的分類原理(2) 1. 2 線性不可分的情況 對于線性不可分的情況,可以把樣本X 映射到一個高維特征空間H,并在此空間中運用原空間的函 數(shù)來實現(xiàn)內積運算,這樣將非線性問題轉換成另一空間的線性問題來獲得一個樣本的歸屬. 根據泛函的 有關理論,只要一種核函數(shù)滿足Mercer 條件,它就對應某一空間中的內積,因此只要在最優(yōu)分類面上采 用適當?shù)膬确e函數(shù)就可以實現(xiàn)這種線性不可分的分類問題. 此時的目標函數(shù)為: 其相應的分類函數(shù)為: 1. 3 內積核函數(shù) 目前有三類用的較多的內積核函數(shù):第一類是 我們所能得到的是p階多項式分類器,第二類是徑向基函數(shù)(RBF),也稱作高斯核函數(shù):
第三類是Sigmoid函數(shù): 這時SVM實現(xiàn)的就是包含一個隱層感知器,隱層結點數(shù)是由算法自動確定的。究竟用哪一種 核函數(shù)比較好了?這還是取決你對數(shù)據處理的要求,不過建議可以使用徑向基函數(shù)。 |
|
來自: guoxi022 > 《machine learning》