欧美一区二区三区,国内熟女精品熟女A片视频小说,日本av网,小鲜肉男男GAY做受XXX网站

svm和logistic有什么區別

張吉惟2年前12瀏覽0評論

svm和logistic有什么區別?

SVM和logistic回歸都是比較常用的算法,而這兩個算法有什么異同點呢。下面是自己的總結,當然也是自己的一些見解。

相同點:

1.都是分類模型

2.都是判別模型

不同點:

1.從損失函數角度:SVM用的是hinge loss,而logistic回歸用的是對率損失

2.從方法角度: SVM用的是統計方法,SVM最大間隔有完備的理論,logistic回歸是概率方法。

3.從對噪聲的影響角度:SVM對噪聲比較敏感,而logistic回歸對噪聲不是很敏感,是因為如果噪聲點落在了支持向量上,將會直接影響判別面的方程。而logistic回歸通過最大似然求解模型參數,將會弱化噪聲的影響。

4.從結果角度:SVM只能得到測試點屬于哪一類,而logistic回歸能得到屬于哪一類的概率,當然在SVM也可以通過樣本點離判別面的相對距離進行輸出屬于該類的概率。

5.從優化方法角度:SVM有專門屬于自己的特點的優化方法,SMO算法,該算法對于優化SVM非常的高效。logistic回歸可以通過一些常用的算法,如梯度下降,共軛梯度下降,牛頓法

6.處理非線性的角度: SVM可以通過核方法,logistic可以通過特征的離散化將其非線性化。

7.處理大數據角度: SVM很難處理大數據,因為SVM模型主要是由支持向量決定,而支持向量隨著數據量多項式增加。而logistic可以很容易運用到大數據當中。

java實現共軛梯度算法,svm和logistic有什么區別