千鋒教育-做有情懷、有良心、有品質的職業教育機構
1. 公式推導一定要會
2. 邏輯回歸的基本概念
這個最好從廣義線性模型的角度分析，邏輯回歸是假設y服從Bernoulli分布。
3. L1-norm和L2-norm
其實稀疏的根本還是在于L0-norm也就是直接統計參數不為0的個數作為規則項，但實際上卻不好執行于是引入了L1-norm;而L1norm本質上是假設參數先驗是服從Laplace分布的，而L2-norm是假設參數先驗為Gaussian分布，我們在網上看到的通常用圖像來解答這個問題的原理就在這。
但是L1-norm的求解比較困難，可以用坐標軸下降法或是最小角回歸法求解。
4. LR和SVM對比
首先，LR和SVM最大的區別在于損失函數的選擇，LR的損失函數為Log損失(或者說是邏輯損失都可以)、而SVM的損失函數為hinge loss。
其次，兩者都是線性模型。
最后，SVM只考慮支持向量(也就是和分類相關的少數點)
5. LR和隨機森林區別
隨機森林等樹算法都是非線性的，而LR是線性的。LR更側重全局優化，而樹模型主要是局部的優化。
上一篇
RF與GBDT之間的區別與聯系
軟件定制開發中的敏捷開發是什么軟件定制開發中的敏捷開發，從宏觀上看，是一個高度關注人員交互，持續開發與交付，接受需求變更并適應環境變化...詳情>>
2023-10-14 13:24:57
PlatformIO是什么PlatformIO是一個全面的物聯網開發平臺，它為眾多硬件平臺和開發環境提供了統一的工作流程，有效簡化了開發過程，并能兼容各種...詳情>>
2023-10-14 12:55:06
1、定義和目標不同云快照的主要目標是提供一種快速恢復數據的方法，它只記錄在快照時間點后的數據變化，而不是所有的數據。自動備份的主要目標...詳情>>
2023-10-14 12:48:59
服務器為什么要用Linux作為服務器操作系統的優選，Linux在眾多選擇中脫穎而出。Linux作為服務器操作系統的優選，有其獨特的優勢和特點。包括其...詳情>>
2023-10-14 12:34:11
ORM（對象關系映射）解決的主要問題是將關系數據庫與面向對象編程之間的映射困境。在傳統的關系數據庫中，數據以表格的形式存儲，而在面向對象...詳情>>
2023-10-14 12:26:19
京公網安備 11010802030320號