一、線性回歸
線性回歸是一種通過找到優(yōu)異擬合線來描述變量間關(guān)系的算法。它主要用于預(yù)測連續(xù)性變量,如房價、銷售量等。
二、邏輯回歸
邏輯回歸雖名為回歸,但通常用于分類任務(wù)。它通過Sigmoid函數(shù)來估計離散值,如是/否、成功/失敗等。
三、嶺回歸
嶺回歸是一種解決共線性問題的線性回歸技術(shù),通過加入L2正則化項來減小模型復(fù)雜度。
四、套索回歸
套索回歸同樣用于解決共線性,但通過L1正則化來實現(xiàn)特征選擇,只保留重要特征。
五、彈性網(wǎng)絡(luò)
彈性網(wǎng)絡(luò)結(jié)合了L1和L2正則化,既實現(xiàn)特征選擇又減小模型復(fù)雜度。
六、多項式回歸
多項式回歸通過將特征轉(zhuǎn)換為多項式來擬合非線性關(guān)系,更靈活地表示數(shù)據(jù)關(guān)系。
七、支持向量回歸
支持向量回歸使用支持向量機原理來解決回歸問題,尋找優(yōu)異擬合超平面。
八、決策樹回歸
決策樹回歸通過分割特征空間來擬合數(shù)據(jù),易于理解和解釋。
常見問答:
1、線性回歸與邏輯回歸有何不同?
答:線性回歸用于預(yù)測連續(xù)變量,邏輯回歸用于分類任務(wù)。
2、正則化在回歸中的作用是什么?
答:正則化用于減小模型復(fù)雜度,避免過擬合,如嶺回歸中的L2正則化。
3、支持向量回歸與支持向量機有何關(guān)聯(lián)?
答:支持向量回歸使用支持向量機的原理來解決回歸問題,尋找優(yōu)異擬合超平面。