相同點(diǎn):
都是由多棵樹(shù)組成,最終的結(jié)果都是由多棵樹(shù)一起決定。
不同點(diǎn):
a 組成隨機(jī)森林的樹(shù)可以分類(lèi)樹(shù)也可以是回歸樹(shù),而GBDT只由回歸樹(shù)組成;
b 組成隨機(jī)森林的樹(shù)可以并行生成,而GBDT是串行生成
c 隨機(jī)森林的結(jié)果是多數(shù)表決表決的,而GBDT則是多棵樹(shù)累加之和
d 隨機(jī)森林對(duì)異常值不敏感,而GBDT對(duì)異常值比較敏感
e 隨機(jī)森林是減少模型的方差,而GBDT是減少模型的偏差
f GBDT的會(huì)累加所有樹(shù)的結(jié)果,而這種累加是無(wú)法通過(guò)分類(lèi)完成的,因此GBDT的樹(shù)都是CART回歸樹(shù),而不是分類(lèi)樹(shù)(盡管GBDT調(diào)整后也可以用于分類(lèi)但不代表GBDT的樹(shù)為分類(lèi)樹(shù))