在sklearn中决定DecisionTreeClassifier的max_depth

Question

当我在skelarn中使用GridSearchCV调整决策树时，我有一个问题。当我决定max_depth的范围时，我认为要求max_depth是不同的情况。因为，样本的数量或功能影响决定max_depth。那么，是否有合适的标准来决定max_depth的范围，还是只由直觉决定？

Answer 1

您可以尝试更改每个案例的max_depth并记录性能。

这可能会帮助您获得性能。

http://scikit-learn.org/stable/modules/generated/sklearn.metrics.log_loss.html

你可以决定测试一个最大深度。 但是，如果您想从树中调整max_depth，您可以尝试使用足够的数据来训练另一个学习算法以找出它。 （或简单地用线性回归）

Answer 2

通常the recommendation是从max_depth=3开始，然后从那里开始工作，其中Decision Tree (DT)文档覆盖更深入。

具体使用Ensemble Methods如RandomForestClassifier或DT Regression也是决定max_depth是否被设置为高和/或过拟合有帮助的。