2012-10-01 61 views
1

线性回归中“Lambda” - 规则化常数的值范围是否有限制? [机器学习问题]线性回归中的规则化常数范围

当Lambda值为100时,我非常适合数据。是否在“实用”可接受限制内?

我觉得在理论上,Lambda的价值很好,但实际使用?

[在解决一个问题家庭作业需要小澄]

回答

2

我不认为有对拉姆达的实用价值限度。你选择了最适合你的问题,并坚持下去。例如,如果你有太多的功能和太少的数据,那么模型会趋于过度使用,你必须用更大的lambda来对抗(更好的做法是获得更多的数据或删除一些功能)。另一方面,如果你有很多数据的功能相对较少,过度拟合不会是一个大问题,lambda可能更小。

选择Lambda的一种方法是使用lambda [A .. B](其中A> 0,B> A)的值训练模型,然后在交叉验证集上绘制成本函数。它将接近凸曲线,对应于全局最小值的λ将是最优的。

如需更完整的解释请观看本讲座:https://class.coursera.org/ml/lecture/preview/63