为什么随着功能数量的增加，使用svm时分类精度会降低

Question

我正在使用libsvm进行图像分类。为什么当我使用更多功能进行分类时，我的预测精度会降低？它不应该增加？我的数据集大小固定为1600，训练为400，测试为400。

Answer 1

由于附加特征可能不是在特征空间分离的类在所有有用的。精度不一定与功能数量相关。

包括大量的贫困功能可能会导致您的SVM学习中的噪声数据，损坏的准确性。

例如，如果你的额外功能看起来像这样（使用2D绘图的清晰程度）：

然后，它会不会是用于分离（在这种情况下）一个非常好的功能两班。例如，如果SVM仅训练此模式，则它不会很好地预测未来点的类别。但是，数据集中可能有一个如下所示的功能：

像这样的功能在分离两个类时非常有用。