如何选择特征选择方法？通过数据或一些规则？

Question

我一直在使用一些特征选择方法，例如RFE或Select K best，来进行多标签分类。是否有一种技术或方法可以用于动态选择特征选择方法？例如，根据测试数据的统计数据还是一些基于规则的方法？

Answer 1

这可能不是您正在寻找的答案，但您可以尝试每个答案，并根据一些测试数据进行验证。编写脚本应该是相当简单的。

我不知道选择特征选择算法的更好方法，但它会偏向您使用的测试数据。

Answer 2

这些answers may help。

我对特征统计的假设是：类之间的值之间的最大距离和一个类的值的最小方差将一个好的特征分类。

我从小型学习集开始，测试这个假设，并在结果看起来很有希望时增加学习集。

最终优化是平均值比较的直方图。具有相似直方图的特征被删除。那些冗余特征会降低（至少在SVM上）精度相当（5-10％）。

使用这种方法，我在5个类的数据集（600个实例）上获得了95％的准确性。培训需要< 1小时。经过多天的实验，手动培训获得了98％的成功。