xgbTree使用非公式进行脱字符培训失败

我试图使用caret包中的train函数来适合xgbTree模型。xgbTree使用非公式进行脱字符培训失败

编辑：下面是一个示例数据集，使示例可重现。我也转换所有变量数值的建议：

df<-data.frame(
x1=c(-231,5,-166,-158,170,-243,-184,25,-130,-209,453,-46,-13,-247,-74,-209,-130,-118,10,40), 
x2=c(2,48,6,7,24,2,5,7,12,48,48,24,2,8,4,1,8,5,50,6), 
x3=c(6, 3, 2, 1, 2, 6, 0, 6, 2, 4, 5, 5, 2, 4, 1, 2, 3, NA, 0, 1), 
x4=c(0, 1, 1, 0, 1, 0, 1, 0, 1, 1, 3, 0, 0, 0, 0, 0, 0, 1, 0, 0), 
x5=c(45.1, 58.6, 41.3, 58.6, 45.1, 60.8, 44.1, 58.6, 38.8, 40.5, 60.8, 45.1, 41.3, 45.1, 41.3, 45.1, 39, 41.3, 51.7, 51.7), 
x6=c(0, 2, 4, 0, NA, 0, 1, 0, NA, 0, 3, 0, 0, 0, 0, 0, 0, NA, 0, 0), 
x7=c(NA, 6, 6, NA, 6, NA, 3, NA, 6, NA, 6, NA, NA, NA, NA, NA, NA, 1, NA, NA), 
x8=c(0, 1, 4, 0, 4, 0, 2, 0, 1, 0, 4, 0, 0, 0, 0, 0, 0, 1, 0, 0), 
x9=c(0, 0, 8, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0), 
x10=c(NA, NA, NA, NA, 0, NA, 0, NA, NA, NA, 0, NA, NA, NA, NA, NA, NA, NA, NA, NA), 
y=c(0.00272609554964902, 0.00196386488609584, 0.0169606512890095, 0, 0.00978263953223331, 0.00310850075796128, 0.0225595119926366, 0.00456053067993367, 0.00980320074504326, 0.0116718460483506, 0.0618914994405961, 0.0420972062763108, 0.00139303482587065, 0.0426927149151269, 0.0248756218905473, 0, 0, 0.000855672497463542, 0.0287026406429392, 0.00190374657325617))

当我使用的公式界面一切正常：

编辑：使用的库添加

library(caret) 
library(doParallel) 

registerDoParallel(cores=n) 

xgb_model <-train(y ~., 
        data = df, 
        method = "xgbTree", 
        na.action = na.pass)

但当我使用非公式接口时，模型训练失败：

xgb_model <-train(x=df[,-ncol(df)], 
        y=df[,ncol(df)], 
        data = df, 
        method = "xgbTree", 
        na.action = na.pass)

我已经尝试省略所有NA，以及只使用特定变量来缩小问题范围，但我无法真正发现有关输入数据的任何问题。

实际data.frame看起来是这样的：

'data.frame': 433 obs. of 30 variables: 
$ x1  : int -231 5 -166 -158 170 -243 -184 25 -130 -209 ... 
$ x2  : int 2 48 6 7 24 2 5 7 12 48 ... 
$ x3  : Ord.factor w/ 7 levels "0"<"1"<"2"<"3"<..: 4 3 2 3 7 1 7 3 5 6 ... 
$ x4  : Ord.factor w/ 8 levels "0"<"1"<"2"<"3"<..: 1 2 2 1 2 1 2 1 2 2 ... 
$ x5  : num 45.1 58.6 41.3 58.6 45.1 60.8 44.1 58.6 38.8 40.5 ... 
$ x6  : int 0 2 4 0 NA 0 1 0 NA 0 ... 
$ x7  : Ord.factor w/ 6 levels "1"<"2"<"3"<"4"<..: NA 6 6 NA 6 NA 3 NA 6 NA ... 
$ x8  : Ord.factor w/ 5 levels "0"<"1"<"2"<"3"<..: 1 2 5 1 5 1 3 1 2 1 ... 
$ x9  : Ord.factor w/ 5 levels "0"<"2"<"4"<"6"<..: 1 1 5 1 1 1 1 1 1 1 ... 
$ x10  : int NA NA NA NA 0 NA 0 NA NA NA ... 
$ x11  : Ord.factor w/ 10 levels "0"<"2"<"4"<"5"<..: 7 5 1 5 4 4 9 7 5 8 ... 
$ x12  : Ord.factor w/ 32 levels "0"<"1"<"2"<"3"<..: 10 2 1 13 1 10 6 6 1 1 ... 
$ x13  : Ord.factor w/ 13 levels "0"<"0.7"<"1.4"<..: 1 1 1 8 1 1 13 6 1 6 ... 
$ x14  : Factor w/ 4 levels "1","2","3","4": 2 1 1 4 1 2 4 1 4 4 ... 
$ x15  : int 1 2 3 1 2 1 1 9 2 2 ... 
$ x16  : int 180 200 160 250 120 160 300 600 180 150 ... 
$ x17  : Ord.factor w/ 6 levels "1"<"2"<"3"<"4"<..: 2 6 5 3 2 2 1 3 2 2 ... 
$ x18  : Ord.factor w/ 5 levels "1"<"2"<"3"<"4"<..: 4 1 2 3 5 3 4 4 5 5 ... 
$ x19  : num 366825 509200 353760 502500 306666 ... 
$ x20  : num 2 2 2 2 2.83 ... 
$ x21  : Factor w/ 2 levels "0","1": 1 2 1 1 1 1 2 1 1 1 ... 
$ x22  : int 50 70 32 48 20 56 57 51 53 55 ... 
$ x23  : int 5 2 5 5 2 3 3 2 4 1 ... 
$ x24  : int 0 0 3 0 0 0 0 0 0 0 ... 
$ x25  : int 0 2 0 0 0 0 0 0 0 0 ... 
$ x26  : Factor w/ 3 levels "1","2","3": 3 3 3 3 3 3 3 3 3 3 ... 
$ x27  : Ord.factor w/ 5 levels "12"<"13"<"14"<..: NA NA 3 3 1 5 1 5 5 5 ... 
$ x28  : Ord.factor w/ 9 levels "4"<"6"<"7"<"8"<..: 7 7 2 NA 4 6 8 NA 4 9 ... 
$ x29  : num -0.3211 -0.0462 -0.8133 0.3825 -0.5475 ... 
$ y  : num 0.00273 0.00196 0.01696 0 0.00978 ...

来源

2017-03-21 viktor_r

究竟是什么错误您收到？请提供[可重现的示例]（http://stackoverflow.com/questions/5963269/how-to-make-a-great-r-reproducible-example）。共享来自'str（）'的数据是没有用的，也许可以使用'dput（）'。你是否定义了变量'y'？ 'dataset [，y]'实际上是否会返回您感兴趣的列？ – MrFlick

我已经添加了一个可重现的例子。我从脱字符中得到的错误不是很有帮助，因此我没有在这里添加它。错误是：'train.default错误（x = df [，-ncol（df）]，y = df [，ncol（df）]，：正在停止' –

形式?train帮助指train(x, y, ...)接口：

X中的预测可能是最只要底层模型拟合函数的任何对象可以处理对象类。

底层xgb.DMatrix功能（你可以看到从getModelInfo('xgbTree')插入符号的xgboost包装的所有功能）预计，数字矩阵的输入，所以你得到一个错误。公式train接口可以工作，因为它使用引擎盖下的model.matrix将公式转换为数字矩阵，包括因子变量的编码。要使用（x，y）接口，首先必须将数据帧转换为矩阵。 model.matrix或caret::dummyVars都是很受欢迎的选择。

值得注意的是：您的数据中有很多序数因子变量。由于树可以很容易地处理任何非均匀的序数区间，对于基于树的非参数算法，最好将每个序数因子简单地转换为单列数值，而不是从中创建多个虚拟变量。

来源

2017-03-21 15:29:23

我试过将我的data.set转换为数字值，并使用'as.matrix（sapply（df，as.numeric））'将数据转换为矩阵，但是我得到相同的错误。 –

data=和na.action=参数只能与公式版本train()一起使用。这意味着你应该要么使用

xgb_model <- train(y ~., 
       data = df, 
       method = "xgbTree", 
       na.action = na.pass)

或

xgb_model <- train(x=df[,-ncol(df)], 
        y=df[,ncol(df)], 
        method = "xgbTree")

来源

2017-03-22 16:09:06 MrFlick

我发现，这个问题不是由train()命令的任何失误造成的，而是由尝试并行使用registerDoParallel(cores=n)模型来自doParallel包。 doParallel与我迄今为止在caret（即treebag，cforest和gbm）中测试的所有其他型号均正常工作。

所以下面的代码工作正常，因为你不使用doParallel：

xgb_model <- train(x=df[,-ncol(df)], 
        y=df[,ncol(df)], 
        method = "xgbTree")

来源

2017-03-23 12:01:06

xgbTree使用非公式进行脱字符培训失败

回答

相关问题