7

如果你有一个分类和回归问题是相关的并且依赖于相同的输入数据,是否有可能成功构建一个同时提供分类和回归输出的神经网络?结合回归和分类的多输出神经网络

如果是这样,损失函数如何构造?

回答

8

通常,对于这种情况,损失仅被视为分类损失和回归损失的加权和。换句话说,您的网络有两个独立的输出部分,一个负责回归,在其上应用Reggression loss L_reg(如MSE),另一个负责分类部分,应用分类损失L_class(如交叉熵)和您的最终优化标准是简单的(alpha)* L_reg +(1-alpha)* L_class,对于某些预定义的alpha。这可以轻松计算梯度(以及总体简单分析)。

+0

太好了,谢谢。 alpha通常被视为一个超参数并被调整为这样? – jayesian

+0

是的,除非可以利用某些问题特征来找到合理的价值 – lejlot