使用验证集早期停止在神经网络中

Question

我想使用早期停止方法来避免过度拟合神经网络。 我已经分了我的数据集60-20-20

60 - 培训 20 - 验证设置 20 - 测试设定

我有一个疑问，而实现提前停止。

1. 我们使用训练集更新一个历元的权重。我们在使用训练集的网络中遇到了错误。
2. 我们需要计算验证集的错误。我们应该平均每个验证实例的所有错误吗？ E.g可以说我有200个验证实例。由于我不更新权重，我将计算每个实例的错误。那么我们应该对所有验证实例进行平均，并报告验证错误？

谢谢， Atish

Answer 1

是的，最常用的误差量度是mean squared error，其为每一个训练/验证样本的平方误差的平均值。

Answer 2

是的，你必须找出验证集上的错误增加而不是减少的点。