模型权重在ML中如何修改？

Question

我一直在阅读这个有趣的链接Linear Regression - SGD

我对下面的语句有疑问。

“这种优化算法的工作原理是，每次训练实例向模型一次展示一次，该模型对训练实例进行预测，计算误差并更新模型以减少下一次预测出现错误，这个过程重复进行固定次数的迭代。“

问题： 我的下面的伪代码是否正确？

for each training input: 
    1) Input to Model 
    2) Find the prediction 
    3) Find the error 
    4) Update Model. 

我不明白的是“这个过程重复固定次数的迭代”。这是否意味着步骤4）并重复步骤3），直到误差最小化？

纠正我，如果我错了？

Answer 1

“此过程重复固定次数的迭代。”意味着您可以选择发送给您的网络进行训练的时代数或批次数。

当你训练你的网络时，你有一个训练数据集。你给你的网络（带有占位符）iages和与这些输入相关的标签（一般你可以批量提供样本（输入+标签））。

它对每个输入进行预测并计算错误（您使用的损失函数）。然后它调整权重（和偏差）以最小化损失函数（它可以做所谓的梯度下降）。

你应该故事看看梯度下降这里：http://sebastianruder.com/optimizing-gradient-descent/

您是第一个决定多久你想你的网络，通过固定的时间你的整个训练集要数训练被发送到您的网络（所谓的时代）或批次数。

希望它有帮助