Torch7，如何计算convNet中的参数数量

Question

我正在寻找一种方法来计算卷积神经网络中的参数数量。特别是，我在https://github.com/facebook/fb.resnet.torch中使用了Resnet模型。 你知道是否有任何函数可以计算参数总数？你有其他建议吗？ 在此先感谢。

Answer 1

你基本上必须通过你的网络的每一层，并计算该层的参数数量。这里是做一个样本函数：

-- example model to be fed to the function 
model = nn.Sequential() 
model:add(nn.SpatialConvolution(3,12,1,1)) 
model:add(nn.Linear(2,3)) 
model:add(nn.ReLU()) 

function countParameters(model) 
local n_parameters = 0 
for i=1, model:size() do 
    local params = model:get(i):parameters() 
    if params then 
    local weights = params[1] 
    local biases = params[2] 
    n_parameters = n_parameters + weights:nElement() + biases:nElement() 
    end 
end 
return n_parameters 
end 

Answer 2

如果你打算在torch训练网络，您必须先提取其参数的矢量和渐变的矢量w.r.t.这些参数（均为1D张量）：

params, gradParams = net:getParameters() 

已经完成它，它很容易获得的可学习参数个数：

n_params = params:size(1) 

Answer 3

添加到什么已经回答了，如果你只是想计数的网络在层级别的参数个数，你最好使用

params, gradParams = net:parameters() 
print(#params) 

，而不是getParameters()（其中r蚀刻出扁平的长张量）。

功能parameters()是非常有用的，当你想设置不同的学习率分层。