![深度学习之模型优化:核心算法与案例实践](https://wfqqreader-1252317822.image.myqcloud.com/cover/833/51089833/b_51089833.jpg)
上QQ阅读APP看本书,新人免费读10天
设备和账号都新为新人
2.1.2 参数量
参数量,泛指模型中可以训练与不能训练的所有参数的数量。例如,AlexNet模型包含了约60MB参数,如果使用32bit浮点数进行存储,则实际占用的存储空间为240MB。
对于一个正常的卷积层,假如输入特征图大小为Hin×Win,通道数为Cin,输出特征图大小为Hout×Wout,通道数为Cout,卷积核大小为K×K,则参数量为Cout×Cin×K×K。
参数量小,则占用内存小,移动端使用的模型对参数量大小比较敏感。可以使用一些工具来统计模型的参数量,这里以PyTorch summary工具为例。它不仅可以统计模型的参数量,还可以统计输入数据及模型在前向运行过程中需要的参数量,使用方法如下。
![](https://epubservercos.yuewen.com/327D6F/30121700503368506/epubprivate/OEBPS/Images/48152_36_1.jpg?sign=1739311060-RPnoIYRL66xaKTleKd6SPUEOw0boHu3I-0-7b182237690036efcf40dabd92102e74)
表2.1是simpleconv3模型参数量统计结果。
表2.1 simpleconv3模型参数量统计结果
![](https://epubservercos.yuewen.com/327D6F/30121700503368506/epubprivate/OEBPS/Images/48152_36_2.jpg?sign=1739311060-NtnzyM2pvi6cnLt8qZNhgbWYxyQwTHoG-0-5ae6314e8412b81b42d0117f387b64b8)