关于参数变化
YongboLiang opened this issue · 7 comments
你好，我基于mobilenet，利用slimming来进行剪枝，下面是运算量和参数数量的变化
flops:313.464M->310.625M, params: 2.226M->2.206M。
实验过程中的参数设置是和您给的一样的，但是剪枝后的参数数量基本变化不大，和图表展示的有很大的差异。
您可以在空闲的时间回复一下吗？我应该怎么达到图表中剪枝的效果呢？谢谢
在slimming.py中，参数pruneratio根本没有用到啊
同一楼，不清楚现在的slimming.py 的css_thresholding 是否可行？ 如何修改剪枝比例？
你好，我基于mobilenet，利用slimming来进行剪枝，下面是运算量和参数数量的变化
flops:313.464M->310.625M, params: 2.226M->2.206M。
实验过程中的参数设置是和您给的一样的，但是剪枝后的参数数量基本变化不大，和图表展示的有很大的差异。
您可以在空闲的时间回复一下吗？我应该怎么达到图表中剪枝的效果呢？谢谢
请问你解决了吗？
@YongboLiang你解决了吗？我修剪完 不仅参数减少了这么点，而且加载出来的准确率我训练的时候达到了九十几，加载出来是十几，你知道为什么吗
@YongboLiang @Jinjicheng @qinger2020
1：slimming原先是全局排序裁减，后面作者调整为根据该层排序裁剪，可以查一下history就能看到。
2：自己可以调整css_thresholding函数，达到自己设计的剪枝比例；实在不会，那就直接将OT_DISCARD_PERCENT=1e-2调大。就能看到压缩flops和param效果了。
@PQ-girl prune完需要finetune.
@YongboLiang @Jinjicheng @qinger2020 1：slimming原先是全局排序裁减，后面作者调整为根据该层排序裁剪，可以查一下history就能看到。 2：自己可以调整css_thresholding函数，达到自己设计的剪枝比例；实在不会，那就直接将OT_DISCARD_PERCENT=1e-2调大。就能看到压缩flops和param效果了。 @PQ-girl prune完需要finetune.
您好，这个slimming剪枝后的模型有没有重构？而且我看剪枝后的通道数不是8的倍数。。这个是要自己写是吗
@YongboLiang @Jinjicheng @qinger2020 1：slimming原先是全局排序裁减，后面作者调整为根据该层排序裁剪，可以查一下history就能看到。 2：自己可以调整css_thresholding函数，达到自己设计的剪枝比例；实在不会，那就直接将OT_DISCARD_PERCENT=1e-2调大。就能看到压缩flops和param效果了。 @PQ-girl prune完需要finetune.
您好，这个slimming剪枝后的模型有没有重构？而且我看剪枝后的通道数不是8的倍数。。这个是要自己写是吗