利用py-faster-rcnn训练网络时内存不足该如何更改batch_size?
关注者
20被浏览
19,0372 个回答
最早的这个faster rcnn repo给出来的代码只能做batch_size为1的实验,因为不同的输入图像尺寸不一样不能作为一个batch,不过现在有很多工作通过padding让输入样本都保持一致来达到多batch输入训练了。
回到问题,这里你显存不够,其实对于问题的描述还不准确,的确是batch需要调小,但是需要调小的是RPN输出的ROI数量,没记错的话默认是256,你将这个值设置小一点即可。