与张量无关的,gather数据索引错误

数据出现大量的Nan的情况,其他数据已经十亿开外,明明每一步的张量形状都是正确的,但是就是出现各种索引错误,无法进行正确的张量形变工作。

经过师弟帮忙,一部一部进行测试,部分排除错误问题。

使用

torch.randn(8,3,224,224)

torch.FloatTensor(8,3,224,224)

1,randn提供的随机数可以运行,但是FloatTensor提供的不行,后者不是初始化的数据,导致数据崩盘,出现大量Nan。

2, 出现这种情况,是因为对自己设计的卷积offsets没有进行数据初始化,导致卷积分量太大,超出了数据表现的范围。加入从初始化之后,程序呢运行正常。
3, 下次再出现这种问题,首先要检查与数据相关的超参数,例如学习率,激活函数的选取,参数是否初始化。

谨记,共勉~~

猜你喜欢

转载自blog.csdn.net/weixin_36411839/article/details/103766619