我想知道如何将GPU上的张量精度截断到所需的小数位数?我希望将张量中的元素限制到小数点后4位,但似乎Torch中没有内置函数可以高效且有效地完成这一操作。有人知道如何做到这一点吗?
回答:
虽然直接对张量中的数字进行四舍五入仍然不是一件简单的事,但有一个简单的解决方案(基本上满足了我的需求),那就是将张量转换为半精度,如下所示:
require 'cutorch'
temp = torch.rand(3, 3)
temp = temp:cuda()
temp = temp:cudaHalf()