float 和 double 有什么区别?
作者:VaioIsBorn 提问时间:3/5/2010
我读过双精度和单精度之间的区别。然而,在大多数情况下,并且似乎是可以互换的,即使用一个或另一个似乎不会影响结果。真的是这样吗?浮子和双打什么时候可以互换?它们之间有什么区别?floatdouble...
精度 问答列表
作者:VaioIsBorn 提问时间:3/5/2010
我读过双精度和单精度之间的区别。然而,在大多数情况下,并且似乎是可以互换的,即使用一个或另一个似乎不会影响结果。真的是这样吗?浮子和双打什么时候可以互换?它们之间有什么区别?floatdouble...
作者:keg504 提问时间:7/31/2023
我有一个函数,它传递了一个一维坐标数组。这些是已在字典中定义分段函数的部分的末尾,也作为输入传入。但是,在进行比较时,数组值会更改循环中的精度,因此比较不再起作用。代码如下: def parse_m...
作者:Vistemboir 提问时间:8/5/2023
我正在尝试使用 bfloat16 作为在 HPC 集群上工作的应用程序的格式。为此,我安装了 g++13,据说它支持 bfloat16 格式,但这对我来说并不一致。 在我的本地机器上,它可以工作并支持...
作者:OverLordGoldDragon 提问时间:8/8/2023
atol=1e-8不适合单精度或半精度,不确定 - 它们似乎已针对 .rtol=1e-5float64 和的标准应该是什么?float32float16 参考是首选 - 我找到了这个,但没有摘要,...
作者:OverLordGoldDragon 提问时间:8/8/2023
abs(a - b) <= (atol + rtol * abs(b)) 与 (abs(a - b) <= atol or abs(a - b) / max(abs(a), abs(b)) ...
作者:The Guy with The Hat 提问时间:8/11/2023
我有一个复杂的模型,我想以混合精度进行训练。为此,我使用 torch.amp 包。我可以使用 为整个模型启用 AMP。但是,模型训练不稳定,因此我想强制模型的某些区域浮动32。with torch.c...
作者:Lampe2020 提问时间:8/13/2023
有没有办法确定一个数字是可存储为单浮点数还是双浮点数? 我正在实现自己的数据库格式,在我的帮助程序函数中,我目前有以下代码:num2bin(n) import struct, warnings d...
作者:OverLordGoldDragon 提问时间:8/14/2023
g0 = randn(1, 100); g1 = g0; g1(2:end) = flip(g1(2:end)); sprintf("%.15e", sum(g0) - sum(g1)) g0 = ...
作者:aybe 提问时间:8/14/2023
我有一套 240 个 FIR 滤波器卷积的单元测试,具有不同的抽头数量。 预期用途: 它用于在 Unity 中编写音频过滤器,最初的朴素卷积是在托管代码中完成的,但对于实时音频处理来说太慢了。 ...
作者:Twagnah 提问时间:8/16/2023
我一直在一个项目中遇到这种情况,我正在做大量的双精度和浮点到字符串的转换,但我已将其缩减为非常小的东西,以展示问题。 void setup() { double num = 123456789.1...