精度 问答列表

float 和 double 有什么区别?

作者:VaioIsBorn 提问时间:3/5/2010

我读过双精度和单精度之间的区别。然而,在大多数情况下,并且似乎是可以互换的,即使用一个或另一个似乎不会影响结果。真的是这样吗?浮子和双打什么时候可以互换?它们之间有什么区别?floatdouble...

numpy 数组在传递到循环时会失去精度,因此比较不起作用

作者:keg504 提问时间:7/31/2023

我有一个函数,它传递了一个一维坐标数组。这些是已在字典中定义分段函数的部分的末尾,也作为输入传入。但是,在进行比较时,数组值会更改循环中的精度,因此比较不再起作用。代码如下: def parse_m...

在使用 g++13 的 x86 CPU 上使用 bfloat16 和 C++23

作者:Vistemboir 提问时间:8/5/2023

我正在尝试使用 bfloat16 作为在 HPC 集群上工作的应用程序的格式。为此,我安装了 g++13,据说它支持 bfloat16 格式,但这对我来说并不一致。 在我的本地机器上,它可以工作并支持...

Numpy 全精度和半精度公差?

作者:OverLordGoldDragon 提问时间:8/8/2023

atol=1e-8不适合单精度或半精度,不确定 - 它们似乎已针对 .rtol=1e-5float64 和的标准应该是什么?float32float16 参考是首选 - 我找到了这个,但没有摘要,...

Numpy AllClose 与 MPMath Almosteq

作者:OverLordGoldDragon 提问时间:8/8/2023

abs(a - b) <= (atol + rtol * abs(b)) 与 (abs(a - b) <= atol or abs(a - b) / max(abs(a), abs(b)) ...

Pytorch 自动混合精度 - 将整个代码块转换为 float32

作者:The Guy with The Hat 提问时间:8/11/2023

我有一个复杂的模型,我想以混合精度进行训练。为此,我使用 torch.amp 包。我可以使用 为整个模型启用 AMP。但是,模型训练不稳定,因此我想强制模型的某些区域浮动32。with torch.c...

确定数字是否在浮点数或双精度范围内

作者:Lampe2020 提问时间:8/13/2023

有没有办法确定一个数字是可存储为单浮点数还是双浮点数? 我正在实现自己的数据库格式,在我的帮助程序函数中,我目前有以下代码:num2bin(n) import struct, warnings d...

随机数重新排序的总和合并为重复值

作者:OverLordGoldDragon 提问时间:8/14/2023

g0 = randn(1, 100); g1 = g0; g1(2:end) = flip(g1(2:end)); sprintf("%.15e", sum(g0) - sum(g1)) g0 = ...

比较两个 32 位浮点值的增量值可以有多低?

作者:aybe 提问时间:8/14/2023

我有一套 240 个 FIR 滤波器卷积的单元测试,具有不同的抽头数量。 预期用途: 它用于在 Unity 中编写音频过滤器,最初的朴素卷积是在托管代码中完成的,但对于实时音频处理来说太慢了。 ...

使用 arduino::String 打印格式而不是值的双精度字符串?

作者:Twagnah 提问时间:8/16/2023

我一直在一个项目中遇到这种情况,我正在做大量的双精度和浮点到字符串的转换,但我已将其缩减为非常小的东西,以展示问题。 void setup() { double num = 123456789.1...


共694条 当前第25页