问答列表

使用标准 C 数学库精确计算 Lambert W 函数的主分支

作者:njuffa 提问时间:9/18/2022

Lambert W 函数是 f(w) = wew 的反函数。它是一个多值函数,在复数上有无限多的分支,但在实数上只有两个分支,用 W0 和 W-1 表示。W0 被视为主分支,输入 域为 [-1/e, ...

关于比较浮点数的公差和公式的原则性推理?

作者:shadowtalker 提问时间:2/14/2023

Python 标准库包含函数 math.isclose,它等效于: abs(a - b) <= max(rtol * max(abs(a), abs(b)), atol) Numpy 库同样包含...

C 浮点到定点转换

作者:jmsandiegoo 提问时间:2/21/2023

嗨,我正在尝试在不使用任何库函数的情况下在浮点和定点表示之间制作一个转换器。到目前为止,定点表示为 16 位,其中整数部分为 10,小数部分为 6。我一直在谷歌搜索并找到了可能的解决方案。 inli...

tcl/python 中的浮点加法/减法

作者:kil47 提问时间:2/23/2023

我正在尝试对数字进行减法 在 TCL 或 Python 中:= 201.804600000000002expr { 202.2246-0.42} 理想情况下,答案应该是 201.8046 解决它...

如何在 Python 中处理非常小的数字 (&lt;1e-15),传递给 Scipy/Numpy 函数?

作者:Geoff2009max 提问时间:2/21/2023

我想计算一些 scipy 函数,例如:(https://docs.scipy.org/doc/scipy/reference/generated/scipy.special.gammaincinv.h...

返回 float(“nan”) 的 Python 函数或操作

作者:hiro protagonist 提问时间:2/23/2023

IEEE浮点运算标准(IEEE 754)要求存在一个(或两个...)称为(而不是数字)。floatnan 有两种方法可以获得(据我所知)nan nan = float("nan") # or fr...

如果美分和聪之间的差异太大,如何在法定货币和加密货币之间进行正确的计算?

作者:Eugene Shmorgun 提问时间:2/27/2023

我正在调查法定货币和加密货币之间的相互重新计算问题,我发现,在我看来,没有适当的方法来支持稳定的重新计算。让我用例子来解释问题。 我不确定是否可能提供指向另一个站点的链接,但这仅用于演示。 例如,我正...

javascript 中的货币转换和浮点精度

作者:fossmoat 提问时间:2/27/2023

由于 JavaScript 在浮点数方面有其怪癖(例如,0.1+0.2 是 0.3 > 以及类似的除法),如何处理货币转换?通常,货币兑换率从小数点后 6 位或更多位开始浮动。将它们从一种货币转换为另...

为什么 dpes 此代码打印“False”?为什么不打印“True”?[复制]

作者:محمود خالد 提问时间:3/7/2023

这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 为什么浮点数不准确? (5 个答案) 浮点 == 可以吗? (14 个答案) 9个月前关闭。 当我运行此代码时,它会打印 .我不清楚...

如何使用IEEE标准将十六进制转换为二进制表示中的浮点数

作者:Tony Cheng 提问时间:3/5/2023

示例:十六进制数为 45100000H,其浮点数在 IEEE 标准中的表示是什么。 我的计算过程是: 45100000H = 0100 0101 0001 0000 0000 0000 0000 ...


共817条 当前第54页