点精度 问答列表

Python 中的浮点近似

作者:Đức hiếu Trần 提问时间:2/1/2023

我是 python 的新手,我正在尝试了解浮点近似以及浮点数在 Python 中的表示方式。 例如: >>> .1 + .1 + .1 == .3 False >>> .25 + .25 + .2...

时间关键型 C++ 循环中的浮点数舍入错误,寻找有效的解决方案

作者:elena 提问时间:2/7/2023

作为一个前提,我知道这个问题已经得到解决,但从未在这种特定情况下得到解决,从我能找到的搜索中。 在一段时间关键的代码中,我有一个循环,其中浮点值 x 必须在“z”步长中从 0 线性增长到正好 1。 ...

使用标准 C 数学库精确计算 Lambert W 函数的主分支

作者:njuffa 提问时间:9/18/2022

Lambert W 函数是 f(w) = wew 的反函数。它是一个多值函数,在复数上有无限多的分支,但在实数上只有两个分支,用 W0 和 W-1 表示。W0 被视为主分支,输入 域为 [-1/e, ...

tcl/python 中的浮点加法/减法

作者:kil47 提问时间:2/23/2023

我正在尝试对数字进行减法 在 TCL 或 Python 中:= 201.804600000000002expr { 202.2246-0.42} 理想情况下,答案应该是 201.8046 解决它...

Math.round(intA/intB) 是否总是在每台设备上返回相同的结果?

作者:Curtis 提问时间:3/29/2023

我担心像 7/2 这样的东西可能会在某些计算机上变成 3.499999999 而不是 3.5,然后四舍五入为 3 而不是 4。这可能吗? 我需要每台计算机都精确地重新运行相同的数学运算。这是我唯一一...

C 中的浮点数不精确

作者:Zaratruta 提问时间:5/18/2023

我开始学习 c 编程语言。 我知道浮动用以下方式表示: 1 位符号 指数为 8 位 尾数为 23 位 这是否意味着我只能精确地表示精度为 23 位的实数? 也就是说,如果我想表示一个大于 2^23...

存储/加载/移动后浮点数相等

作者:Kai Schmidt 提问时间:5/31/2023

我和一位同事在比较两个未经数学运算的浮点数时会发生什么存在分歧。也就是说,这些数字可能已经在内存和/或CPU寄存器周围移动,但没有对它们进行数学运算。也许它们已被放入列表中,然后被删除或其他各种操作。...

映射到同一双精度浮点数的两个 16 位十进制数字是多少?

作者:Jagerber48 提问时间:7/24/2023

据说,在双精度浮点数所涵盖的范围内,任何以 15 位精度表示的十进制数都可以用特定的浮点数唯一标识。但是,如果我们包含更多精度的数字(即 16),我们可能会看到两个或多个十进制数对应于同一个浮点数。有...

浮点任意精度是否可用?

作者:OmnipotentEntity 提问时间:7/17/2012

只是为了好玩,因为它真的很容易,我写了一个简短的程序来生成嫁接数,但由于浮点精度问题,它没有找到一些更大的例子。 def isGrafting(a): for i in xrange(1, int...

Printf 宽度说明符以保持浮点值的精度

作者:Vilhelm Gray 提问时间:5/30/2013

是否有宽度说明符可以应用于浮点说明符,该浮点说明符会自动将输出格式化为必要数量的有效数字,以便在重新扫描字符串时获取原始浮点值?printf 例如,假设我将 a 打印为小数点后一位的精度:float...


共176条 当前第17页