问答列表

Lua 浮点精度搞砸了?

作者:Riccardo Di Michele 提问时间:5/9/2023

免责声明:我在桌面模拟器游戏中使用 lua,我不知道这是否以任何方式干扰了 lua 的“正常工作” 我已经预先计算了一堆向量: grey_res = {55.00, 3, -10.80}, c...

如何使用 cout 全精度打印双精度值?

作者:Jason Punyon 提问时间:2/17/2009

在我之前的问题中,我正在打印一个在我没有预料到的情况下被舍入的用途。如何使用全精度进行打印?doublecoutcoutdouble...

将归一化浮点二进制转换为否定

作者:Chris 提问时间:6/11/2023

当您移动值进行转换时,当二进制数的某些数据丢失时,您应该怎么做?我将在下面添加一个示例。我要写我的作品,以防万一! 假设我们有二进制数(8 位尾数,4 位指数,均为 2 的补码)10100011 1...

解释减去浮点数 1.0 - 1.0 的步骤

作者:user3869810 提问时间:6/14/2023

我正在写减去浮点数 1.0 - 1.0 的论文。 我将指数对齐,然后减去尾数。这是零,我的结果是 1.0。显然,结果应该是 0。如果我不能将尾数归一化为 0,没有位可以移动,这怎么可能? 指数是对...

从 0 到 N-1 的最大整数范围是多少,可以由 [0, 1] 范围内的 IEEE 754 双精度浮点值表示?

作者: 提问时间:6/13/2023

如果我们通过将浮点范围乘以整数值来将双精度浮点范围映射到整数范围,那么在截断/下限结果为整数时表示所有数字的最大数字是多少?没有扩展精度乘法。N 四舍五入为可表示的值。[0, 1)[0-N)NN[0-...

为什么所有带有几位数字的小数点都能正确打印?

作者:Weier 提问时间:6/14/2023

众所周知,计算机以近似的方式将浮点数存储在有限内存上(参见 IEEE 754)。 这会导致奇怪的行为,例如(在 Python 中,但这应该无关紧要): >>> 0.1 + 0.2 0.300000...

int 与浮点数的乘法导致错误 [duplicate]

作者:Abhilash0496 提问时间:6/16/2023

这个问题在这里已经有答案了: 国际除法:为什么 1/3 == 0 的结果? (19 个答案) 5个月前关闭。 import java.util.Scanner; public class Main ...

如何使用scanf读取nasm x86 64中的浮点值?

作者:Jonas 提问时间:6/17/2023

我正在尝试简单地读取浮点值并使用程序集 x86 64 打印它。因此,当我尝试打印变量价格时,我将其用作 c 函数 scanf 缓冲区的值不会改变。 它将打印最初设置的值,因此在下面的代码中,它打印 ...

不能使用运算符<< 和 std::float128_t;如何打印?

作者:Jan Schultke 提问时间:6/18/2023

我有以下代码,它不能使用 x86_64 GCC 13 编译: #include <iostream> #include <stdfloat> int main() { std::cout << ...

对于浮点数 a 和 b,没有溢出、下溢和 NaN,a-b&gt;0 是否总是等于 a&gt;b?

作者:displaydisplayname 提问时间:6/19/2023

例如,如果我想重构代码:a-b>0 到 a>b,它们是否相同?没有溢流、下溢和 NaN,是否有 a-b>0 和 a>b 产生不同值的 a 和 b?例如:A-B 和 A>B 是否会使用不同的舍入机制,从...


共817条 当前第62页