Lua 浮点精度搞砸了?
作者:Riccardo Di Michele 提问时间:5/9/2023
免责声明:我在桌面模拟器游戏中使用 lua,我不知道这是否以任何方式干扰了 lua 的“正常工作” 我已经预先计算了一堆向量: grey_res = {55.00, 3, -10.80}, c...
浮 问答列表
作者:Riccardo Di Michele 提问时间:5/9/2023
免责声明:我在桌面模拟器游戏中使用 lua,我不知道这是否以任何方式干扰了 lua 的“正常工作” 我已经预先计算了一堆向量: grey_res = {55.00, 3, -10.80}, c...
作者:Jason Punyon 提问时间:2/17/2009
在我之前的问题中,我正在打印一个在我没有预料到的情况下被舍入的用途。如何使用全精度进行打印?doublecoutcoutdouble...
作者:Chris 提问时间:6/11/2023
当您移动值进行转换时,当二进制数的某些数据丢失时,您应该怎么做?我将在下面添加一个示例。我要写我的作品,以防万一! 假设我们有二进制数(8 位尾数,4 位指数,均为 2 的补码)10100011 1...
作者:user3869810 提问时间:6/14/2023
我正在写减去浮点数 1.0 - 1.0 的论文。 我将指数对齐,然后减去尾数。这是零,我的结果是 1.0。显然,结果应该是 0。如果我不能将尾数归一化为 0,没有位可以移动,这怎么可能? 指数是对...
作者: 提问时间:6/13/2023
如果我们通过将浮点范围乘以整数值来将双精度浮点范围映射到整数范围,那么在截断/下限结果为整数时表示所有数字的最大数字是多少?没有扩展精度乘法。N 四舍五入为可表示的值。[0, 1)[0-N)NN[0-...
作者:Weier 提问时间:6/14/2023
众所周知,计算机以近似的方式将浮点数存储在有限内存上(参见 IEEE 754)。 这会导致奇怪的行为,例如(在 Python 中,但这应该无关紧要): >>> 0.1 + 0.2 0.300000...
作者:Abhilash0496 提问时间:6/16/2023
这个问题在这里已经有答案了: 国际除法:为什么 1/3 == 0 的结果? (19 个答案) 5个月前关闭。 import java.util.Scanner; public class Main ...
作者:Jonas 提问时间:6/17/2023
我正在尝试简单地读取浮点值并使用程序集 x86 64 打印它。因此,当我尝试打印变量价格时,我将其用作 c 函数 scanf 缓冲区的值不会改变。 它将打印最初设置的值,因此在下面的代码中,它打印 ...
作者:Jan Schultke 提问时间:6/18/2023
我有以下代码,它不能使用 x86_64 GCC 13 编译: #include <iostream> #include <stdfloat> int main() { std::cout << ...
作者:displaydisplayname 提问时间:6/19/2023
例如,如果我想重构代码:a-b>0 到 a>b,它们是否相同?没有溢流、下溢和 NaN,是否有 a-b>0 和 a>b 产生不同值的 a 和 b?例如:A-B 和 A>B 是否会使用不同的舍入机制,从...