浮点 问答列表

为什么所有带有几位数字的小数点都能正确打印?

作者:Weier 提问时间:6/14/2023

众所周知,计算机以近似的方式将浮点数存储在有限内存上(参见 IEEE 754)。 这会导致奇怪的行为,例如(在 Python 中,但这应该无关紧要): >>> 0.1 + 0.2 0.300000...

int 与浮点数的乘法导致错误 [duplicate]

作者:Abhilash0496 提问时间:6/16/2023

这个问题在这里已经有答案了: 国际除法:为什么 1/3 == 0 的结果? (19 个答案) 5个月前关闭。 import java.util.Scanner; public class Main ...

如何使用scanf读取nasm x86 64中的浮点值?

作者:Jonas 提问时间:6/17/2023

我正在尝试简单地读取浮点值并使用程序集 x86 64 打印它。因此,当我尝试打印变量价格时,我将其用作 c 函数 scanf 缓冲区的值不会改变。 它将打印最初设置的值,因此在下面的代码中,它打印 ...

不能使用运算符<< 和 std::float128_t;如何打印?

作者:Jan Schultke 提问时间:6/18/2023

我有以下代码,它不能使用 x86_64 GCC 13 编译: #include <iostream> #include <stdfloat> int main() { std::cout << ...

对于浮点数 a 和 b,没有溢出、下溢和 NaN,a-b&gt;0 是否总是等于 a&gt;b?

作者:displaydisplayname 提问时间:6/19/2023

例如,如果我想重构代码:a-b>0 到 a>b,它们是否相同?没有溢流、下溢和 NaN,是否有 a-b>0 和 a>b 产生不同值的 a 和 b?例如:A-B 和 A>B 是否会使用不同的舍入机制,从...

对于没有下溢和溢流的浮点数 x,x+x 和 x*2 的结果是否相同?

作者:displaydisplayname 提问时间:6/19/2023

例如,最初我有这样的代码: function(x,y){ let z=x+y; . . . } 后来我发现 y 必须和 x 一样,想重构 x+y 到 x * 2,但需要保证重构前后整个程...

Python 中大整数/数字的浮点数到 Int 类型的转换

作者:Siddhant Agarwal 提问时间:5/20/2022

在我正在处理的以下代码上需要一些帮助。为什么“a”中的原始数字在进行类型转换时与“c”不同。有什么方法可以使“a”和“c”在通过float ->int类型转换时相同? a = '4670000000...

设计对泛型数学接口有约束的泛型类型

作者:Matthew Layton 提问时间:3/5/2023

请考虑以下简单示例,该示例是一个表示 .ISignedNumber<T> public readonly struct Square<T> where T : ISignedNumber<T> { ...

程序集浮点数学

作者:joshjkk 提问时间:6/22/2023

我正在制作一个编译为x86_64汇编的编译器,并且我正在尝试实现浮点数学。然而,我很快就遇到了问题,因为浮点在组装中很困难,所以我试图用它们练习,但我没有找到运气。 在这个程序中,我想将两个浮点数加...

Jquery 和 C# deciaml 和 parseflot 值不同

作者:TechGuy 提问时间:6/22/2023

我有一个后端代码,我尝试使用 jquery 在前端做同样的事情。但结果是不同的。(正确的值是 C# 代码重调值。 C# 代码 var geoConvr = (decimal)141.5 / (dec...


共635条 当前第47页