问答列表

对于没有下溢和溢流的浮点数 x,x+x 和 x*2 的结果是否相同?

作者:displaydisplayname 提问时间:6/19/2023

例如,最初我有这样的代码: function(x,y){ let z=x+y; . . . } 后来我发现 y 必须和 x 一样,想重构 x+y 到 x * 2,但需要保证重构前后整个程...

Python 中大整数/数字的浮点数到 Int 类型的转换

作者:Siddhant Agarwal 提问时间:5/20/2022

在我正在处理的以下代码上需要一些帮助。为什么“a”中的原始数字在进行类型转换时与“c”不同。有什么方法可以使“a”和“c”在通过float ->int类型转换时相同? a = '4670000000...

如何在 PyAutoGui.Prompt() 中输入浮点数???使用 Python

作者:Tom Quirin 提问时间:6/20/2023

我只能在 PyAutoGui.Prompt 字段中输入 int 或 str。有没有办法进入浮动? 感谢任何帮助... 汤姆 我尝试在 python 中为预期中奖率计算器输入浮点数,但只能输入 i...

设计对泛型数学接口有约束的泛型类型

作者:Matthew Layton 提问时间:3/5/2023

请考虑以下简单示例,该示例是一个表示 .ISignedNumber<T> public readonly struct Square<T> where T : ISignedNumber<T> { ...

程序集浮点数学

作者:joshjkk 提问时间:6/22/2023

我正在制作一个编译为x86_64汇编的编译器,并且我正在尝试实现浮点数学。然而,我很快就遇到了问题,因为浮点在组装中很困难,所以我试图用它们练习,但我没有找到运气。 在这个程序中,我想将两个浮点数加...

Jquery 和 C# deciaml 和 parseflot 值不同

作者:TechGuy 提问时间:6/22/2023

我有一个后端代码,我尝试使用 jquery 在前端做同样的事情。但结果是不同的。(正确的值是 C# 代码重调值。 C# 代码 var geoConvr = (decimal)141.5 / (dec...

使用 NRF MCU 和 Zephyr 在 C++ 中浮点到字符串

作者:Yann 提问时间:6/24/2023

我只想将浮点数转换为字符串。通常,这是使用 C++ 标准库和命令完成的。但是,当我在 MCU nrf52840 上编程时,我遇到了垃圾。to_string(float) 这是代码 #include...

为什么浮点数不准确?

作者: 提问时间:2/20/2014

为什么有些数字在存储为浮点数时会失去准确性? 例如,十进制数可以精确地表示为两个十进制整数()的比率,两者都可以精确地用二进制()表示。但是,存储为浮点数的相同比率永远不会完全等于:9.292/10...

Python ROUND_HALF_EVEN的工作原理

作者:Adil Khatri 提问时间:6/28/2023

为什么即使在我的全局上下文“舍入”设置为 之后,我也会得到 0.27 作为我的答案?round(0.265, 2)ROUND_HALF_EVEN 这是我的代码。 import decimal fr...

将较大的 int 值转换为浮点数,不向上舍入 [duplicate]

作者:alexfilexpo 提问时间:6/30/2023

这个问题在这里已经有答案了: 为什么IEEE754精度格式只能精确到 15 位? (1 个答案) 浮点数学坏了吗? (34 个答案) 5个月前关闭。 今天我发现将 int 转换为浮点具有非常有趣的精...


共817条 当前第63页