ieee-754 问答列表

有没有办法让serde_json正确/不正确地处理 NaN、Inf 和 -Inf(IEEE 754 特殊)?

作者:Corvus 提问时间:11/17/2023

官方的 JSON 规范不支持 IEEE 754,而是有自己的 null(不是“null”)或普通数字的约定。 在许多语言和用例中,人们会忽略这一点,并偏离规范以支持IEEE754浮点数。例如,在 p...

JavaScript 中错误地舍入了大数字

作者:Jaanus 提问时间:9/4/2009

请参阅此代码: var jsonString = '{"id":714341252076979033,"type":"FUZZY"}'; var jsonParsed = JSON.parse(js...

float 和 double 有什么区别?

作者:VaioIsBorn 提问时间:3/5/2010

我读过双精度和单精度之间的区别。然而,在大多数情况下,并且似乎是可以互换的,即使用一个或另一个似乎不会影响结果。真的是这样吗?浮子和双打什么时候可以互换?它们之间有什么区别?floatdouble...

在未显式转换为浮动的情况下使用 uint16_t 操作时出现意外结果

作者:Ricard Molins 提问时间:9/7/2023

我正在做一些操作,但没有找到确切的解释来解释为什么我发现特定行为。 上下文: 我收到一个值 (24.2),然后计算一些偏移和增益 然后通过CAN发送结果。 最小工作示例: #include <s...

C++ 基本浮点解析代码与 std::atof 结果略有不同

作者:Huy Le 提问时间:8/2/2023

#include <iostream> #include <fstream> #include <string> #include <algorithm> #include <vector> #inc...

IEEE754单精度浮点数的字节表示形式不一致

作者:user3414663 提问时间:8/3/2023

当使用 Common Lisp 读取包含单精度浮点数的二进制编码的数据文件时,会出现此问题,这些编码可能是从 C/C++ 编写的。在Lisp中,我使用了ieee-floats包。然而,这导致浮点数的有...

精确复制浮点值的重复相加

作者:TLW 提问时间:8/21/2023

在 IEEE 754 算术中是否存在复制浮点值重复求和的 sub-O(n) 方式1? 也就是说,有没有一种更快的方法可以精确地复制以下伪代码的结果: f64 notQuiteFMA(f64 acc...

IEEE-754复合功能范围限制的基本原理

作者:gammatester 提问时间:6/2/2018

IEEE Std 754-2008 在表 9.1 中列出 推荐的函数,有实数 x,整数 n(其中是幂运算符)。 域指定为 和 。 该函数应发出 x < -1 的无效操作异常信号。compound(x,...

Google 表格比 Microsoft Excel 更准确还是更准确?

作者:bers 提问时间:7/1/2020

我知道浮点数的数值不准确的一般问题,但我希望 Excel 和 Google 表格的行为相同。不幸的是,他们没有 - 请参阅以下示例: A1: 15.525 our reference A2: =3*...

为什么 NAN 的比较返回 true?

作者:Aryan Singh 提问时间:8/21/2023

正如 Java 语言规范中所写的那样,“如果其中一个或两个操作数都是 NaN,则数值比较运算符 <、<=、> 和 >= 返回 false” 所以我比较了两个 NAN。 为什么当我比较两个 NAN 时,...


共66条 当前第1页