浮点 问答列表

小数点后 16 位的数字管理

作者:Goffredo psw 提问时间:10/20/2022

我需要在项目中使用小数点后 16 位的数字并用它们进行数学运算,但我在处理它们时遇到了问题。 无论它在 php 中做什么,如果它们太长,它们就会被截断。 例如: $value = 12345678...

为什么 0.1+0.2-0.3 不等于 0.0?[复制]

作者:Faroque Ahmed 提问时间:10/20/2022

这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 去年关闭。 为什么 0.1+0.2-0.3 不等于 0.0 ?根据正态方程,结果应该是 0,但为什么不是呢? 有人可以解释一下原因...

使用 -O0 和 -O2 编译的两个程序是否应该各自产生相同的浮点结果?

作者:gbg 提问时间:10/21/2022

简短示例: #include <iostream> #include <string_view> #include <iomanip> #define PRINTVAR(x) printVar(#...

以 b 系统为基础表示的总数,尾数以 n 位数字表示

作者:rajit_alkmaar 提问时间:10/23/2022

我试图证明在基 b 的系统中,尾数的 n 位数字和指数 e 的 e ( m <= e <= M) 总共有:1 + 2(b-1)(M-m+1)b^{n-1}。在计算它时,我得出: 总共有 (M-m+1...

STD 中的浮点数到字符串转换实现

作者:Valera Dubrava 提问时间:7/7/2022

我遇到了一个奇怪的问题。请看这个简单的代码: int main(int argc, char **argv) { char buf[1000]; snprintf_l(buf, sizeof(b...

将浮点数转换为十进制,为什么需要显式转换?

作者:Jerry 提问时间:10/25/2022

我知道 decimal 类型比 float 更精确,所以我认为将 float 转换为 decimal 就像将 float 转换为 double 一样是合理的。但在现实中,事实并非如此。 float ...

浮子型没用?

作者:owns good 提问时间:10/26/2022

在我的 Java 书中,它告诉我在将 2 个不同的 float(type) 数字存储在变量中时不要直接比较它们。因为它在变量中给出了一个近似的数字。相反,它建议检查差值的绝对值,看看它是否等于 0。如...

将浮点数转换为无符号字符是否有效?

作者:Anonymous 提问时间:10/26/2022

有人可以解释一下如何铸造作品吗?这是有效的转换吗?floatuint32_t 下面代码中第一行的输出对我来说很有意义,但其余的都是我自己无法弄清楚的。 cout<<uint8_t(256+33)<...

HTML5 中是否有浮点输入类型?

作者:B. Clay Shannon-B. Crow Raven 提问时间:9/26/2013

根据 html5.org,“number”输入类型的“value 属性,如果指定且不为空,则其值必须为有效的浮点数。 然而,它只是(无论如何,在最新版本的 Chrome 中)是一个带有整数的“upd...

IEEE 标准浮点标准中的非正态数

作者:Jin 提问时间:10/9/2022

我认为正确的是,在单个浮点和正常情况下,最小值将是 (以ABS值表示) 1.0 × 2-126 但是在非正态情况下(当指数为 000...0 时),较小的值可以表示为 2-23 × 2-127 ...


共635条 当前第33页