小数点后 16 位的数字管理
作者:Goffredo psw 提问时间:10/20/2022
我需要在项目中使用小数点后 16 位的数字并用它们进行数学运算,但我在处理它们时遇到了问题。 无论它在 php 中做什么,如果它们太长,它们就会被截断。 例如: $value = 12345678...
浮点 问答列表
作者:Goffredo psw 提问时间:10/20/2022
我需要在项目中使用小数点后 16 位的数字并用它们进行数学运算,但我在处理它们时遇到了问题。 无论它在 php 中做什么,如果它们太长,它们就会被截断。 例如: $value = 12345678...
作者:Faroque Ahmed 提问时间:10/20/2022
这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 去年关闭。 为什么 0.1+0.2-0.3 不等于 0.0 ?根据正态方程,结果应该是 0,但为什么不是呢? 有人可以解释一下原因...
作者:gbg 提问时间:10/21/2022
简短示例: #include <iostream> #include <string_view> #include <iomanip> #define PRINTVAR(x) printVar(#...
作者:rajit_alkmaar 提问时间:10/23/2022
我试图证明在基 b 的系统中,尾数的 n 位数字和指数 e 的 e ( m <= e <= M) 总共有:1 + 2(b-1)(M-m+1)b^{n-1}。在计算它时,我得出: 总共有 (M-m+1...
作者:Valera Dubrava 提问时间:7/7/2022
我遇到了一个奇怪的问题。请看这个简单的代码: int main(int argc, char **argv) { char buf[1000]; snprintf_l(buf, sizeof(b...
作者:Jerry 提问时间:10/25/2022
我知道 decimal 类型比 float 更精确,所以我认为将 float 转换为 decimal 就像将 float 转换为 double 一样是合理的。但在现实中,事实并非如此。 float ...
作者:owns good 提问时间:10/26/2022
在我的 Java 书中,它告诉我在将 2 个不同的 float(type) 数字存储在变量中时不要直接比较它们。因为它在变量中给出了一个近似的数字。相反,它建议检查差值的绝对值,看看它是否等于 0。如...
作者:Anonymous 提问时间:10/26/2022
有人可以解释一下如何铸造作品吗?这是有效的转换吗?floatuint32_t 下面代码中第一行的输出对我来说很有意义,但其余的都是我自己无法弄清楚的。 cout<<uint8_t(256+33)<...
作者:B. Clay Shannon-B. Crow Raven 提问时间:9/26/2013
根据 html5.org,“number”输入类型的“value 属性,如果指定且不为空,则其值必须为有效的浮点数。 然而,它只是(无论如何,在最新版本的 Chrome 中)是一个带有整数的“upd...
作者:Jin 提问时间:10/9/2022
我认为正确的是,在单个浮点和正常情况下,最小值将是 (以ABS值表示) 1.0 × 2-126 但是在非正态情况下(当指数为 000...0 时),较小的值可以表示为 2-23 × 2-127 ...