ieee-754 问答列表

IEEE 754 舍入或斩波

作者:Dante 提问时间:10/15/2014

谁和在什么阶段决定使用切碎或舍入数字?例如,如果我编写一个 C 程序,并且其中有一个变量,那么数字会发生什么(无论其浮点表示如何)?是切成还是四舍五入?我的 C 编译器是否在这两种可能性之间做出决定?...

PPC64长双机ε计

作者:anymous.asker 提问时间:8/28/2021

我正在玩一个在 qemu 中模拟的 PPC64 虚拟机,试图模仿 POWER8 CPU。 在这里,该类型与 x86 中用于长双精度的 80 位浮点不同,并且从我所看到的情况来看,它也不符合 IEEE...

获得两个“接近”IEEE754双精度值之间的“精确”差异?

作者:Martin Ba 提问时间:2/9/2022

我什至不确定我所要求的是否可能,但这里是: 我们的 C++ 代码执行以下计算: double get_delta(double lhs, double rhs) { return lhs - r...

为什么 JavaScript 中的 0.3 + 0 == 0.3 和 0.1 + 0 == 0.1 不能完全用二进制表示

作者:runtimeerror 提问时间:2/14/2022

第一个问题: 如果我们这样做,在 java 脚本中。 0.2 + 0.1 =>0.30000000000000004 因为 0.2,0.1 四舍五入为不同的数字,总和也四舍五入为不同的数字 本文...

与浮子和双精度相关的概念

作者:Hash Blog 提问时间:5/14/2021

为什么 的精度在小数点后最多 6 位,而 的精度在小数点后最多 15 位?floatdouble 谁能给出一个数学解释?...

为什么IEEE754双精度格式只能精确到 15 位?

作者:xdxt 提问时间:4/25/2022

我目前正在学习浮点表示。根据本网站,以下是此表示的可能范围。-1.79E+308 至 -2.23E-308、0 和 2.23E-308 至 1.79E+308。问题是,我不太明白这个范围意味着什么。既...

浮点文字中要尽可能正确地表示值的最小有效十进制位数是多少?

作者:xiver77 提问时间:4/25/2022

例如,使用 IEEE-754 32 位二进制浮点数,让我们表示 的值。它不能完全完成,但会产生最接近 的值。您可能希望以十进制形式写入该值,并让编译器将十进制文本转换为二进制浮点数。1 / 30x3e...

为什么 C 或 C++ “-0” 不会产生浮点 -0?

作者:Quang Thinh Ha 提问时间:6/2/2022

我正在尝试收集一些浮点运算的边缘情况。问题是,我的尝试并没有向我展示我想要的东西:printf #include <cmath> #include <stdio.h> #include <compl...

Python 3(使用 IEEE-754)中浮点数的 17 位十进制表示是否总是“精确”到数值精度?

作者:Xilexio 提问时间:6/26/2022

对于使用 IEEE-754 浮点数的 CPython 3.10 或更高版本中从 0 到 1 的所有浮点数 r,是否符合以下情况? float('%.17g' % r) == r 换句话说,从 0...

最小的 i 有 1/i == 1/(i+1)?

作者:Kelly Bundy 提问时间:7/6/2022

有人反向排序而不是通常的排序,这让我想知道:失败的最小正整数情况是什么*?我认为它一定是两个连续的整数并且具有相同的倒数。我发现的最小的是:1/i-iii+1floati = 636905172111...


共66条 当前第6页