IEEE 754 舍入或斩波
作者:Dante 提问时间:10/15/2014
谁和在什么阶段决定使用切碎或舍入数字?例如,如果我编写一个 C 程序,并且其中有一个变量,那么数字会发生什么(无论其浮点表示如何)?是切成还是四舍五入?我的 C 编译器是否在这两种可能性之间做出决定?...
ieee-754 问答列表
作者:Dante 提问时间:10/15/2014
谁和在什么阶段决定使用切碎或舍入数字?例如,如果我编写一个 C 程序,并且其中有一个变量,那么数字会发生什么(无论其浮点表示如何)?是切成还是四舍五入?我的 C 编译器是否在这两种可能性之间做出决定?...
作者:anymous.asker 提问时间:8/28/2021
我正在玩一个在 qemu 中模拟的 PPC64 虚拟机,试图模仿 POWER8 CPU。 在这里,该类型与 x86 中用于长双精度的 80 位浮点不同,并且从我所看到的情况来看,它也不符合 IEEE...
作者:Martin Ba 提问时间:2/9/2022
我什至不确定我所要求的是否可能,但这里是: 我们的 C++ 代码执行以下计算: double get_delta(double lhs, double rhs) { return lhs - r...
作者:runtimeerror 提问时间:2/14/2022
第一个问题: 如果我们这样做,在 java 脚本中。 0.2 + 0.1 =>0.30000000000000004 因为 0.2,0.1 四舍五入为不同的数字,总和也四舍五入为不同的数字 本文...
作者:Hash Blog 提问时间:5/14/2021
为什么 的精度在小数点后最多 6 位,而 的精度在小数点后最多 15 位?floatdouble 谁能给出一个数学解释?...
作者:xdxt 提问时间:4/25/2022
我目前正在学习浮点表示。根据本网站,以下是此表示的可能范围。-1.79E+308 至 -2.23E-308、0 和 2.23E-308 至 1.79E+308。问题是,我不太明白这个范围意味着什么。既...
作者:xiver77 提问时间:4/25/2022
例如,使用 IEEE-754 32 位二进制浮点数,让我们表示 的值。它不能完全完成,但会产生最接近 的值。您可能希望以十进制形式写入该值,并让编译器将十进制文本转换为二进制浮点数。1 / 30x3e...
作者:Quang Thinh Ha 提问时间:6/2/2022
我正在尝试收集一些浮点运算的边缘情况。问题是,我的尝试并没有向我展示我想要的东西:printf #include <cmath> #include <stdio.h> #include <compl...
作者:Xilexio 提问时间:6/26/2022
对于使用 IEEE-754 浮点数的 CPython 3.10 或更高版本中从 0 到 1 的所有浮点数 r,是否符合以下情况? float('%.17g' % r) == r 换句话说,从 0...
作者:Kelly Bundy 提问时间:7/6/2022
有人反向排序而不是通常的排序,这让我想知道:失败的最小正整数情况是什么*?我认为它一定是两个连续的整数并且具有相同的倒数。我发现的最小的是:1/i-iii+1floati = 636905172111...