浮点 问答列表

比较两个相同的“字面”浮点数是否相等是错误的?

作者:Mahozad 提问时间:8/29/2020

这个问题有点与语言无关,但代码是用 Java 编写的。 我们都听说过,比较浮点数是否相等通常是错误的。但是,如果我想比较两个完全相同的文字浮点值(或表示转换为浮点数的完全相同文字值的字符串)怎么办?...

两种乘积之和和差的精确浮点计算

作者:njuffa 提问时间:8/31/2020

两个乘积的差值和两个乘积之和是在各种常见计算中发现的两个基元。diff_of_products (a,b,c,d) := ab - cd 和 sum_of_products(a,b,c,d) := a...

MySQL中无效浮点数的错误

作者:Ștefan Teodor 提问时间:9/2/2020

引用 Alan Beaulieu 的 Learning SQL 第 3 版: “float(4,2) 列可以很好地处理数字 27.44 和 8.19,但数字 17.8675 将四舍五入为 17.87,...

为什么 4*0.1 的浮点值在 Python 3 中看起来不错,但 3*0.1 却不然?

作者:Aivar 提问时间:9/21/2016

我知道大多数小数没有精确的浮点表示(浮点数学坏了吗? 但我不明白为什么打印得很好,但不是,当 这两个值实际上都有丑陋的十进制表示:4*0.10.43*0.1 >>> 3*0.1 0.3000000...

使用 R:如何比较两个数字与与选项(digits=n)相关的浮点问题以及如何引入这些数字?[复制]

作者:mshaffer 提问时间:9/8/2020

这个问题在这里已经有答案了: R 中的数字比较难度 (8 答案) 为什么这些数字不相等? (6 个答案) 3年前关闭。 因此,让我们从常规 R 设置中的正常值开始: n1 = 0.15; n2 =...

如何在双精度字符串和十进制字符串之间进行转换?

作者: 提问时间:1/22/2020

提高精度超过双精度的一种方法(例如,如果我的应用程序正在做一些与空间相关的事情,需要表示许多光年距离上的准确位置)是使用双精度,这是一种由两个双精度组成的结构,表示两者的总和。算法以对这种结构的各种算...

双双实现,可灵活应对 FPU 舍入模式

作者:Pascal Cuoq 提问时间:4/7/2013

上下文:双双算术 “双精度”是数字的表示形式,表示为两个双精度数的总和,在有效数中没有重叠。这种表示利用现有的双精度硬件实现进行“接近四精度”的计算。 双精度实现中的一个典型低级 C 函数可能采用...

双精度浮点数为两个双精度之和

作者:rych 提问时间:3/25/2012

一段时间以来,我仍然无法找到dd_real(定义为)数如何被拆分为两个双精度的。比如说,如果我用字符串初始化它,会是什么 和 ?我需要理解它,然后编写一个希望很小的 Python 函数来做到这一点。s...

float128 和双双算术

作者:Romain Picot 提问时间:7/27/2015

我在维基百科上看到,实现四精度的某种方法是使用双精度算术,即使它在位方面的精度不完全相同:https://en.wikipedia.org/wiki/Quadruple-precision_float...

使用 2 个“float”模拟“double”

作者: 提问时间:7/21/2011

我正在为仅支持 32 位单精度浮点运算的嵌入式硬件编写程序。但是,我正在实现的算法需要 64 位双精度加法和比较。我正在尝试使用两个 s 的元组来模拟数据类型。因此,a 将被模拟为包含元组的 a:。d...


共635条 当前第19页