点浮 问答列表

为什么这些数字不相等?

作者:dplanet 提问时间:3/1/2012

下面的代码显然是错误的。怎么了? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i ...

为什么这些数字不相等?

作者:dplanet 提问时间:3/1/2012

下面的代码显然是错误的。怎么了? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i ...

为什么这些数字不相等?

作者:dplanet 提问时间:3/1/2012

下面的代码显然是错误的。怎么了? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i ...

比较浮点值有多危险?

作者:Proud Member 提问时间:4/26/2012

我知道用途是因为分辨率无关的坐标系。UIKitCGFloat 但是每次我想检查时,例如,它是否让我感到恶心:frame.origin.x0 if (theView.frame.origin.x =...

R 与 Python 在浮点分辨率上的差异:是否可以将 Python 设置为像 R 一样?

作者:ce.teuf 提问时间:4/23/2021

我正在从事一个涉及线性代数概念操作的个人项目。 该项目首先涉及将 R(64 位版本)代码复制(翻译)为 Python 代码。 此处描述的问题试图重现我面临的问题。 根据我所做的一些互联网搜索,这个问...

JavaScript 似乎做错了浮点(与 C 相比)

作者:Oscar Smith 提问时间:5/17/2019

从我在网上找到的所有内容来看,据称 JavaScript 使用 IEEE 754 双精度作为其数字,但我发现数字可以在 C 双精度中工作,但在 JavaScript 中不起作用。例如 #includ...

在 MATLAB 中比较 2 个浮点数

作者:kim kevin 提问时间:10/29/2021

在过去的几周里,我被 Matlab 中的浮点比较问题折磨着。 我的代码涉及大量的 or . 让我发疯的是a<bc<=d dw = 0.001; W1 = [0:dw:1]; W2 = [0:dw:...

log2 表示最大 int 和 long 值

作者:top-of-stack 提问时间:5/17/2021

为什么我用 和 得到错误的结果?我本来以为是 63 分,但得到了 64 分。log2 (ULONG_MAX)log2 (ULLONG_MAX) UINT32_MAX == pow(2, 32) - ...

如何找到浮点数的最短表示形式

作者:DarkAtom 提问时间:5/10/2021

如果我尝试打印具有最大精度的类型浮点值,例如: printf("%.100e", FLT_MIN); 我明白了: 1.1754943508222875079687365372222456778...

PHP 中的浮点数 -- 奇怪的行为 [重复]

作者:user1442439 提问时间:11/20/2020

这个问题在这里已经有答案了: php, var_export 失败并显示 float [duplicate] (1 个答案) 浮点数学坏了吗? (34 个答案) 浮点数 / 浮点数 = 奇怪的结果 (...


共34条 当前第1页