点精度 问答列表

余数运算符是否容易受到浮点误差的影响?

作者:rhkoulen 提问时间:9/26/2021

我想为双精度变量 num 创建一个 setter,但我只想在输入是 0.5 的倍数时更新它。 这是我所拥有的,但我担心浮点错误。 public void setNum(double num) { ...

将双数转换为数字,反之亦然?

作者:123iamking 提问时间:10/2/2021

我正在尝试将双精度数转换为数字数组 Input: double num Output: int[] arrDigit int dotIdx bool isMinus 例如: Inp...

使用针状三角形计算两个向量之间的角度

作者:FirefoxMetzger 提问时间:10/5/2021

我实现了一个函数()来计算两个向量之间的角度。它利用针状三角形,并基于针状三角形的错误计算面积和角度以及这个相关问题。angle_between 该函数似乎大部分时间都工作正常,除了一个奇怪的情况,...

我们可以从很少的浮动中获得多少不同的金额?

作者:no comment 提问时间:9/15/2021

有人只是问为什么与.很快被骗到浮点数学坏了吗?并删除了。sum(myfloats)sum(reversed(myfloats)) 但这让我很好奇:仅仅通过按不同的顺序将它们相加,我们就能从很少的浮点...

在 MATLAB 中比较 2 个浮点数

作者:kim kevin 提问时间:10/29/2021

在过去的几周里,我被 Matlab 中的浮点比较问题折磨着。 我的代码涉及大量的 or . 让我发疯的是a<bc<=d dw = 0.001; W1 = [0:dw:1]; W2 = [0:dw:...

我需要更多小数位进行 pi 计算 [已关闭]

作者:Not Gartificial 提问时间:11/4/2021

已关闭。这个问题需要细节或澄清。它目前不接受答案。 想改进这个问题吗?通过编辑这篇文章添加详细信息并澄清问题。 2年前关闭。 社群在 2 年前审查了是否重新打开这个问题,并关闭了这个问题: 原...

当字符串转换为数值时,带有 numeric 的 as.character() 会失去精度

作者:Davide 提问时间:11/19/2021

在 R 中,我想运行以下代码: str <- "2811.1019192874087" val <- as.numeric(str) str2 <- as.character(val) print(...

如何在python中比较float和decimal?

作者:Jeff 提问时间:11/27/2021

我在数据帧中有一个()列,如下所示:decimal.Decimal dt = pd.DataFrame({"OPEN": [-0.00010,-0.0114, 0.0066,-0.0044,-0....

为什么生成的相同汇编程序代码不会导致相同的输出?

作者:pmor 提问时间:11/27/2021

示例代码 ():t0.c #include <stdio.h> float f(float a, float b, float c) __attribute__((noinline)); floa...

JavaScript 似乎做错了浮点(与 C 相比)

作者:Oscar Smith 提问时间:5/17/2019

从我在网上找到的所有内容来看,据称 JavaScript 使用 IEEE 754 双精度作为其数字,但我发现数字可以在 C 双精度中工作,但在 JavaScript 中不起作用。例如 #includ...


共176条 当前第13页