余数运算符是否容易受到浮点误差的影响?
作者:rhkoulen 提问时间:9/26/2021
我想为双精度变量 num 创建一个 setter,但我只想在输入是 0.5 的倍数时更新它。 这是我所拥有的,但我担心浮点错误。 public void setNum(double num) { ...
点精度 问答列表
作者:rhkoulen 提问时间:9/26/2021
我想为双精度变量 num 创建一个 setter,但我只想在输入是 0.5 的倍数时更新它。 这是我所拥有的,但我担心浮点错误。 public void setNum(double num) { ...
作者:123iamking 提问时间:10/2/2021
我正在尝试将双精度数转换为数字数组 Input: double num Output: int[] arrDigit int dotIdx bool isMinus 例如: Inp...
作者:FirefoxMetzger 提问时间:10/5/2021
我实现了一个函数()来计算两个向量之间的角度。它利用针状三角形,并基于针状三角形的错误计算面积和角度以及这个相关问题。angle_between 该函数似乎大部分时间都工作正常,除了一个奇怪的情况,...
作者:no comment 提问时间:9/15/2021
有人只是问为什么与.很快被骗到浮点数学坏了吗?并删除了。sum(myfloats)sum(reversed(myfloats)) 但这让我很好奇:仅仅通过按不同的顺序将它们相加,我们就能从很少的浮点...
作者:kim kevin 提问时间:10/29/2021
在过去的几周里,我被 Matlab 中的浮点比较问题折磨着。 我的代码涉及大量的 or . 让我发疯的是a<bc<=d dw = 0.001; W1 = [0:dw:1]; W2 = [0:dw:...
作者:Not Gartificial 提问时间:11/4/2021
已关闭。这个问题需要细节或澄清。它目前不接受答案。 想改进这个问题吗?通过编辑这篇文章添加详细信息并澄清问题。 2年前关闭。 社群在 2 年前审查了是否重新打开这个问题,并关闭了这个问题: 原...
作者:Davide 提问时间:11/19/2021
在 R 中,我想运行以下代码: str <- "2811.1019192874087" val <- as.numeric(str) str2 <- as.character(val) print(...
作者:Jeff 提问时间:11/27/2021
我在数据帧中有一个()列,如下所示:decimal.Decimal dt = pd.DataFrame({"OPEN": [-0.00010,-0.0114, 0.0066,-0.0044,-0....
作者:pmor 提问时间:11/27/2021
示例代码 ():t0.c #include <stdio.h> float f(float a, float b, float c) __attribute__((noinline)); floa...
作者:Oscar Smith 提问时间:5/17/2019
从我在网上找到的所有内容来看,据称 JavaScript 使用 IEEE 754 双精度作为其数字,但我发现数字可以在 C 双精度中工作,但在 JavaScript 中不起作用。例如 #includ...