精度 问答列表

我需要更多小数位进行 pi 计算 [已关闭]

作者:Not Gartificial 提问时间:11/4/2021

已关闭。这个问题需要细节或澄清。它目前不接受答案。 想改进这个问题吗?通过编辑这篇文章添加详细信息并澄清问题。 2年前关闭。 社群在 2 年前审查了是否重新打开这个问题,并关闭了这个问题: 原...

使用长双精度 [duplicate] 时输出的预期值错误

作者:MarioM 提问时间:11/10/2021

这个问题在这里已经有答案了: 为什么 Microsoft 放弃了长双精度数据类型?[关闭] (1 个答案) 在 Visual Studio 2019 中使用 numeric_limits C++ 长双...

当字符串转换为数值时,带有 numeric 的 as.character() 会失去精度

作者:Davide 提问时间:11/19/2021

在 R 中,我想运行以下代码: str <- "2811.1019192874087" val <- as.numeric(str) str2 <- as.character(val) print(...

如何在python中比较float和decimal?

作者:Jeff 提问时间:11/27/2021

我在数据帧中有一个()列,如下所示:decimal.Decimal dt = pd.DataFrame({"OPEN": [-0.00010,-0.0114, 0.0066,-0.0044,-0....

为什么生成的相同汇编程序代码不会导致相同的输出?

作者:pmor 提问时间:11/27/2021

示例代码 ():t0.c #include <stdio.h> float f(float a, float b, float c) __attribute__((noinline)); floa...

与 R 的高精度求和,涉及二项式系数和对数

作者:Denis Cousineau 提问时间:11/29/2021

我试图从二项式系数(非常大的整数)和对数(小实数)的乘积中获得项的总和,每个项都有交替的符号。 例如: library(Rmpfr) binom <- function(n,i) {factori...

浮点数学在 C# 中是否一致?可以吗?

作者:BlueRaja - Danny Pflughoeft 提问时间:7/14/2011

不,这不是另一个“为什么是 (1/3.0)*3 != 1”的问题。 我最近一直在阅读有关浮点的文章;具体来说,相同的计算如何在不同的体系结构或优化设置上给出不同的结果。 对于存储回放或点对点联网(...

发送列“除数”中的所有值所需的精度“41”超过支持的最大精度“38”

作者:vinay gupta 提问时间:12/10/2021

我有一个简单的 C# 代码来使用 和 运行存储过程。该过程的输入参数之一是用户定义的数据类型。其中一列是十进制类型。SqlCommandSqlConnection 在 C# 代码中,我使用 data...

减少或解决 Javascript 中的计算错误 [重复]

作者:DIGI Byte 提问时间:12/14/2021

这个问题在这里已经有答案了: 如何处理JavaScript中的浮点数精度?[复制] (46 个答案) 1年前关闭。 有时,简单的代数会导致浮动精度误差。 在这种情况下,我遇到了导致12 * 1.61...

如果不支持 double,如何使用 float 来达到相同的精度?

作者:euraad 提问时间:12/17/2021

我有一个代码,可以按照我的意愿做正确的事情。C void create_weights(float alpha, float beta, float kappa, uint8_t L){ /* ...


共694条 当前第62页