问答列表

PHP - 浮点数精度 [重复]

作者:dcmoody 提问时间:9/16/2010

这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 6年前关闭。 $a = '35'; $b = '-34.99'; echo ($a + $b); 结果为 0.0099999999...

处理浮子的不准确性

作者:lalelu 提问时间:6/22/2015

我有一根绳子 strValue = "11.900000" 我想将其解析为浮点值。所以我试了一下: float fValue = -1; sscanf_s(strValue.c_str(), ...

如何比较两个数学库实现?

作者:noureddine-as 提问时间:1/7/2020

如您所知,C 标准库定义了几个标准函数调用,这些调用应该由任何兼容的实现实现,例如 Newlib、MUSL、GLIBC ... 例如,如果我的目标是Linux,我必须在glibc和MUSL之间进行选...

Vulkan 浮点行为问题

作者:JLo 提问时间:2/5/2020

我尝试实现论文 Extended-Precision Floating-Point Numbers 阿尔玛学院的 Andrew Thall 在 GLSL Vulkan 计算着色器中进行的 GPU 计算...

1 不等于 1?MATLAB 中的矩阵条目比较

作者:Maxomega 提问时间:2/21/2020

我正在尝试通过将矩阵相乘得到 1 来测试矩阵的反转。我检查它是否等于 1,如果不是,则打印一条消息和矩阵条目的值。 问题是打印的矩阵条目是 1。我甚至使用我知道有效的舍入函数来确保浮点不准确没有问题...

当分数值为 5 时,如何更改之前的分数值。在C语言中

作者:Anik sen 提问时间:3/5/2020

我正在尝试编写一个代码,其中在十进制值之后,如果分数值为 0.005,那么它会将该值打印为 0.01。我尝试使用%0.02f,但这种方法不起作用。我的完整代码在下面和输入值。 #include<s...

Java - 使用 double 更精确

作者:Creart 提问时间:3/11/2020

我目前正在为 uni 编写一个项目,我想知道是否有任何好的做法可以更精确地使用双精度值。也就是说,如果我直接在 return 语句中只写一个长表达式,精度是否有任何差异,或者如果我将表达式拆分为变量会...

在 swift 中,double 和 float 之间有区别吗?[复制]

作者:Shawn Sandhu 提问时间:3/25/2020

这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 3年前关闭。 我写了一个计算钱的基本程序。如果我将函数的数据类型切换为浮点数。如果我将初始值设置为 16.16,则便士计数不正确。如...

如何在 C++ 中的数组中存储浮点值

作者:Nitin Priyadarshi 提问时间:3/30/2020

我得到一个整数值作为我的输出,但我希望它是一个浮点值。我无法找出代码中的问题。 这是代码。 #include <iostream> #include <vector> #include <bits/...

如何全精度打印浮点数

作者:Ackdari 提问时间:4/21/2020

如果我有一个值不能准确表示,或者我怎么能把它的实际值打印为字符串。像这样的程序:0.3doublefloat using System; class Program { static void ...


共817条 当前第24页