精度 问答列表

如何比较两个数学库实现?

作者:noureddine-as 提问时间:1/7/2020

如您所知,C 标准库定义了几个标准函数调用,这些调用应该由任何兼容的实现实现,例如 Newlib、MUSL、GLIBC ... 例如,如果我的目标是Linux,我必须在glibc和MUSL之间进行选...

Vulkan 浮点行为问题

作者:JLo 提问时间:2/5/2020

我尝试实现论文 Extended-Precision Floating-Point Numbers 阿尔玛学院的 Andrew Thall 在 GLSL Vulkan 计算着色器中进行的 GPU 计算...

BigDecimal/numeric 的 Java 和 postgres 值的区别

作者:Bob 提问时间:2/24/2020

我在 Java 项目中使用 BigDecimal 类型。我正在尝试使用带有数值字段的函数来保存它。Java 和 postgres 具有不同的价值。例如,Java 中的值 56.97 在 postgre...

当分数值为 5 时,如何更改之前的分数值。在C语言中

作者:Anik sen 提问时间:3/5/2020

我正在尝试编写一个代码,其中在十进制值之后,如果分数值为 0.005,那么它会将该值打印为 0.01。我尝试使用%0.02f,但这种方法不起作用。我的完整代码在下面和输入值。 #include<s...

Java - 使用 double 更精确

作者:Creart 提问时间:3/11/2020

我目前正在为 uni 编写一个项目,我想知道是否有任何好的做法可以更精确地使用双精度值。也就是说,如果我直接在 return 语句中只写一个长表达式,精度是否有任何差异,或者如果我将表达式拆分为变量会...

Objective-C 中双精度的范围是多少?

作者:tombuarts 提问时间:5/2/2011

我有一个程序,我正在计算远距离。然后,我使用 stringfromnumber 转换距离(双精度)以插入逗号(即 1,234,567)。只要距离低于 2,000,000,000,这就可以正常工作。每当...

在 swift 中,double 和 float 之间有区别吗?[复制]

作者:Shawn Sandhu 提问时间:3/25/2020

这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 3年前关闭。 我写了一个计算钱的基本程序。如果我将函数的数据类型切换为浮点数。如果我将初始值设置为 16.16,则便士计数不正确。如...

如何在 C++ 中的数组中存储浮点值

作者:Nitin Priyadarshi 提问时间:3/30/2020

我得到一个整数值作为我的输出,但我希望它是一个浮点值。我无法找出代码中的问题。 这是代码。 #include <iostream> #include <vector> #include <bits/...

插入数据库时,MySQL更改decimal(19,2)的值

作者:Rasool Ghafari 提问时间:4/3/2020

我创建了表格,如下所示: create table sample_tbl ( decimal_column decimal(19,2) null ); 现在,当我使用简单的插入命令插入此表时:...

对 SQL Server 浮点数和 SQLCMD 返回的误解

作者:Itération 122442 提问时间:4/6/2020

根据文档,SQL Server 中的 double 是具有(8 字节存储,15 位精度)的浮点数。n = 53 但是,当我运行从数据库中获取一行时,结果不会返回 15 位精度的双精度/浮点数,而是返...


共694条 当前第50页