如何比较两个数学库实现?
作者:noureddine-as 提问时间:1/7/2020
如您所知,C 标准库定义了几个标准函数调用,这些调用应该由任何兼容的实现实现,例如 Newlib、MUSL、GLIBC ... 例如,如果我的目标是Linux,我必须在glibc和MUSL之间进行选...
精度 问答列表
作者:noureddine-as 提问时间:1/7/2020
如您所知,C 标准库定义了几个标准函数调用,这些调用应该由任何兼容的实现实现,例如 Newlib、MUSL、GLIBC ... 例如,如果我的目标是Linux,我必须在glibc和MUSL之间进行选...
作者:JLo 提问时间:2/5/2020
我尝试实现论文 Extended-Precision Floating-Point Numbers 阿尔玛学院的 Andrew Thall 在 GLSL Vulkan 计算着色器中进行的 GPU 计算...
作者:Bob 提问时间:2/24/2020
我在 Java 项目中使用 BigDecimal 类型。我正在尝试使用带有数值字段的函数来保存它。Java 和 postgres 具有不同的价值。例如,Java 中的值 56.97 在 postgre...
作者:Anik sen 提问时间:3/5/2020
我正在尝试编写一个代码,其中在十进制值之后,如果分数值为 0.005,那么它会将该值打印为 0.01。我尝试使用%0.02f,但这种方法不起作用。我的完整代码在下面和输入值。 #include<s...
作者:Creart 提问时间:3/11/2020
我目前正在为 uni 编写一个项目,我想知道是否有任何好的做法可以更精确地使用双精度值。也就是说,如果我直接在 return 语句中只写一个长表达式,精度是否有任何差异,或者如果我将表达式拆分为变量会...
作者:tombuarts 提问时间:5/2/2011
我有一个程序,我正在计算远距离。然后,我使用 stringfromnumber 转换距离(双精度)以插入逗号(即 1,234,567)。只要距离低于 2,000,000,000,这就可以正常工作。每当...
作者:Shawn Sandhu 提问时间:3/25/2020
这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 3年前关闭。 我写了一个计算钱的基本程序。如果我将函数的数据类型切换为浮点数。如果我将初始值设置为 16.16,则便士计数不正确。如...
作者:Nitin Priyadarshi 提问时间:3/30/2020
我得到一个整数值作为我的输出,但我希望它是一个浮点值。我无法找出代码中的问题。 这是代码。 #include <iostream> #include <vector> #include <bits/...
作者:Rasool Ghafari 提问时间:4/3/2020
我创建了表格,如下所示: create table sample_tbl ( decimal_column decimal(19,2) null ); 现在,当我使用简单的插入命令插入此表时:...
作者:Itération 122442 提问时间:4/6/2020
根据文档,SQL Server 中的 double 是具有(8 字节存储,15 位精度)的浮点数。n = 53 但是,当我运行从数据库中获取一行时,结果不会返回 15 位精度的双精度/浮点数,而是返...