十进制 问答列表

BigDecimal/numeric 的 Java 和 postgres 值的区别

作者:Bob 提问时间:2/24/2020

我在 Java 项目中使用 BigDecimal 类型。我正在尝试使用带有数值字段的函数来保存它。Java 和 postgres 具有不同的价值。例如,Java 中的值 56.97 在 postgre...

我需要更多小数位进行 pi 计算 [已关闭]

作者:Not Gartificial 提问时间:11/4/2021

已关闭。这个问题需要细节或澄清。它目前不接受答案。 想改进这个问题吗?通过编辑这篇文章添加详细信息并澄清问题。 2年前关闭。 社群在 2 年前审查了是否重新打开这个问题,并关闭了这个问题: 原...

当 SQL 中的两个值具有不同的数据类型时,如何将它们与给定的十进制精度进行比较?

作者:Mark 提问时间:8/8/2019

我试图证明使用 EXCEPT 查询的两个表之间没有显着差异。我只包括我关心比较的字段。问题在于,由于其中一个表的数据采用浮点格式,而另一个表具有 Decimal(24,7),因此在结果集中发现了大量差...

使用十进制数 Python 进行字符串格式化

作者:Kyle 提问时间:11/2/2018

我正在编写一份报告。报告中的一个数字需要以百万表示。我编写了一些基本的格式化程序来处理各种类型的格式,这些格式需要在整个报表中保持一致。为此,我使用 lambda 函数和字符串格式。这两个函数如下。一...

识别浮点数的实际精度

作者:Zak Stucke 提问时间:3/15/2018

我正在与返回浮点数的 API 进行交互。我正在尝试计算 API 创建这些浮点数的小数位数。 例如: # API returns the following floats. >> 0.0194360...

存储利率和复利计算总和的数据类型是什么?

作者:KPA 提问时间:6/21/2018

我用于货币金额。但是,我想知道将利率放入哪种数据类型。Decimal 如果我将其设置为 ,我将货币金额 () 乘以 ,得到一个 'inexact' 。如果我将其设置为 ,一旦有复利,我就会遇到问题,...

将十进制型数字精确转换为字符串型

作者:Zak Stucke 提问时间:3/8/2018

如何将 decimal 模块中的小数精确转换为字符串,以便可以在列表中循环?或者,在尝试计算出某些精确到的小数位数时,是否有另一种方法会更好(忽略末尾的尾随零)。 import decimal nu...

停止带有百分号的 DecimalFormat 移动小数

作者:ryvantage 提问时间:1/15/2014

有没有办法防止对象自动将小数点后两位向右移动?DecimalFormat 此代码: double d = 65.87; DecimalFormat df1 = new DecimalFormat(...

设置精度工作不正常

作者:Anmol Sethi 提问时间:1/12/2013

#include <iostream> using namespace std; int main() { cout.precision(50); cout<<"Anmol's Square R...

乘法时的十进制精度

作者:Matt Warren 提问时间:1/3/2013

给定 2 个值,如下所示: decimal a = 0.15m; decimal b = 0.85m; Where will always be ,这两个值都只指定为小数点后 2 位,并且两个值...


共79条 当前第6页