十进制 问答列表

在 Python 中为小数点后的小数点添加零

作者: 提问时间:3/25/2013

我正在从一个文件中读取数据,对其进行修改并将其写入另一个文件。新文件将被另一个程序读取,因此继承确切的格式至关重要 例如,我的输入文件上的一个数字是: 1.000000 我的脚本对列应用了一些...

BigDecimal 在与浮点数转换时不保留舍入值 [duplicate]

作者:jeninja 提问时间:11/12/2021

这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 2年前关闭。 我有一个函数,可以使用BigDecimal.setScale将浮点数四舍五入到n位数 private float r...

C# 十进制的类型后缀

作者:Maxim Gershkovich 提问时间:3/17/2011

我不知道我想要实现的目标的正确措辞是什么,所以它可能已经在网上发布了。如果是,请善待。 好的,基本上我有这个方法。 public static T IsNull<T>(IDataReader dr...

CultureInfo.InvariantCulture 的使用

作者:Matias 提问时间:3/13/2015

我正在处理一个在文本框中使用小数的项目。我目前正在一台将小数分隔符设置为“,”而不是“”的机器中进行开发,因此在将文本字符串解析为十进制时,我不得不使用这句话: decimal number = D...

Node.js - 浮点计算 - Intl.NumberFormat vs decimal.js 库

作者:Sudhir Dhumal 提问时间:4/5/2023

我想了解Intl.NumberFormat和decimal.js库之间的区别。 如果Intl.NumberFormat能够处理货币计算,那么decimal.js库在哪里以及它对提供者有什么好处Int...

我似乎无法使用 setprecision c++ [closed] 正确计算小数的数量

作者:Zeptuz 提问时间:12/11/2022

闭。这个问题是不可重现的,或者是由错别字引起的。它目前不接受答案。 这个问题是由一个错别字或一个无法再重现的问题引起的。虽然类似的问题可能在这里成为主题,但这个问题的解决方式不太可能帮助未来的读者。...

为什么浮点数准确,但小数是错误的?

作者:Alec 提问时间:4/13/2023

由于显而易见的原因,我们习惯于浮动不准确。我认为小数应该是准确的,因为它们代表了所有以 10 为基数的数字 这段代码给了我们正确答案 9 print(27*3/9) 所以我想,哦,这是整数乘法...

如何最有效地缩放和设置十进制精度

作者:Dilshod K 提问时间:2/17/2022

我有一个设置比例和精度的类: public class MyDecimalConverter { public int Scale { get; } public int Precision {...

使用 JDBC 从 Db2 检索 Decimal 字段

作者:Jaya sakthivel 提问时间:5/5/2023

我正在尝试从 Db2 for z/OS 表中检索十进制值的 STDDEV。我使用下面的 SQL。 // Execute a query and generate a ResultSet insta...

如何在python中将小数点四舍五入为一位数?

作者:sakrockzx 提问时间:7/18/2023

我写了一个代码,我必须用它来复制一个语句 100 次。在这种情况下,变量“度”必须迭代 3.6。我得到的不是带有 1 个十进制数字的十进制数,而是得到如下内容: 95%{background-col...


共79条 当前第1页