小数 问答列表

MySQL SELECT 计算精度(小数点后的数字)

作者:Jimmix 提问时间:3/25/2019

我正在尝试为来自执行某些方程式的 SELECT 的结果实现相同的精度(小数点后位数)。 在性能方面是否有任何区别,在 CAST() 或 ROUND() 之间实现所需的精度的情况下,除了四舍五入最后一...

创建 BigDecimal 时,precision 和 setScale 之间有什么关联?

作者:generic_name_ryan 提问时间:6/22/2020

我了解到精度是值中的总位数,小数位数是小数点后的位数。 因此,据我了解,数字 1234.56 的精度 = 6 和小数位数 = 2。 我还看到,当您使用 MathContext 定义精度,然后创建一个...

浮点数呈现背后的奥秘

作者:Robert 提问时间:8/30/2018

我正在为我的应用程序测试一些简单的解决方案,我遇到了一些问题出现在我脑海中的情况...... “为什么一个浮点数在JSON中正确表示(正如我所期望的那样),而另一个则没有......?” 在这种情况...

MySQL SELECT 计算精度(小数点后的数字)

作者:Jimmix 提问时间:3/25/2019

我正在尝试为来自执行某些方程式的 SELECT 的结果实现相同的精度(小数点后位数)。 在性能方面是否有任何区别,在 CAST() 或 ROUND() 之间实现所需的精度的情况下,除了四舍五入最后一...

如何解释数据库中数字的精度和小数位数?

作者:mezoid 提问时间:3/4/2010

我在数据库中指定了以下列:decimal(5,2) 如何解释这一点? 根据在 SQL Server Management Studio 中查看的列的属性,我可以看到它的意思是:decimal(Nu...

如何在 Java 中执行 Golang 等于 BigDecimal.devide(BigDecimal divisor, MathContext mc) 的精确除法

作者:rizalPurnama 提问时间:11/2/2022

我的任务是将核心银行系统从 java 迁移到 golang,但是当我尝试在 golang 中执行精确分隔时,我遇到了困难。我尝试过使用数学/包舍入函数,但我没有得到我想要的结果。我认为问题是我在 ja...

转换\将列表联接到浮点数中

作者:B S 提问时间:12/12/2022

通过抓取一个网站,我设法得到了我想要的东西,'2''。'7' '8' 我把它们放在一个清单里。 现在我希望它们都连接成一个浮点数 2.78 有人可以提出一些建议吗? 谢谢 我无法将小数点连接到数...

如何最有效地缩放和设置十进制精度

作者:Dilshod K 提问时间:2/17/2022

我有一个设置比例和精度的类: public class MyDecimalConverter { public int Scale { get; } public int Precision {...

如何在Python中将浮点数截断为小数点后数?

作者:Nicoara Antonio 提问时间:9/13/2023

我是 Python 学习的初学者 我知道这会四舍五入数字而不是截断: number_float = 14.233677 print(f"{number_float:.3f}") =>这是打印 ...


共9条 当前第1页