decimal 问答列表

在 JDBC Insert 中用随机数填充的 BigDecimal 变量

作者:Will Sumekar 提问时间:2/22/2011

考虑 Oracle 类型为 NUMBER 的 SQL 语句。INSERT INTO table (field) VALUES (-0.11111111)field 当要插入的值的类型为 float ...

new BigDecimal(double) 与 new BigDecimal(String) [重复]

作者:dardeshna 提问时间:4/15/2015

这个问题在这里已经有答案了: BigDecimal from Double 值不正确? (4 个答案) 将 double 转换为 BigDecimal 并设置 BigDecimal 精度 (9 个答案...

JavaScript 中的 BigDecimal

作者:SnakeDoc 提问时间:5/25/2013

我对 JavaScript 非常陌生(我有 Java 背景),我正在尝试用少量资金进行一些财务计算。 我最初的想法是: <script type="text/javascript"> var n...

是否可以在调试期间在 VSCode 中预览 github.com/shopspring/decimal 值?

作者:Alex 提问时间:5/11/2023

这是调试期间 vscode 中 Go 中 normal / 变量的预览。int64float64 这就是使用 Decimal 库中的变量时的样子。 如果这是可能的,那么调试就会容易得多。现在,如果...

scala.math.BigDecimal : 1.2 和 1.20 相等

作者:Saurabh 提问时间:11/8/2019

如何在将 Double 或 String 转换为 scala.math.BigDecimal 时保持精度和尾随零? 用例 - 在 JSON 消息中,属性的类型为 String,值为“1.20”。但是...

如何在XMLNode C中设置json:Type=“Decimal”属性#

作者:BenjaminR 提问时间:1/2/2023

我想将属性json:Type=“Decimal”设置为XML节点。 我有XML文档 <root> <a>12.55</a> <b>Test</b> </root> 现在我想设置属性 js...

使用 toFixed 方法时如何防止数字四舍五入 [duplicate]

作者:Kimbo 提问时间:10/14/2022

这个问题在这里已经有答案了: 在javascript中截断(不四舍五入)十进制数 ( 32 答案) 将数字截断到小数点后两位,不四舍五入 (43 个答案) 去年关闭。 我试图弄清楚在十进制精度方面如...

使用 Streams 将 BigDecimals 相加

作者:ryvantage 提问时间:3/25/2014

我有一个 BigDecimals 的集合(在本例中为 a ),我想将它们加在一起。是否可以使用流来计算它们的总和?LinkedList 我注意到该类有几种方法Stream Stream::mapT...

十进制 Python 库有奇怪的行为

作者:João Gabriel Paina 提问时间:9/16/2022

我正在尝试使用 Python Decimal 修复我的所有计算。我将小数点后位数限制为 3,但是,我得到了这种行为: from decimal import * getcontext().prec ...

如何使用BigDecimal来提高此方法的准确性?

作者:Todd R 提问时间:5/11/2021

我编写了以下简单的函数,用于计算整数倒数的反弧。我想知道如何使用 BigDecimal 而不是 double 来提高结果的准确性。我还考虑使用 BigInteger 来存储“术语”值除以的 xSqua...


共31条 当前第1页