十进制 问答列表

为什么 SQL Server 将我的十进制参数 12.50 转换为 12.49999999

作者:Cef 提问时间:12/3/2022

我正在将十进制值从 C# 传递到 SQL Server 存储过程。 存储过程中的参数定义为 。在进入存储过程之前,该值为 25.631230@latitude decimal 运行探查器时,我可以...

无法理解 C 中按位运算器中的 showbit() 函数 [已关闭]

作者:Nitin Bhartiya 提问时间:7/31/2022

已关闭。这个问题需要更加集中。它目前不接受答案。 想改进这个问题吗?更新问题,使其仅通过编辑这篇文章来关注一个问题。 去年关闭。 改进此问题 /* Print binary equivalent...

Python 3 十进制模块除法仍有浮点错误

作者:GideonBear 提问时间:6/25/2022

在 Python 中使用 decimal 模块时,除法似乎仍然给出不准确的结果。这是我用来检查的代码,是我做错了什么,还是不可能用十进制模块准确地进行除法?在这种情况下,我还能用其他东西来精确地进行这...

有没有办法告诉 PHP 使用具有标准/自然语法的适当精度浮点数/小数?

作者:Homer 提问时间:6/24/2022

我发现每当涉及金钱或任何重要的事情时,都必须记住使用,然后实际使用各种功能,而不是、等,这是非常烦人和麻烦的。bc*+-*/ 如果你不明白我在说什么,PHP基本上使用“不准确”的s作为其内置的、自然...

pd.read_csv() 保留小数位数

作者:arkriger 提问时间:5/26/2022

我想读取 csv,但它剔除了小数点后的数量: fname = './sol/Pret-SB_A00DLR0_202205240635.pos' skiprow = 0 with open(fname...

控制浮点小数的打印输出,在 Pandas DataFrame 中使用小数。小数点后条目?

作者:sdbbs 提问时间:1/30/2022

请看这个例子: import pandas as pd from decimal import Decimal my_df = pd.DataFrame(columns=["a", "b", "c...

如何解释数据库中数字的精度和小数位数?

作者:mezoid 提问时间:3/4/2010

我在数据库中指定了以下列:decimal(5,2) 如何解释这一点? 根据在 SQL Server Management Studio 中查看的列的属性,我可以看到它的意思是:decimal(Nu...

在具有指数的数字中被忽略的小数点

作者:code 提问时间:12/4/2021

为什么当我的小数点里面有 (Exponent) 时会被忽略?当我键入时,它给出的结果与()完全相同。我希望后者的输出是或只是......请注意,这是不同的。我不确定为什么会这样。e53e653.e65...

如何在python中比较float和decimal?

作者:Jeff 提问时间:11/27/2021

我在数据帧中有一个()列,如下所示:decimal.Decimal dt = pd.DataFrame({"OPEN": [-0.00010,-0.0114, 0.0066,-0.0044,-0....


共79条 当前第8页