十进制 问答列表

Node.js - 浮点计算 - Intl.NumberFormat vs decimal.js 库

作者:Sudhir Dhumal 提问时间:4/5/2023

我想了解Intl.NumberFormat和decimal.js库之间的区别。 如果Intl.NumberFormat能够处理货币计算,那么decimal.js库在哪里以及它对提供者有什么好处Int...

为什么浮点数准确,但小数是错误的?

作者:Alec 提问时间:4/13/2023

由于显而易见的原因,我们习惯于浮动不准确。我认为小数应该是准确的,因为它们代表了所有以 10 为基数的数字 这段代码给了我们正确答案 9 print(27*3/9) 所以我想,哦,这是整数乘法...

如何最有效地缩放和设置十进制精度

作者:Dilshod K 提问时间:2/17/2022

我有一个设置比例和精度的类: public class MyDecimalConverter { public int Scale { get; } public int Precision {...

使用 JDBC 从 Db2 检索 Decimal 字段

作者:Jaya sakthivel 提问时间:5/5/2023

我正在尝试从 Db2 for z/OS 表中检索十进制值的 STDDEV。我使用下面的 SQL。 // Execute a query and generate a ResultSet insta...

组装 (NASM)

作者:Reii 提问时间:6/16/2023

我不知道如何在我的代码中修复这个错误 jdoodle.asm:70:错误:标签输入'最初在此处定义 jdoodle.asm:71:错误:标签二进制文件'最初在此处定义 jdoodle.asm:73:...

Jquery 和 C# deciaml 和 parseflot 值不同

作者:TechGuy 提问时间:6/22/2023

我有一个后端代码,我尝试使用 jquery 在前端做同样的事情。但结果是不同的。(正确的值是 C# 代码重调值。 C# 代码 var geoConvr = (decimal)141.5 / (dec...

如何在python中将小数点四舍五入为一位数?

作者:sakrockzx 提问时间:7/18/2023

我写了一个代码,我必须用它来复制一个语句 100 次。在这种情况下,变量“度”必须迭代 3.6。我得到的不是带有 1 个十进制数字的十进制数,而是得到如下内容: 95%{background-col...

将十进制转换为二进制程序有什么问题?

作者:Manas.Dhanpawde Btech2022 提问时间:7/22/2023

我不明白我在这里做错了什么。我的方法可能有点非常规,我觉得它给了解决方案就好了,bt 它不是!! int c; printf("Enter the decimal number:"); scanf...

C++ 128 位固定十进制库

作者:intrigued_66 提问时间:11/6/2022

我编写了自己的 Decimal 类,它使用尾数。我相信这意味着它可以表示 18 位数字(如果没有符号,则为 19 位)。int64_t 我需要表示两个数字范围: A 型高达 99,999,999 ...

我似乎无法使用 setprecision c++ [closed] 正确计算小数的数量

作者:Zeptuz 提问时间:12/11/2022

闭。这个问题是不可重现的,或者是由错别字引起的。它目前不接受答案。 这个问题是由一个错别字或一个无法再重现的问题引起的。虽然类似的问题可能在这里成为主题,但这个问题的解决方式不太可能帮助未来的读者。...


共79条 当前第2页