舍入 问答列表

Javascript .toPrecision() 四舍五入有效数字错误?[复制]

作者:kodesprog 提问时间:2/1/2023

这个问题在这里已经有答案了: 修复了 javascript 函数给出奇怪的结果? (5 个答案) 浮点数学坏了吗? (34 个答案) 10个月前关闭。 请考虑以下几点: console.log(0...

浮点乘法即使四舍五入到最接近也会产生无穷大

作者:Heygard Flisch 提问时间:2/1/2023

请考虑以下 C++ 代码: #include <fenv.h> #include <iostream> using namespace std; int main(){ fesetround(F...

在使用 SQL Server Management Studio 导入时使用 Float 和 Decimal 数据类型时舍入的 Decimal 值

作者:Chadwick 提问时间:1/2/2023

我是 SQL 编程的新手,并且正在将 SQL Server 16.0.1000.6 与 SSMS 19 预览版 4 一起使用。我正在尝试将 csv 平面文件导入到我的个人桌面 SQL Server 实...

.round(precission) Ruby 方法不起作用

作者:Panamaniac507 提问时间:12/23/2022

问题详情: 我的例程是一组简单的方程,结果必须以小数点后 4 位的浮点元素数组的形式生成结果。问题是 .round(4) 方法不起作用。 我试过什么: 使用的 .round(4) 二手.to_f...

如何在不使用 toFixed() 的情况下在 JavaScript 中舍入数字

作者:Alexander Mills 提问时间:12/16/2022

我正在尝试将数字四舍五入到某个小数位,预期的 API 是这样的: const rounded = Math.round(1.6180339, 5); 或 const rounded = new...

有没有办法在 Ruby 中将舍入浮点数自动分配给变量?

作者:Henrique Marques 提问时间:3/9/2023

我想变成什么东西,比如变成.var = var.round(2)var = var + 1var += 1 在 Ruby 中有什么方法可以做到这一点吗? 我已经尝试过方法,但它不像其他方法那样工作...

如何使用 Python 有效地舍入由数字组成的字符串?

作者:Bojan Milinic 提问时间:11/30/2022

使用 Python 3... 我编写了对 ArcGIS 符号系统标注的值进行舍入的代码。标签以字符串形式给出,如“0.3324 - 0.6631”。我的可重现代码是...... label = "...

在字符串流中使用固定和设置精度时 C++ 的轮次误差

作者:Lee 提问时间:11/13/2022

我用 C++ 编写了一个程序,我认为它的结果应该是 12.3 和 12.2。但最终结果是 12.2 和 12.2。显然,它没有正确四舍五入。但是为什么? 非常感谢你:) #include <iost...

在 C 语言中将浮点数四舍五入到小数点后 2 位?

作者:GanzYe 提问时间:10/16/2022

float number = 123.8798831; number=(floorf((number + number * 0.1) * 100.0)) / 100.0; printf(...

format long 和 format long g 之间的区别

作者:Sun 提问时间:6/2/2020

我在 Matlab 中搜索了 format long 和 format long g 之间的差异,但我不确定它们之间到底有什么区别。它们之间的差异会影响准确性吗? 谢谢。。。...


共85条 当前第8页