问答列表

Javascript 中的精确浮点数是如何工作的?

作者:Borja 提问时间:3/31/2019

大家好,我正在研究有关天文计算的文件,所以我需要更多的精度。 我对每一行都有很多操作,我想要更精确的结果(逗号后还有十或二十个小数)。javascript 在JavaScript中如果我不声明小数位...

四舍五入的浮点数返回所有小数

作者:Simone Conti 提问时间:4/8/2019

我有一个 rest 端点,它返回一些简单的统计数据:总票数、平均票数,... function getRatings($data) { global $wpdb; $struttura_id =...

如何避免具有多列的 numpy 数组的精确求和

作者:ead 提问时间:4/4/2019

我一直认为,numpy 使用一种成对求和,这也确保了 - 操作的高精度:float32 import numpy as np N=17*10**6 # float32-precision no lo...

将双精度值四舍五入到(有点)较低的精度的好方法是什么?

作者:MuldeR 提问时间:1/4/2013

我的问题是我必须使用第三方函数/算法,该函数/算法将双精度值数组作为输入,但显然对输入数据中的非常小的变化很敏感。但是,对于我的应用程序,我必须为(几乎)相同的输入获得相同的结果!特别是,我有两个测试...

如何防止点多边形滑动碰撞检测中的浮点误差

作者:ARutherford 提问时间:5/11/2019

我正在尝试编写一个函数来处理我正在编程的游戏中的移动。我所拥有的几乎有效,但有几种情况会崩溃。 我编写了一个最小的演示示例,如下所示。在此示例中,我尝试计算由点和移动矢量表示的对象的行程。根据多边形...

在完全使用 javascript 的 Web 堆栈中,从十进制货币源转换时如何避免浮点错误?

作者:Kzqai 提问时间:5/23/2019

我最近不得不设计一个完全使用javascript,express.js,REST apis,完整节点/浏览器js堆栈的资金处理应用程序。不幸的是,该应用程序处理了各种自定义计算,例如平均结果。当然,在...

在 R 中处理 IEEE 754 浮点不精确问题的最佳方法是什么?

作者:Bear Bile Farming is Torture 提问时间:6/17/2019

所以问题是 .1 + .2 =/= .3 语言是 R。 我有一堆分数,最终总和应该为 1。我有一个失败的断言语句,因为由于这个问题,这种不变性并不总是成立。 最好的解决方案是什么?...

导入 Google 财经货币时停止四舍五入

作者:Flyer 提问时间:9/3/2014

我正在将货币从 Google 财经导入 Google 电子表格(最新版本)。导入的数字在显示的内容和基础数字方面都四舍五入。有没有办法将实际的基础货币数字精确到所有必要的小数位?...

修复 R 中的浮点错误 - MDMR 包显示近似不等式而不是精确答案的错误

作者:AldehydeDeva 提问时间:7/4/2019

我正在使用 R 中最新版本的 MDMR 包来分析一组自变量和因变量之间是否存在显着关系。但是,当我执行如下操作时: library(MDMR) results<-mdmr(X=predictor_v...

如果 f32 不是 Eq,为什么要编译?

作者:Dmitri Nesteruk 提问时间:7/13/2019

我有一个泛型类型,例如 impl<T: Eq> Eq for Complex<T> where T: Eq {} 出于某种原因,即使它(不能)支持完全比较(因为 nan!=nan),我也能制作一...


共817条 当前第21页