问答列表

MySQL 8 时间戳精度(以纳秒为单位)

作者:Jimmix 提问时间:3/30/2019

是否可以以纳秒的精度存储在 MySQL DATETIME 或其他等效数据类型中? 根据小数秒文档,在我看来这是不可能的(最大 6 位亚秒精度 = 1 微秒),但也许有另一种数据类型或函数可以解决这个...

Javascript 中的精确浮点数是如何工作的?

作者:Borja 提问时间:3/31/2019

大家好,我正在研究有关天文计算的文件,所以我需要更多的精度。 我对每一行都有很多操作,我想要更精确的结果(逗号后还有十或二十个小数)。javascript 在JavaScript中如果我不声明小数位...

四舍五入的浮点数返回所有小数

作者:Simone Conti 提问时间:4/8/2019

我有一个 rest 端点,它返回一些简单的统计数据:总票数、平均票数,... function getRatings($data) { global $wpdb; $struttura_id =...

如何避免具有多列的 numpy 数组的精确求和

作者:ead 提问时间:4/4/2019

我一直认为,numpy 使用一种成对求和,这也确保了 - 操作的高精度:float32 import numpy as np N=17*10**6 # float32-precision no lo...

将双精度值四舍五入到(有点)较低的精度的好方法是什么?

作者:MuldeR 提问时间:1/4/2013

我的问题是我必须使用第三方函数/算法,该函数/算法将双精度值数组作为输入,但显然对输入数据中的非常小的变化很敏感。但是,对于我的应用程序,我必须为(几乎)相同的输入获得相同的结果!特别是,我有两个测试...

如何防止点多边形滑动碰撞检测中的浮点误差

作者:ARutherford 提问时间:5/11/2019

我正在尝试编写一个函数来处理我正在编程的游戏中的移动。我所拥有的几乎有效,但有几种情况会崩溃。 我编写了一个最小的演示示例,如下所示。在此示例中,我尝试计算由点和移动矢量表示的对象的行程。根据多边形...

在完全使用 javascript 的 Web 堆栈中,从十进制货币源转换时如何避免浮点错误?

作者:Kzqai 提问时间:5/23/2019

我最近不得不设计一个完全使用javascript,express.js,REST apis,完整节点/浏览器js堆栈的资金处理应用程序。不幸的是,该应用程序处理了各种自定义计算,例如平均结果。当然,在...

在 R 中处理 IEEE 754 浮点不精确问题的最佳方法是什么?

作者:Bear Bile Farming is Torture 提问时间:6/17/2019

所以问题是 .1 + .2 =/= .3 语言是 R。 我有一堆分数,最终总和应该为 1。我有一个失败的断言语句,因为由于这个问题,这种不变性并不总是成立。 最好的解决方案是什么?...

修复 R 中的浮点错误 - MDMR 包显示近似不等式而不是精确答案的错误

作者:AldehydeDeva 提问时间:7/4/2019

我正在使用 R 中最新版本的 MDMR 包来分析一组自变量和因变量之间是否存在显着关系。但是,当我执行如下操作时: library(MDMR) results<-mdmr(X=predictor_v...

从 Oracle 到 Teradata 的数字类型

作者:mozas 提问时间:7/12/2019

我需要在 Teradata 中复制一些 Oracle 表。 我有一个脚本可以为 Teradata 的表创建 sql,到目前为止一切正常,但我有一个小问题。 我在表“all_tab_columns”中...


共1296条 当前第27页