精度 问答列表

浮点运算中的非正态冲洗,函数逼近

作者:user8469759 提问时间:6/11/2015

出于好奇,浮点运算上下文中的“非正态冲洗”是什么意思?你知道这个主题的好参考吗? 我有一些书,但实际上我什么也找不到。 我需要了解当要实现数学库(即函数近似)时,通常如何应用此定义,以及与“真实”...

将浮点数拆分为固定精度的浮点数之和

作者:user8469759 提问时间:6/23/2015

假设我有一个算法,通过该算法,我可以计算出无限精确的浮点数(取决于参数 N),让我们在伪代码中说: arbitrary_precision_float f = computeValue(n); //...

如何使用java的ResultSet获取mysql的浮点数的精确值

作者:martinwang1985 提问时间:7/30/2015

在 Java 中,我使用 ,是否可以获得 的精确值?ResultSetfloatmysql 在我的mysql数据库中,我有一些值很长(例如,123456789,超过7位),我知道如果我使用我可以得到...

在不损失精度的情况下有效逼近第n项

作者:v78 提问时间:9/5/2015

探针给定 gn 的递归关系为 g0 = c,其中是连续双精度。 g n = f( gn-1 ) ,其中 f 是线性函数 然后找到另一个递归的值,由下式给出 h n = g n/exp(n) 约...

MySQL乘以浮点列:1*7.6给出7.599999904632568?

作者: 提问时间:10/15/2015

当我进行查询时,它让我感到震惊SELECT 1*7.67.6 但是当我进行列乘法(products.commision*sold.amount)时: SELECT *, (products.com...

GDI 中的数值精度限制?

作者: 提问时间:11/7/2015

我正在使用 Windows GDI 函数 Arc 绘制圆弧。它采用圆的边界框和两个分隔起始角和结束角(而不是角度本身)的点作为参数。 当我传递如下参数时,我得到一个异常的结果。我得到的输出不是大半径...

特征浮点精度

作者:Nick 提问时间:11/20/2015

我在使用浮点精度方面遇到了问题。Eigen 我有两个;第一个矩阵 (NX1) 仅包含正整数,而第二个矩阵 (NX1) 包含填充相同实数的单个列(例如:-0.714312)。Eigen::Matrix...

在 Ruby 的 BigDecimal 中使用 String 还是 Integer

作者:abhinavmsra 提问时间:12/18/2015

参考类的文档,BigDecimal n,m = a.precs prec返回有效位数 () 和 的最大有效位数 () 。nma 我对以下与 相关的输出感到困惑。BigDecimal requir...

如果整数有整数根,如何解决?

作者:Anthony Massie 提问时间:1/1/2016

我需要求解任何具有整数根的度数 n 的根。我最初的想法是用牛顿的方法找到近似根,但是,幂函数不会给我们提供机器浮子可以表达的最大精度吗? function hasIntegerRoot( $inte...

查询在 WP / Gravity Forms Database 上找不到数据

作者:gman_donster 提问时间:1/12/2016

我希望这对某人来说是一个简单的问题,尽管我试图弄清楚但一无所获。我所要做的就是让一些PHP代码查询wordpress数据库,以从存储重力形式插件条目的表中提取一些信息。这是我的代码: global ...


共694条 当前第38页