精度 问答列表

number_format PHP 中不准确

作者:Juan Ignacio Pérez Sacristán 提问时间:9/8/2016

PHP函数number_format对于大数字似乎并不可靠。这可能是一个四舍五入的问题,正如 PHP 上解释的那样 - number_format问题 函数 money_format() 的行为类似...

MATLAB 中的 log1p 函数

作者:Crimson 提问时间:9/11/2016

任何人都可以帮助澄清log1p参考页面中以下句子的含义。 y = log1p(x) 计算 log(1+x),补偿 1+x 中的舍入。 我查看了源代码,但不明白重写以下函数有何帮助: p1 = x...

当我们在计算器中将 0.7 和 0.1 相加时,计算机如何向我们显示 0.6 的结果?

作者:NoWeDoR 提问时间:10/21/2016

1)据我所知,计算机将十进制数转换为二进制数字并按其进行交易。例如,当我们在计算机计算器中添加“12”和“37”等十进制数时。这是正确的吗? 2) 如果我的第一个问题是正确的,那么 CPU 如何以单...

在双精度列表中找到最大一个数字,需要关心精度吗?

作者:bugs king 提问时间:10/27/2016

假设有一个向量,需要找出最大数。我的同事告诉我,必须以一种特殊的方式处理双数才能做到这一点,他的代码是这样的: double max = v[0]; for (int i = 0; i < v.si...

“查找”功能工作不正确,已尝试浮点精度分辨率

作者:romanex 提问时间:12/4/2016

我已将目录中的文件垂直连接成一个大小约为 60000 x 15 的矩阵(已验证)。 d=dir('*.log'); n=length(d); data=[]; for k=1:n data{k}=...

两个版本的导数计算之间的精度差异是什么?

作者:GabrielChu 提问时间:12/3/2016

以下是旨在计算给定函数导数的Python代码。f 版本 1(解决方案) x[ix] += h # increment by h fxh = f(x) # evalute f(x + h) x[ix...

在 php 中为逗号后 15 个数字设置浮点数的精度

作者:Bjørson Bjørson 提问时间:12/25/2016

Servus, 我在PHP中的浮点数有问题。我的号码是 $cosVQ = 0.907424504992097 但是当我做一些数学运算时,我会在 Javascript 和 PHP 中收到不同的结...

如何阻止MySQL对浮点值进行四舍五入?

作者:Mike Volmar 提问时间:1/6/2017

我将货币值作为浮点数存储在 mysql 表中。 问题是,MySQL正在向上或向下舍入数字。 例如,12345.68 四舍五入为 12345.7 我怎样才能阻止这种情况,或者我应该使用更好的数据类...

浮点字段上的 MySQL GROUP BY

作者:Simon 提问时间:6/20/2012

我有一个包含以下列的表: ID int, DISTANCE float, EVENT Varchar 我想实现的是选择所有数据,但按事件和距离字段分组(即删除相同距离的重复事件)。 我可以看到...

浮点导致计算不准确

作者:Vito 提问时间:1/24/2017

我没有在 ruby 中设置变量的日期类型。我使用默认数据类型,以便使最终计算不准确。如何解决? scores = params[:scores].split("\r\n").map { |n| n...


共694条 当前第40页