精度 问答列表

为什么计算机科学中的“(eps * 0.5) + 1”不大于“1”?

作者:m615 提问时间:11/6/2023

我正在学习Matlab,我不明白为什么不大于1。(eps * 0.5) + 1 eps ans = 2.220446049250313e-16 fprintf('%.52f\n', eps)...

numpy.loadtxt 不读取多项式回归的 np.longfloat 数据

作者:javery 提问时间:11/7/2023

我有一个逗号分隔的文件,其中包含科学记数法的值。我尝试通过以下两种方式读取数据,但这两种方式实际上似乎都没有使用我指定的 longdouble 数据类型。它恢复为标准的 64 位浮点数。我怎样才能以适...

PyTorch load_state_dict() 不加载精确值

作者:Random Seed 提问时间:11/7/2023

为简单起见,我想使用此代码将火炬模型的所有参数设置为常量72114982 model = Net() params = model.state_dict() for k, v in params....

有没有办法在PHP中使用小数点后16位的最小值来执行算术运算

作者:Arnab Sheikh 提问时间:11/7/2023

我的实际值是:0.990641327804487 但是在进行PHP算术运算时,它会将这个数字转换为0.99064132780449 我试过number_format功能, 如果我将其转换为它,它会返...

为什么训练和验证的准确率、精确度和召回率结果在我的深度学习模型的每个时期都显示出相同的值

作者:Achini Nisansala 提问时间:11/9/2023

我想获得此问题的准确度、精确度和召回率值、分类报告。但是我在每个时期的准确性、精确度和召回率都得到了相同的值。此外,我得到的 iou 价值微薄。我怎样才能提高准确性、精确度、召回率和借据,请给我一个相...

在 JDBC Insert 中用随机数填充的 BigDecimal 变量

作者:Will Sumekar 提问时间:2/22/2011

考虑 Oracle 类型为 NUMBER 的 SQL 语句。INSERT INTO table (field) VALUES (-0.11111111)field 当要插入的值的类型为 float ...

添加高精度浮点时出现异常 [重复]

作者:Constantinos Glynos 提问时间:11/14/2023

这个问题在这里已经有答案了: 为什么浮点数不准确? (5 个答案) 浮点数学坏了吗? (34 个答案) 5天前关闭。 请看以下示例: int main() { float x = 1.0f; ...

如何避免 Java 中浮点数或双精度数的浮点精度错误?[复制]

作者:tunnuz 提问时间:3/10/2011

这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 2天前关闭。 我在 Java 中遇到了长数浮点数或双精度的问题。 如果我执行: for ( float value = 0.0f...

浮点数学坏了吗?

作者:Cato Johnston 提问时间:2/26/2009

请考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些不准确之处?...

imshow 绘制非常大的整数,但“dtype 对象无法转换为浮点数”

作者:D.R 提问时间:11/15/2023

我有以下代码,在网格上绘制一个函数,其中该函数恰好具有非常大的整数值: import matplotlib.pyplot as plt from matplotlib.ticker import S...


共694条 当前第13页