floating-accuracy 问答列表

使用 MySQL 和 SQLAlchemy ORM 实现高数值精度浮点数

作者:Christian O'Reilly 提问时间:4/25/2014

我使用 SQLAlchemy 的 ORM 在 MySQL 中存储一些数字。当我之后获取它们时,它们被截断,因此只有 6 个有效数字被保留,因此我的浮点数失去了很多精度。我想有一种简单的方法可以解决这个...

根据真实值近似计算精确位数

作者:PattyWatty27 提问时间:9/19/2019

我创建了执行牛顿方法近似的代码。它以类似表格的格式打印每个步骤的近似值和相关的误差。我想添加一列,该列显示一个整数值,该值表示与真实值的近似正确位数。 我正在尝试将每个近似单元格转换为字符串,并计算...

近似值从双精度到单精度的转换

作者:Dexter S 提问时间:9/18/2020

我想将给定函数的双精度近似转换为单精度 C 实现(目标设备仅提供单精度 ALU)。 使用双精度生成高精度(例如.max误差0.1e-12)近似并不太复杂。我使用过 maple minimax 函数,...

Python 将 Counter 中的整数替换为它们占总数的百分比 [重复]

作者:Ξένη Γήινος 提问时间:10/14/2021

这个问题在这里已经有答案了: 四舍五入浮点数,使它们的总和精确到 1 (5 个答案) 2年前关闭。 我正在尝试使用马尔可夫链生成在任何字典中都找不到的可读的类似单词的随机字符串。 我从GCIDE中...

numpy.vstack 失去精度 float16

作者:Joao Victor 提问时间:6/4/2022

我正在尝试仅使用一位数字作为精确数字来执行线性回归的精确计算。没有 numpy,它可以正常工作,但 numpy 对于大量项目表现更好,这就是我需要使用 numpy 的原因。 但问题是,当我为 X 轴构...

C++ static_cast不正确

作者:juco 提问时间:12/14/2022

我是 C++ 的新手,有以下简单的代码片段探索 C++ 的限制: int main() { float x = 2147483000; int y = static_cast<int>(x)...

如何在 DolphinDB 中准确舍入浮点值?

作者:yiniwei 提问时间:4/25/2023

我想用函数四舍五入浮点数,但结果不是我所期望的。例如,round(17.955, 2) 的结果是 17.95 而不是 17.96。要得到后者,我必须添加 0.0001。为什么会这样,我该怎么办?rou...

Pytorch Lightning 2 精度崩溃

作者:Piero Volante 提问时间:5/3/2023

我是第一次尝试使用 Lightning PyTorch,但是在测试中我遇到了一些奇怪的问题。 我已经报告了训练期间的损失和准确性趋势,但是,当我在训练结束时测试网络时,测试集、验证集和训练集的准确率都...


共8条 当前第1页