在编程中，我只使用整数。但这次是进行一些计算。我需要计算欧拉-马斯切罗尼常数。最多小数点后 n 位。{虽然对我来说已经足够了。γn ∈ [30, 150] [x] = gif（x） = 数学地板（x...

我正在尝试使用函数直方图将变量 （SST） 采样为另一个变量 （TCWV） 的函数，并将权重设置为采样变量，如下所示： # average sst over bins num, _ = np.his...

我知道浮点数的数值不准确的一般问题，但我希望 Excel 和 Google 表格的行为相同。不幸的是，他们没有 - 请参阅以下示例： A1: 15.525 our reference A2: =3*...

我正在尝试做一件非常简单的事情 取一个正方形的二维数组 接受它的转置 将数组与其转置相乘 我正在尝试在 C++ 和 Python 中执行上述步骤，如以下程序所示： C++程序： #includ...

我知道每个IEEE的float32在对10^-7量级的值求和时存在精度问题。我完全希望看到架构（包括 GPU）之间的计算差异。但是，现在我正在测试 pytorch 模块的两种不同实现，并在一侧和另一侧...

我必须使用 Python3（PyPy 实现）分析大量数据，在其中我对相当大的浮点数进行一些操作，并且必须检查结果是否足够接近整数。 举例来说，假设我正在生成随机的数字对，并检查它们是否形成毕达哥拉斯...

有谁知道纬度/经度坐标的最有效表示？对于消费类 GPS 设备来说，精度水平应该足够。 大多数实现似乎都用于每个单元，但我怀疑定点格式或定点格式就足够了。我很想听听任何试图压缩和/或存储这些值的大型数...

我有代表 24（？） 响应的数据-位 A/D 转换器。我正在下面的函数中将数据设置为多项式回归，但我得到了有害的浮点误差，以至于它使我的回归系数以后完全无法使用。 数据经过归一化后，范围介于 -1 ...

我有以下代码，在网格上绘制一个函数，其中该函数恰好具有非常大的整数值： import matplotlib.pyplot as plt from matplotlib.ticker import S...

这个问题在这里已经有答案了： 浮点数学坏了吗？ （34 个答案） 2天前关闭。 我在 Java 中遇到了长数浮点数或双精度的问题。 如果我执行： for ( float value = 0.0f...