我正在尝试使用 boost.geometry 进行多边形减法。多边形可能是凹形的，但没有内环。 大多数情况下，这效果很好，但我发现至少有一种情况，结果被提升几何体本身检测为自相交。 多边形概念定义...

我对Matlab上矩阵乘法的准确性有疑问。我将用一个例子来解释这一点。 让 A=[0.1256, 0.25789; 0.00018, 0.68741]; B=[0.1578, 0.24471; 0...

给定序列 1/1, 1/2, 1/3, ... , 1/n 如果我使用 numpy.float16，我如何计算在哪个点上我无法以精度 E 区分两个连续元素 1/i 和 1/i+1？即什么是“我”...

我想将双精度值 [10.0,20.0] 的连续范围映射到 [100,200] 范围内的字节; 必须满足以下条件（即使多次来回转换）： convertToByte(convertToDouble(y...

我是 R 的新手，正在为 apply 函数而苦苦挣扎。执行起来真的很慢，我正在尝试优化我收到的一些代码。 我正在尝试进行一些矩阵运算（对 ~10^6 个元素矩阵进行逐元素乘法和除法），然后对结果矩阵...

这个问题在这里已经有答案了： 为什么 Microsoft 放弃了长双精度数据类型？[关闭] （1 个答案） 在 Visual Studio 2019 中使用 numeric_limits C++ 长双...

这个问题在这里已经有答案了： 如何处理JavaScript中的浮点数精度？[复制] （46 个答案） 1年前关闭。 有时，简单的代数会导致浮动精度误差。 在这种情况下，我遇到了导致12 * 1.61...

我正在尝试计算由于直接计算（即 cos（1））而导致的 f'（1）（其中 f（x）=sin（x））计算中的绝对误差，以及使用公式完成的绝对误差 f'(x) = (f(x+h)-f(x))/h ...

JavaScript 或浏览器中是否内置了 bignum？ 备用是加载外部库，例如 <script type="text/javascript" src="the_bignum_library.j...

我听说过使用浮点变量时的“错误”。现在我正在尝试解决这个难题，我想我得到了一些舍入/浮点错误。因此，我终于要弄清楚浮点误差的基础知识了。 浮点/舍入错误的简单示例是什么（最好在 C++ 中）？ 编...