精度 问答列表

如何对浮点值使用火炬量化,将位数从 FP64 减少到 8 位?

作者:Sherlock 提问时间:4/2/2023

我正在尝试使用 torch.quantization 模块(量化链接)中的量化库来降低浮点值的精度。 我的示例数组是用numpy编写的,这是我的代码: import numpy as np impo...

用非常接近 1 的数字计算 atanh

作者:Tomaz 提问时间:3/26/2023

我需要非常精确地计算反双曲正切。所讨论的等式是 where 应该在 240 的量级,并返回近似值 -276.65。-atanh(1/ (1 + 10**-x))x 我尝试了 python 提供的一些...

如何在 R 中获得精确的极低 P 值(在对数刻度或其他方面)[已关闭]

作者:Chirag Krishna 提问时间:4/1/2023

闭。这个问题不可重现或是由错别字引起的。它目前不接受答案。 这个问题是由错别字或无法再现的问题引起的。虽然类似的问题可能在这里是主题,但这个问题的解决方式不太可能帮助未来的读者。 8个月前关闭。 ...

FluentAssertions:自定义双比较器

作者:ProtonFisher 提问时间:4/5/2023

我尝试开始使用 FluentAssertions,但很快我就遇到了问题。我将它与 MSTest 一起使用。下面的测试失败了不应该发生的事情(从我的角度来看)。 [TestMethod] publi...

“long double”和“std::uintmax_t”之间的转换会失去整数的精度

作者:Piotr Siupa 提问时间:2/18/2023

我创建了一个类,允许拆分为整数值和二进制指数(用于一些精确的计算)。long double 我的问题很难重现,因为该类通常运行良好,但在我测试过的一台特定机器上,它在每次转换时都会丢失一些最低有效位...

具有相同值的两个变量的差值产生非零结果

作者:bubucodex 提问时间:4/6/2023

我正在尝试用 C 语言计算数学表达式。表达式如下: 以下是我编写的用于计算数学表达式的代码: int main() { double x,y,A1,B1,C1,result; x = ...

PHP 0.0 和 0.00 有什么区别吗?

作者:jave.web 提问时间:4/6/2023

考虑到 PHP8.1+,所有语法都有效: var_dump(0.0); // outputs float(0) var_dump(0.00); // also outputs float(0) va...

dplyr::filter 中 == 的替代项,以适应浮点数

作者:Nate 提问时间:4/12/2023

首先,我要说的是,我知道我们受到计算机算术和浮点数的限制,有时 0.8 不等于 0.8。我很好奇使用 in 或替代方法解决这个问题的方法。==dplyr::filter 我正在处理这段正常运行的代码...

为什么应用 cv2.normalize 后的最小值不完全为零?

作者:Rosy 提问时间:4/13/2023

我有一个带有浮点的二维数组。我想在 python 中将其归一化为 0-255 之间。我像这样应用了opencv规范化: result = cv2.normalize(my_array, None, ...

找到数字“四舍五入到最接近的 X”的值 X

作者:Party Ark 提问时间:4/19/2023

估计最接近的四舍五入的最简单方法是什么,我们知道四舍五入总是例如 100、10、1、0.1 等。我们不一定知道原始数字。 8 => 1 // we have rounded to the neare...


共694条 当前第19页