浮点 问答列表

为什么 .NET 说次正态数从来都不是 2 的幂?

作者:Jeppe Stig Nielsen 提问时间:10/3/2023

自 .NET 7(从 2022 年开始)以来,一直存在静态方法双倍。IsPow2 中。 谁决定永远不要将次正常数视为 2 的幂?例如,如果我尝试以下代码: double exp = -1000.0...

执行时间(性能)装饰器的单元测试

作者:zaelcovsky 提问时间:10/4/2023

我有一个执行时间(性能)装饰器,它计算给定函数的平均执行时间并使用值打印结果:float from time import perf_counter, sleep def benchmark_de...

将浮点(32 位)和双精度(64 位)转换为字节

作者:Thomas 提问时间:10/5/2023

我正在尝试通过TCP将数据缓冲区从Python发送到C++服务器。 TCP 包顺序定义如下: bytes[0 till 3] 必须是一个整数(32 位),其值 = 缓冲区的长度 bytes[4 到...

当使用 std::complex <_Float16> 进行乘法时,对“__constexpr_copysign”的调用是模棱两可的 C++

作者:Sam Moldenha 提问时间:10/6/2023

我正在尝试使用,但 .我收到以下错误:std::complex<_Float16>std::operator<_Float16>*() call to '__constexpr_copysign' ...

为什么 nodejs 中的固定函数结果在浮点值略有不同之间有所不同?[复制]

作者:Gagantous 提问时间:10/6/2023

这个问题在这里已经有答案了: 如何处理JavaScript中的浮点数精度?[复制] (46 个答案) 浮点数学坏了吗? (34 个答案) 在 Javascript 中舍入 toFixed() 方法 [...

pytorch-lightning 的梯度累积中的数值不精确?

作者:Astrid Hofmann 提问时间:10/7/2023

根据我对梯度累积的理解(例如这篇文章和这篇文章),使用 vs. 应该是一样的。batch_size = xaccumulate_gradient = h, batch size = x/h 因此,这...

C++ 中算术运算和强制转换的机器值

作者:p d 提问时间:10/9/2023

我是 C++ 编程的新手。我想知道作为 C++ 中以下简单操作的结果,可以获得哪些可能的机器值: int a = 3; double inv_a; inv_a = (double) 1 / (do...

将浮点数限制为小数点后两位

作者: 提问时间:1/19/2009

我想四舍五入到 13.95。我尝试使用圆形,但我得到:a >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 有关标准库 De...

试图找到浮点数、双精度数、长双精度数的最小正数。适用于 double 和 long double,但不适用于浮点

作者:CaptainParsifal 提问时间:10/9/2023

我正在尝试为每种数据类型(浮点数、双精度数和长双精度数)找到最大和最小数字。我正在使用一个循环,我将每个值与无穷大(最大数字)和 0(最小数字)进行比较。然后,它打印找到的值。它为我提供了双精度和长双...

UL 未向右移动

作者:Daniël van Veelen 提问时间:10/11/2023

为什么此列表没有移动到屏幕的右上角? ul { list-style-type: none; margin: 0; padding: 0; position: absolute; top:...


共635条 当前第57页