问答列表

执行时间(性能)装饰器的单元测试

作者:zaelcovsky 提问时间:10/4/2023

我有一个执行时间(性能)装饰器,它计算给定函数的平均执行时间并使用值打印结果:float from time import perf_counter, sleep def benchmark_de...

将浮点(32 位)和双精度(64 位)转换为字节

作者:Thomas 提问时间:10/5/2023

我正在尝试通过TCP将数据缓冲区从Python发送到C++服务器。 TCP 包顺序定义如下: bytes[0 till 3] 必须是一个整数(32 位),其值 = 缓冲区的长度 bytes[4 到...

Python 和 C++ 中矩阵乘法中的不同浮点精度

作者:skm 提问时间:10/6/2023

我正在尝试做一件非常简单的事情 取一个正方形的二维数组 接受它的转置 将数组与其转置相乘 我正在尝试在 C++ 和 Python 中执行上述步骤,如以下程序所示: C++程序: #includ...

当使用 std::complex <_Float16> 进行乘法时,对“__constexpr_copysign”的调用是模棱两可的 C++

作者:Sam Moldenha 提问时间:10/6/2023

我正在尝试使用,但 .我收到以下错误:std::complex<_Float16>std::operator<_Float16>*() call to '__constexpr_copysign' ...

pytorch 中项目之间的 CPU float32 精度差异

作者:xaviersjs 提问时间:10/6/2023

我知道每个IEEE的float32在对10^-7量级的值求和时存在精度问题。我完全希望看到架构(包括 GPU)之间的计算差异。但是,现在我正在测试 pytorch 模块的两种不同实现,并在一侧和另一侧...

为什么 nodejs 中的固定函数结果在浮点值略有不同之间有所不同?[复制]

作者:Gagantous 提问时间:10/6/2023

这个问题在这里已经有答案了: 如何处理JavaScript中的浮点数精度?[复制] (46 个答案) 浮点数学坏了吗? (34 个答案) 在 Javascript 中舍入 toFixed() 方法 [...

pytorch-lightning 的梯度累积中的数值不精确?

作者:Astrid Hofmann 提问时间:10/7/2023

根据我对梯度累积的理解(例如这篇文章和这篇文章),使用 vs. 应该是一样的。batch_size = xaccumulate_gradient = h, batch size = x/h 因此,这...

Odoo 16浮点字段默认值

作者:Harvey Specter 提问时间:10/5/2023

我有一个 Float 字段: ​field_name = fields.Float(string='The percentage paid upon signing the contract', ...

浮点异常(核心转储)需要帮助确定潜在错误的位置

作者:PapaPumpkin 提问时间:10/9/2023

此函数应打印从 while 循环给出的奇数和偶数输入的平均值,直到输入 0,然后结束。它目前无法运行,我将此块从与错误无关的较大代码段中分离出来。有什么想法会在哪里给出点异常错误吗? int ma...

C++ 中算术运算和强制转换的机器值

作者:p d 提问时间:10/9/2023

我是 C++ 编程的新手。我想知道作为 C++ 中以下简单操作的结果,可以获得哪些可能的机器值: int a = 3; double inv_a; inv_a = (double) 1 / (do...


共817条 当前第74页