浮点 问答列表

浮点乘法即使四舍五入到最接近也会产生无穷大

作者:Heygard Flisch 提问时间:2/1/2023

请考虑以下 C++ 代码: #include <fenv.h> #include <iostream> using namespace std; int main(){ fesetround(F...

为什么加法误差接近“DBL_MAX”和无穷大?

作者:chux - Reinstate Monica 提问时间:2/1/2023

在四舍五入模式的实验中,( 和 )显然无法形成预期的无穷大之和,而是在将 和 的 1 ULP 相加时形成。FE_DOWNWARDFE_TOWARDZERODBL_MAXDBL_MAXDBL_MAX ...

int 到 float 类型转换和 couting 的问题

作者:whitehat 提问时间:2/5/2023

#include <iostream> using namespace std; int main() { int nominals[15] = {50000, 20000, 10000, ...

有符号多头到浮动,然后有符号空头 [关闭]

作者:Rana Zeeshan 提问时间:2/6/2023

闭。这个问题不可重现或是由错别字引起的。它目前不接受答案。 这个问题是由错别字或无法再现的问题引起的。虽然类似的问题可能在这里是主题,但这个问题的解决方式不太可能帮助未来的读者。 10个月前关闭。...

时间关键型 C++ 循环中的浮点数舍入错误,寻找有效的解决方案

作者:elena 提问时间:2/7/2023

作为一个前提,我知道这个问题已经得到解决,但从未在这种特定情况下得到解决,从我能找到的搜索中。 在一段时间关键的代码中,我有一个循环,其中浮点值 x 必须在“z”步长中从 0 线性增长到正好 1。 ...

比较 int64 和浮点值在循环内不起作用

作者:H Kumar 提问时间:2/7/2023

仅当 which is 小于 ceil 返回的值 double 时,以下循环才会运行。但是,我没有看到正在执行的循环。offuint64_t #include <bits/stdc++.h> usi...

我应该用整数来表示货币吗?[复制]

作者:Eduardo Matsuoka 提问时间:2/7/2023

这个问题在这里已经有答案了: 使用什么类来表示货币? (6 个答案) 10个月前关闭。 这篇文章在 10 个月前被编辑并提交审核,但未能重新打开帖子: 原始关闭原因未解决 我知道 Decimal...

代码发送双精度值,EF 以错误的方式使用它创建查询

作者:Thierry Verhaegen 提问时间:2/8/2023

我正在填充一个有双精度的对象。在数据库中,此字段是浮点数。我的 EF savechanges 失败,因为它说它返回 0 条记录。 我使用 sql profiler 查看它向数据库发送了哪个查询,但此...

计算二进制实数

作者:Kangkue 提问时间:2/13/2023

关于小数,我有话要问 我正在尝试计算二进制数。例如。101.01 2^3 2^2 2^1 2^0 (dot/point) 2^-1 2^-2 2^-3 这是照片,如果不清楚的话 就像图片中一...

关于比较浮点数的公差和公式的原则性推理?

作者:shadowtalker 提问时间:2/14/2023

Python 标准库包含函数 math.isclose,它等效于: abs(a - b) <= max(rtol * max(abs(a), abs(b)), atol) Numpy 库同样包含...


共635条 当前第39页