问答列表

.NET 中的 decimal、float 和 double 之间的区别?

作者: 提问时间:3/6/2009

在.NET中,和有什么区别?decimalfloatdouble 什么时候有人会使用其中之一?...

为什么在 std::vector 内部使用 std::complex<double> 时,机器 epsilon 的阶数会有所不同?

作者:user1139069 提问时间:1/22/2023

在尝试调试一些单元测试时,我发现在尝试比较使用 .在第一种情况下,我直接进行评估。在第二种情况下,我从内部访问这些。当我比较它们时,我得到了使用时机器 epsilon 的顺序差异。最小大小写示例如下所...

我可以比较两个浮点数而不将它们加载到 x87 堆栈上吗?

作者:x87-Learner 提问时间:1/21/2023

对不起,这个基本问题。 在汇编中,是否可以比较存储在不同(固定)内存位置的两个浮点,而不将它们加载到堆栈中?除了 CMP 和 JLE 之外,我还需要使用任何东西吗? 例如,内存地址 [A] 当前等...

Openmp 可重现缩减 [重复]

作者:nadavhalahmi 提问时间:1/23/2023

这个问题在这里已经有答案了: 平行约简的浮点相关数值稳定性问题 (1 个答案) 10个月前关闭。 我有以下示例代码: !$omp threadpriavate(var) !$omp paralle...

将数字格式设置为始终显示 2 位小数

作者:Varada 提问时间:5/26/2011

我想将我的数字格式设置为始终显示小数点后 2 位,并在适用的情况下四舍五入。 例子: number display ------ ------- 1 1.00 1.341 1.34 1.345 1...

在 ARM 上使用 Span<T> 会给出“System.DataMisalignedException:”

作者:Ingar Hjelle 提问时间:1/25/2023

我正在尝试读取数据并使用 .NET 7 从 Modbus RTU 传感器转换数据。一切都在我的 Linux-x64 机器上工作,但当我尝试在 RevPi 核心 S linux-arm 上运行它时,情况...

如何存储浮点数变量和整数?我不知道有什么区别

作者:Erin McKee 提问时间:1/12/2023

我的家庭作业是编写一个程序,要求用户输入成人和儿童餐的价格,然后询问每个餐食的价格,然后询问销售税率,然后询问您投入了多少钱。然后,它应该输出小计,然后是带有销售税的总计,然后它应该从用户“支付”的金...

为什么python中不同浮点数的差值可以是0?[复制]

作者:olli 提问时间:1/26/2023

这个问题在这里已经有答案了: Python 中大整数/数字的浮点数到整数到整数的 int 类型转换 (2 个答案) 10个月前关闭。 为什么 python3 中以下代码的结果为 0? a = "4...

为什么打印浮点数时需要按相同的值 +4?

作者:Radioactive Epic Face 提问时间:1/31/2023

很长一段时间以来,我一直在尝试在 FASM 中打印出浮点值,直到我终于找到解决方案,它有效,但是,为什么会这样?在 C 程序上,我使 x64dbg 生成的汇编代码如下所示: mov dword pt...

浮点乘法即使四舍五入到最接近也会产生无穷大

作者:Heygard Flisch 提问时间:2/1/2023

请考虑以下 C++ 代码: #include <fenv.h> #include <iostream> using namespace std; int main(){ fesetround(F...


共817条 当前第52页