浮点 问答列表

Java 17 与 Java 8 双重表示

作者:omar mahameed 提问时间:10/26/2023

在 2 个不同的 JVM(Java 8 和 Java 17)之间执行平均值时,相同值的差异是什么原因? 那是因为浮点吗?还是在 2 个版本之间有其他变化? 爪哇 17 public class ...

如何在不更改格式说明符的情况下同时支持双精度和长双精度?

作者:KJ7LNW 提问时间:10/28/2023

我能够通过简单地搜索替换 来使用 's 编译 xnec2c。它计算正确,除非使用格式说明符的任何地方,因为它想要......当然,GCC 在用这句话入侵它之后,正在吠叫很多:long doubledo...

为什么 MinGW GCC 对 atan2、cos、exp 和 sin 使用 x87 80 位 FP 库代码?

作者:Martin Brown 提问时间:10/26/2023

我在从英特尔 2023 和 MSC Visual C++ 2022 移植工作数字代码时遇到了一个奇怪的问题。 使用 GCC 编译的代码非常准确(过于准确),因为一些库调用以完整的 80 位浮点精度工作...

C# 格式浮点舍入/准确性问题:N2 与 0.00

作者:Tom Charles Zhang 提问时间:10/17/2023

在 C# (.Net 7) 中: float a = 13082987520.00f; Console.WriteLine(a); Console.WriteLine($"{a:N2}"); Con...

“从'int'转换为'float'可能会改变其值”

作者:Peter Kirsch 提问时间:10/29/2023

我研究了这个错误,但一直找不到它。我也是新手。我想学习 C 的基础知识,这是我的第一个程序。我想修改函数,以防万一有人分裂。sumcalcfloat2/5 #include <stdio.h> i...

解决浮点序列管理中的精度挑战

作者:P Zulfikarova 提问时间:10/30/2023

我面临着一个与在 SQL Server 中组织序列值相关的问题,并希望获得一些关于找到解决该问题的最佳方法的指导。问题来了: 我们在 SQL Server 中使用 float 数据类型来确定序列的值...

通过特征值/特征向量计算SVD的精度

作者:ATu 提问时间:10/31/2023

在倍频程中,我使用特征分解来计算 svd 而不是 svd 函数 istelfand 比较结果。 使用退出的 SVD 函数时出现错误 [U2,S2,V2] = svd(A2); errU2U2t =...

使用缩放容差比较浮点数

作者:mcu 提问时间:10/25/2015

我突然想到,比较浮子的一个好方法是用浮子缩放公差。这是个好主意吗? 此例程需要针对特殊数量(例如 NaN、+/-Inf)进行扩展,但它给出了一个基本概念。 def FloatEq(a, b, To...

使用联合操作浮点位:查找适合浮点数的正确 uint 类型

作者:Hermit 提问时间:11/1/2023

在 C 语言中,我看到这段代码被用作操作浮点数的一种方式,直到位: union { uint32_t bits; float value; } 通过定义这种类型的变量,可以在侧面执行按位运算...

用于存储小数的 SQLite 数据类型

作者:Alex 提问时间:11/1/2023

我想将加密货币财务数据存储在 中,但无法弄清楚如何处理数字的精度。加密精度/刻度可以低至 8 位,实数部分可以低至 10-12 位。即以下数字是可能的:sqlite123456789111.12345...


共635条 当前第60页