问答列表

C# 格式浮点舍入/准确性问题:N2 与 0.00

作者:Tom Charles Zhang 提问时间:10/17/2023

在 C# (.Net 7) 中: float a = 13082987520.00f; Console.WriteLine(a); Console.WriteLine($"{a:N2}"); Con...

“从'int'转换为'float'可能会改变其值”

作者:Peter Kirsch 提问时间:10/29/2023

我研究了这个错误,但一直找不到它。我也是新手。我想学习 C 的基础知识,这是我的第一个程序。我想修改函数,以防万一有人分裂。sumcalcfloat2/5 #include <stdio.h> i...

解决浮点序列管理中的精度挑战

作者:P Zulfikarova 提问时间:10/30/2023

我面临着一个与在 SQL Server 中组织序列值相关的问题,并希望获得一些关于找到解决该问题的最佳方法的指导。问题来了: 我们在 SQL Server 中使用 float 数据类型来确定序列的值...

通过特征值/特征向量计算SVD的精度

作者:ATu 提问时间:10/31/2023

在倍频程中,我使用特征分解来计算 svd 而不是 svd 函数 istelfand 比较结果。 使用退出的 SVD 函数时出现错误 [U2,S2,V2] = svd(A2); errU2U2t =...

使用缩放容差比较浮点数

作者:mcu 提问时间:10/25/2015

我突然想到,比较浮子的一个好方法是用浮子缩放公差。这是个好主意吗? 此例程需要针对特殊数量(例如 NaN、+/-Inf)进行扩展,但它给出了一个基本概念。 def FloatEq(a, b, To...

使用联合操作浮点位:查找适合浮点数的正确 uint 类型

作者:Hermit 提问时间:11/1/2023

在 C 语言中,我看到这段代码被用作操作浮点数的一种方式,直到位: union { uint32_t bits; float value; } 通过定义这种类型的变量,可以在侧面执行按位运算...

用于存储小数的 SQLite 数据类型

作者:Alex 提问时间:11/1/2023

我想将加密货币财务数据存储在 中,但无法弄清楚如何处理数字的精度。加密精度/刻度可以低至 8 位,实数部分可以低至 10-12 位。即以下数字是可能的:sqlite123456789111.12345...

双精度浮点。为什么最大指数是 1023

作者:Teodoras Paura 提问时间:11/1/2023

当我们有一个二进制 Intel 处理器和一个由 64 位表示的双精度浮点数时,其中 1 位表示符号,52 位表示尾数,11 位表示指数。 我不明白为什么它不应该是 2^11,因为 11 位专用于它。...

使用 IEEE 754 浮点格式的 8 位版本查找 32 到以 10 为基数的表示形式

作者:Ajb030603 提问时间:11/1/2023

使用以下 8 位版本的 IEEE 754 浮点格式,如实际情况所示:表示 32 到基数 10 Sign 1-bit Expontent 3-bits Mantissa 4-bits 我预计没有足...

在 C 中将二进制分数分配给浮点变量

作者:Tah_Ra 提问时间:10/15/2023

我正在尝试做如下事情 #include <stdio.h> int main() { float a = 0b00000100; float b = 0b0.0110; // this lin...


共817条 当前第78页