浮点类型 问答列表

SQL Server 2005 数值精度损失

作者:Ilya Komakhin 提问时间:9/24/2008

调试一些与金融相关的 SQL 代码时,发现 numeric(24,8) 数学精度存在一个奇怪的问题。 在MSSQL上运行以下查询,您将得到A + B * C表达式结果为0.123457 选择 A,...

.NET Decimal 类型计算是确定性的吗?

作者:zigzag 提问时间:9/6/2016

我有两个关于的问题。NET的数据类型确定性:decimal 类型计算是否具有跨平台确定性?或者换句话说,对类型的数学运算是否会在所有平台上产生完全相同的结果?decimaldecimal 强制转换...

在 SQL Server 中将 VARCHAR 列转换为 FLOAT 会截断数字

作者:kdickinson 提问时间:3/9/2023

我正在处理 SQL Server 数据库中的一列,该列从其源(Quickbase 或 Excel 文件)开始,需要以 (出于各种原因,主要是因为它是许多数据库表的主键,需要匹配现有格式)。Projec...


共3条 当前第1页