精度 问答列表

如何精确计算给定平方边长的三角形的角度?

作者:Alec Jacobson 提问时间:9/20/2023

给定三角形的平方边长为 ,我们如何准确计算内角?a, b, c > 0 Kahan经常引用的方法,它仔细地重新排列括号,假设(不平方)边缘长度。 另一种流行的方法(第 15 页)假设边缘向量。 ...

如何计算转换规范 %.*f 的精度以保持浮点值的精度?

作者:pmor 提问时间:9/22/2023

注意:这个问题源于这个答案。 如何计算转换规范的精度以保持浮点值的精度?%.*f 注意:这里的“保持精度”是指在读取打印值后(例如,通过或按),结果值等于原始值(NaNs除外)(用于具有转换规范的...

如何检测矩阵是否由于浮点误差而看起来非奇异,但实际上是奇异的?

作者:meisel 提问时间:11/7/2023

我正在创建一个公共 API,用于对矩阵执行一些操作,包括矩阵反转。我尝试过的一些矩阵是通过一系列浮点运算创建的,因此我知道它们不应该是可逆的,但对于它返回一个矩阵(一个具有非常大值的矩阵,例如 2.1...

在 JDBC Insert 中用随机数填充的 BigDecimal 变量

作者:Will Sumekar 提问时间:2/22/2011

考虑 Oracle 类型为 NUMBER 的 SQL 语句。INSERT INTO table (field) VALUES (-0.11111111)field 当要插入的值的类型为 float ...

为什么训练和验证的准确率、精确度和召回率结果在我的深度学习模型的每个时期都显示出相同的值

作者:Achini Nisansala 提问时间:11/9/2023

我想获得此问题的准确度、精确度和召回率值、分类报告。但是我在每个时期的准确性、精确度和召回率都得到了相同的值。此外,我得到的 iou 价值微薄。我怎样才能提高准确性、精确度、召回率和借据,请给我一个相...

有没有办法在PHP中使用小数点后16位的最小值来执行算术运算

作者:Arnab Sheikh 提问时间:11/7/2023

我的实际值是:0.990641327804487 但是在进行PHP算术运算时,它会将这个数字转换为0.99064132780449 我试过number_format功能, 如果我将其转换为它,它会返...

PyTorch load_state_dict() 不加载精确值

作者:Random Seed 提问时间:11/7/2023

为简单起见,我想使用此代码将火炬模型的所有参数设置为常量72114982 model = Net() params = model.state_dict() for k, v in params....

numpy.loadtxt 不读取多项式回归的 np.longfloat 数据

作者:javery 提问时间:11/7/2023

我有一个逗号分隔的文件,其中包含科学记数法的值。我尝试通过以下两种方式读取数据,但这两种方式实际上似乎都没有使用我指定的 longdouble 数据类型。它恢复为标准的 64 位浮点数。我怎样才能以适...

为什么计算机科学中的“(eps * 0.5) + 1”不大于“1”?

作者:m615 提问时间:11/6/2023

我正在学习Matlab,我不明白为什么不大于1。(eps * 0.5) + 1 eps ans = 2.220446049250313e-16 fprintf('%.52f\n', eps)...

如何解压 TEDS ConRes 类型?

作者:Max Kielland 提问时间:11/3/2023

在TEDS(传感器电子数据表)模板中,有两种数据类型被描述为 ConRes的。 “恒定的分辨率。这是压缩的自定义数据类型 浮点值,提供已定义 间隔” 和 ConRelRes。 “恒定的相对分辨率...


共694条 当前第12页