浮点 问答列表

如何检测矩阵是否由于浮点误差而看起来非奇异,但实际上是奇异的?

作者:meisel 提问时间:11/7/2023

我正在创建一个公共 API,用于对矩阵执行一些操作,包括矩阵反转。我尝试过的一些矩阵是通过一系列浮点运算创建的,因此我知道它们不应该是可逆的,但对于它返回一个矩阵(一个具有非常大值的矩阵,例如 2.1...

为什么计算机科学中的“(eps * 0.5) + 1”不大于“1”?

作者:m615 提问时间:11/6/2023

我正在学习Matlab,我不明白为什么不大于1。(eps * 0.5) + 1 eps ans = 2.220446049250313e-16 fprintf('%.52f\n', eps)...

有没有办法在PHP中使用小数点后16位的最小值来执行算术运算

作者:Arnab Sheikh 提问时间:11/7/2023

我的实际值是:0.990641327804487 但是在进行PHP算术运算时,它会将这个数字转换为0.99064132780449 我试过number_format功能, 如果我将其转换为它,它会返...

float 是用于块元素还是内联元素?

作者:Alfredo 提问时间:11/7/2023

浮点值 — 应用浮点值(如 left)可能会导致块级元素沿元素的一侧换行。源 float CSS 属性将元素放置在其容器的左侧或右侧,允许文本和内联元素环绕它。源 所以 float 是用来将块元素...

将大整数 (uint64+) 转换为十六进制

作者:yingw 提问时间:11/8/2023

在将内容导入 bigquery 时,我的十六进制字符串被转换为浮点数。我知道我需要修复导入,但我想尽最大努力恢复一些数据。 我正在尽最大努力将它们转换回十六进制,但是,尝试玩具示例会产生意想不到的行...

如何在 .txt 文件中找到最小的浮点数?

作者:RykerStrike 提问时间:11/4/2023

问题来了: 假设您有一个文本文件,其中包含浮点数列表,每行一个数字。编写 Python 程序,该程序将搜索文件并找到最小的数字并将其打印到控制台。 我们不能使用 、 、 、 或 这样的函数。.re...

Double.TryParse 无法处理最大值或最小值,除非字符串

作者:Timothy C. Quinn 提问时间:11/9/2023

我正在为 .Net's,在边缘条件测试期间,我发现当它是 Double 时,它的最大值 Double 存在问题,但当它是 .例如:Double.TryParseString Dim iMaxD As...

Java 中的 x86 80 位浮点类型

作者:box 提问时间:10/29/2015

我想模拟 x86 扩展精度类型,并在 Java 中对其他类型执行算术运算和强制转换。 我可以尝试使用 BigDecimal 实现它,但涵盖围绕 NaN、无穷大和强制转换的所有特殊情况可能是一项繁琐的...

无法获取“vrndscalepd”的正确舍入模式代码

作者:RTC222 提问时间:11/11/2023

我正在打电话对 ZMM 寄存器进行四舍五入。要四舍五入的寄存器是:vrndscalepd {3.9304247359239284, 0.85804618270500566, 1.8999409082...

float8、float16、float32、float64 和 float128 可以包含多少位数字?

作者:mathguy 提问时间:6/9/2019

Numpy 的 dtype 文档仅显示每个浮点数类型的“x 位指数,y 位尾数”,但我无法将其准确转换为小数点前后的数字。有没有简单的公式/表格可以查找?...


共635条 当前第62页