精度 问答列表

PyTorch load_state_dict() 不加载精确值

作者:Random Seed 提问时间:11/7/2023

为简单起见,我想使用此代码将火炬模型的所有参数设置为常量72114982 model = Net() params = model.state_dict() for k, v in params....

numpy.loadtxt 不读取多项式回归的 np.longfloat 数据

作者:javery 提问时间:11/7/2023

我有一个逗号分隔的文件,其中包含科学记数法的值。我尝试通过以下两种方式读取数据,但这两种方式实际上似乎都没有使用我指定的 longdouble 数据类型。它恢复为标准的 64 位浮点数。我怎样才能以适...

为什么计算机科学中的“(eps * 0.5) + 1”不大于“1”?

作者:m615 提问时间:11/6/2023

我正在学习Matlab,我不明白为什么不大于1。(eps * 0.5) + 1 eps ans = 2.220446049250313e-16 fprintf('%.52f\n', eps)...

如何检测矩阵是否由于浮点误差而看起来非奇异,但实际上是奇异的?

作者:meisel 提问时间:11/7/2023

我正在创建一个公共 API,用于对矩阵执行一些操作,包括矩阵反转。我尝试过的一些矩阵是通过一系列浮点运算创建的,因此我知道它们不应该是可逆的,但对于它返回一个矩阵(一个具有非常大值的矩阵,例如 2.1...

在什么情况下 'str(float(val)) == val' 在 Python 中不成立?[复制]

作者:zyxue 提问时间:11/4/2023

这个问题在这里已经有答案了: python 浮点数的精度(以小数点为单位)是多少? (1 个答案) 15天前关闭。 对于像这样的字符串变量,总是成立吗?val"1.2345"assert str(f...

获取 float64 进行 numpy 计算

作者:MJELVEH 提问时间:10/28/2023

def chi2_distance(a,b): d=1-(np.dot(a,b)/(norm(a,axis=1)*norm(b))) return d a 和 b 是 float32,...

如何解压 TEDS ConRes 类型?

作者:Max Kielland 提问时间:11/3/2023

在TEDS(传感器电子数据表)模板中,有两种数据类型被描述为 ConRes的。 “恒定的分辨率。这是压缩的自定义数据类型 浮点值,提供已定义 间隔” 和 ConRelRes。 “恒定的相对分辨率...

双精度浮点。为什么最大指数是 1023

作者:Teodoras Paura 提问时间:11/1/2023

当我们有一个二进制 Intel 处理器和一个由 64 位表示的双精度浮点数时,其中 1 位表示符号,52 位表示尾数,11 位表示指数。 我不明白为什么它不应该是 2^11,因为 11 位专用于它。...

使用缩放容差比较浮点数

作者:mcu 提问时间:10/25/2015

我突然想到,比较浮子的一个好方法是用浮子缩放公差。这是个好主意吗? 此例程需要针对特殊数量(例如 NaN、+/-Inf)进行扩展,但它给出了一个基本概念。 def FloatEq(a, b, To...

通过特征值/特征向量计算SVD的精度

作者:ATu 提问时间:10/31/2023

在倍频程中,我使用特征分解来计算 svd 而不是 svd 函数 istelfand 比较结果。 使用退出的 SVD 函数时出现错误 [U2,S2,V2] = svd(A2); errU2U2t =...


共694条 当前第14页