问答列表

IEEE754单精度浮点数的字节表示形式不一致

作者:user3414663 提问时间:8/3/2023

当使用 Common Lisp 读取包含单精度浮点数的二进制编码的数据文件时,会出现此问题,这些编码可能是从 C/C++ 编写的。在Lisp中,我使用了ieee-floats包。然而,这导致浮点数的有...

在使用 g++13 的 x86 CPU 上使用 bfloat16 和 C++23

作者:Vistemboir 提问时间:8/5/2023

我正在尝试使用 bfloat16 作为在 HPC 集群上工作的应用程序的格式。为此,我安装了 g++13,据说它支持 bfloat16 格式,但这对我来说并不一致。 在我的本地机器上,它可以工作并支持...

在 Python 和 NumPy 中量化正态分布的浮点数

作者:Stand with Gaza 提问时间:7/31/2023

让数组中的值从高斯采样 分配。我想用“代表”之一替换每个值,以便总量化误差为 最小 化。AAn_RR 下面是执行线性量化的 NumPy 代码: n_A, n_R = 1_000_000, 256 ...

在 Numpy 数组中存储浮点数的高速和低内存方式

作者:DazzRick 提问时间:8/7/2023

我有这个数字:.我想将其保存在 Numpy 数组中,我认为虽然位数较低,但它仍然更好。这是对的吗?19576.4125 我试图在一半和一人中保存,但我不知道为什么它会改变数字。 我的号码:1957...

如何根据当前的舍入方向将float转换为int?

作者:pmor 提问时间:8/4/2023

如何根据当前的舍入方向转换为?floatint 有 and 函数(C11、7.12.9.5)。但是,它们的返回值具有 types 和 .为什么没有版本?lrintllrintlong intlong...

如何将定点数转换为浮点数?

作者:severelyautistic 提问时间:4/18/2023

使用 Unity。 我需要使用定点确定性地将一些数据联网。如何将定点数转换回浮点数,以便将其应用于对象变换? public class Fixed { private int front; pr...

x86 是否具有 Arm FCVTNS(标量)的等效项?

作者:pmor 提问时间:8/8/2023

手臂有指令,这是(强调后加):FCVTNS (scalar) 浮点转换为有符号整数,四舍五入到最接近,并系到偶数(标量)。 一个简单的问题:x86 有相当于 Arm 的吗?FCVTNS (scal...

x86 汇编 如何正确将 XMM0 导入 ST0?

作者:Zvend 提问时间:8/6/2023

祝大家星期天愉快。 我目前正在 32 位环境(目前为 Windows)中学习大量汇编。我正在为此使用 FASM。 我有以下成功制作的代码,但我对将 XMM0 加载到 ST0 的方式非常不满意: ...

确定数字是否在浮点数或双精度范围内

作者:Lampe2020 提问时间:8/13/2023

有没有办法确定一个数字是可存储为单浮点数还是双浮点数? 我正在实现自己的数据库格式,在我的帮助程序函数中,我目前有以下代码:num2bin(n) import struct, warnings d...

在Apache IoTDB中插入数据时,如何避免数据类型从int类型自动转移到float类型?

作者:NKZ 提问时间:8/15/2023

我有一个关于Apache IoTDB的问题。在 java 中插入数据时,例如使用 method,当数据类型为 时,如果我尝试将这些数据插入到 IoTDB 中,数据类型将自动变为 type。有什么方法可...


共817条 当前第67页