半精度浮点 问答列表

在使用 g++13 的 x86 CPU 上使用 bfloat16 和 C++23

作者:Vistemboir 提问时间:8/5/2023

我正在尝试使用 bfloat16 作为在 HPC 集群上工作的应用程序的格式。为此,我安装了 g++13,据说它支持 bfloat16 格式,但这对我来说并不一致。 在我的本地机器上,它可以工作并支持...

在金属中从“r16Snorm”纹理到“一半”变量的精度损失读数

作者:simd 提问时间:9/30/2023

我的假设是否正确,即将一个值从纹理读取到金属着色语言数据类型中总是不可避免地导致精度损失?从一开始就对我来说并不明显,因为它们都是 16 位格式。但我想可以在其区间 [-1, 1] 中存储更精确的值,...


共2条 当前第1页