浮点 问答列表

为什么将 0.1f 更改为 0 会使性能降低 10 倍?

作者:GlassFish 提问时间:2/16/2012

为什么这一段代码, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2...

从 Windows 命令提示符复制 Python 程序的输出会产生错误的数据

作者:Mineges 提问时间:3/15/2023

当我从 Windows 命令提示符复制 Python 程序的输出时,经常会产生错误的值。它们在终端中看起来不错,但是当我将它们粘贴到其他地方(例如浏览器、文本编辑器等)时,一些数据被替换为随机字符。这...

IEEE-754复合功能范围限制的基本原理

作者:gammatester 提问时间:6/2/2018

IEEE Std 754-2008 在表 9.1 中列出 推荐的函数,有实数 x,整数 n(其中是幂运算符)。 域指定为 和 。 该函数应发出 x < -1 的无效操作异常信号。compound(x,...

ARMv8(也称为 AArch64 或 ARM64)的默认 FPU 是什么?

作者:boltragons 提问时间:3/8/2023

在一些地方,据说 ARMv8 的默认 FPU 是 VFPv3/VFPv4(他们这么说,但没有指定是哪一个),而在其他地方,它是 NEON,而在其他一些地方,它仍然只是“FPU”。还有人说VFP已被弃用...

给定三个“双精度”值“x”、“y”和“z”,如何最小化计算“x * y / z”的精度损失?

作者:EFanZh 提问时间:3/15/2023

我有三个值,和 ,我想计算 的结果,我可以写出以下函数:doublexyzx * y / z double mul_div_1(double x, double y, double z) { re...

对于任何浮点数 x,y,整数 n,其中 const y=n-x 和 0&lt;=x,y,n&lt;=MAX_VALUE,x+y==n 总是真的吗?

作者:displaydisplayname 提问时间:3/21/2023

例如: const n=5; const x=1.23; const y=n-x; document.write(x+y==n); 有关代码为 n=5,x=1.23,y=5-1.23(四舍五入后的...

如果 y=1/x,其中 x,y 可以用浮点数表示而不四舍五入,并且 MIN_VALUE&lt;=x,y,z,z*y&lt;=MAX_VALUE,那么 z*y==z/x 总是真的吗?

作者:displaydisplayname 提问时间:3/21/2023

我正在查看一些代码,发现有些部分使用 num/2,而另一些部分使用 num * 0.5。这启发了我一个问题:在 MIN_VALUE 和 MAX_VALUE 的范围内,num/2 和 num*0.5 可...

为什么浮点数的整数表示形式提供对数的分段线性近似?

作者:Adam Hyland 提问时间:3/18/2023

如果你正在阅读有关1990年代图形学发展的新闻,你可能会关注Jim Blinn在IEEE计算机图形学与应用上的专栏,“Jim Blinn的角落”。在 1997 年夏天,你会打开一个名为“浮点技巧”的专...

如何制作那个f“...”字符串格式使用逗号而不是点作为小数分隔符?

作者:Basj 提问时间:1/10/2023

我试过了: import locale print(locale.locale_alias) locale.setlocale(locale.LC_ALL, '') locale.setlocale...

Ada:将浮点数转换为十进制

作者:Adaenthusiast 提问时间:3/16/2023

这篇文章链接到这个 Ada 2005 访问类型。目标是使用 Ada 十进制类型来获得与手动(和计算器)计算类似的结果,其中在每个中间步骤中使用了 6 位小数。 从下表可以看出,当使用欧拉方法进行进一...


共635条 当前第41页