为什么将 0.1f 更改为 0 会使性能降低 10 倍?
作者:GlassFish 提问时间:2/16/2012
为什么这一段代码, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2...
浮点 问答列表
作者:GlassFish 提问时间:2/16/2012
为什么这一段代码, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2...
作者:Mineges 提问时间:3/15/2023
当我从 Windows 命令提示符复制 Python 程序的输出时,经常会产生错误的值。它们在终端中看起来不错,但是当我将它们粘贴到其他地方(例如浏览器、文本编辑器等)时,一些数据被替换为随机字符。这...
作者:gammatester 提问时间:6/2/2018
IEEE Std 754-2008 在表 9.1 中列出 推荐的函数,有实数 x,整数 n(其中是幂运算符)。 域指定为 和 。 该函数应发出 x < -1 的无效操作异常信号。compound(x,...
作者:boltragons 提问时间:3/8/2023
在一些地方,据说 ARMv8 的默认 FPU 是 VFPv3/VFPv4(他们这么说,但没有指定是哪一个),而在其他地方,它是 NEON,而在其他一些地方,它仍然只是“FPU”。还有人说VFP已被弃用...
作者:EFanZh 提问时间:3/15/2023
我有三个值,和 ,我想计算 的结果,我可以写出以下函数:doublexyzx * y / z double mul_div_1(double x, double y, double z) { re...
作者:displaydisplayname 提问时间:3/21/2023
例如: const n=5; const x=1.23; const y=n-x; document.write(x+y==n); 有关代码为 n=5,x=1.23,y=5-1.23(四舍五入后的...
作者:displaydisplayname 提问时间:3/21/2023
我正在查看一些代码,发现有些部分使用 num/2,而另一些部分使用 num * 0.5。这启发了我一个问题:在 MIN_VALUE 和 MAX_VALUE 的范围内,num/2 和 num*0.5 可...
作者:Adam Hyland 提问时间:3/18/2023
如果你正在阅读有关1990年代图形学发展的新闻,你可能会关注Jim Blinn在IEEE计算机图形学与应用上的专栏,“Jim Blinn的角落”。在 1997 年夏天,你会打开一个名为“浮点技巧”的专...
作者:Basj 提问时间:1/10/2023
我试过了: import locale print(locale.locale_alias) locale.setlocale(locale.LC_ALL, '') locale.setlocale...
作者:Adaenthusiast 提问时间:3/16/2023
这篇文章链接到这个 Ada 2005 访问类型。目标是使用 Ada 十进制类型来获得与手动(和计算器)计算类似的结果,其中在每个中间步骤中使用了 6 位小数。 从下表可以看出,当使用欧拉方法进行进一...