浮点 问答列表

对于任何浮点数 x,y,整数 n,其中 const y=n-x 和 0<=x,y,n<=MAX_VALUE,x+y==n 总是真的吗?

作者:displaydisplayname 提问时间:3/21/2023

例如: const n=5; const x=1.23; const y=n-x; document.write(x+y==n); 有关代码为 n=5,x=1.23,y=5-1.23(四舍五入后的...

给定三个“双精度”值“x”、“y”和“z”,如何最小化计算“x * y / z”的精度损失?

作者:EFanZh 提问时间:3/15/2023

我有三个值,和 ,我想计算 的结果,我可以写出以下函数:doublexyzx * y / z double mul_div_1(double x, double y, double z) { re...

ARMv8(也称为 AArch64 或 ARM64)的默认 FPU 是什么?

作者:boltragons 提问时间:3/8/2023

在一些地方,据说 ARMv8 的默认 FPU 是 VFPv3/VFPv4(他们这么说,但没有指定是哪一个),而在其他地方,它是 NEON,而在其他一些地方,它仍然只是“FPU”。还有人说VFP已被弃用...

IEEE-754复合功能范围限制的基本原理

作者:gammatester 提问时间:6/2/2018

IEEE Std 754-2008 在表 9.1 中列出 推荐的函数,有实数 x,整数 n(其中是幂运算符)。 域指定为 和 。 该函数应发出 x < -1 的无效操作异常信号。compound(x,...

从 Windows 命令提示符复制 Python 程序的输出会产生错误的数据

作者:Mineges 提问时间:3/15/2023

当我从 Windows 命令提示符复制 Python 程序的输出时,经常会产生错误的值。它们在终端中看起来不错,但是当我将它们粘贴到其他地方(例如浏览器、文本编辑器等)时,一些数据被替换为随机字符。这...

为什么将 0.1f 更改为 0 会使性能降低 10 倍?

作者:GlassFish 提问时间:2/16/2012

为什么这一段代码, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2...

如何使用 int 搜索作为浮点数的键,该 int 将四舍五入

作者:user18457417 提问时间:3/13/2023

我有两个列表将 x 和 y 坐标表示为一个平面,平面上的每个点都有一个分配给它的随机数,我用它作为搜索坐标的键,问题是我需要有可能分配给一个点的随机数是重复的,所以我使用了浮点数,但现在我需要使用 i...

C# - 将双精度变量限制为小数点后两位 [已关闭]

作者:Arpit Srivastava 提问时间:3/12/2023

已关闭。这个问题需要细节或澄清。它目前不接受答案。 想改进这个问题吗?通过编辑这篇文章添加详细信息并澄清问题。 8个月前关闭。 改进此问题 我正在使用Unity引擎制作游戏。 我正在使用一个双...

创建 JSON 对象时,数字的显示方式会有所不同

作者:Thomas 提问时间:3/10/2023

我有以下功能: CREATE OR REPLACE FUNCTION aggregate_view(ticker text, from_time timestamp) RETURNS TABLE (...

有没有办法在 Ruby 中将舍入浮点数自动分配给变量?

作者:Henrique Marques 提问时间:3/9/2023

我想变成什么东西,比如变成.var = var.round(2)var = var + 1var += 1 在 Ruby 中有什么方法可以做到这一点吗? 我已经尝试过方法,但它不像其他方法那样工作...


共635条 当前第17页