浮点 问答列表

检查用户输入的号码是否在 MARS 系统调用中浮动

作者:Cláudia Seabra 提问时间:12/29/2022

我正在MIPS汇编中执行一个程序(使用MARS 4_5),该程序必须能够仅读取计算机体系结构类的正整数。如果用户的输入为负数或有小数位,我的程序应该显示错误消息,但我不知道该怎么做。我的意思是,我知道...

Java 浮点数乘法给出错误的结果

作者:jagadesh 提问时间:12/28/2022

使用 FLOAT 进行乘法会产生明显的差异。 public static void main(String[] args) { // using string and parsing inste...

修改 itoa 以在输出中将带有十进制点运算符的浮点字符串处理为 ASCII 字符 23(123.456)

作者:user20874661 提问时间:12/28/2022

遇到麻烦 C 语言调试步入处理小数点运算符在浮点刺数字中。 示例:1234.5678,itoa() 输出在 4 处停止,并使用 '\0' Null char* 指针终止数组字符串,也是一个数组。因此,...

PHP json_encode字符串到大浮点数

作者:B.Mossavari 提问时间:1/1/2023

由于 PHP 的浮点大小有限制(最多 14 位),我使用字符串来处理大浮点数,就我而言,我有 19 个实数和 2 个精度,我需要一个解决方案来对包含这些数字的数组进行 JSON 编码,但也将它们从字符...

我返回的平均值在小数位方面看起来不正确 (Python) [重复]

作者:Sal 提问时间:1/5/2023

这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 11个月前关闭。 我返回的平均值在小数点后位置使用+str作为变量看起来不正确。 我下面的代码应该提供 25.83,但我得到 25...

读取浮点值时不带小数位

作者:Angel's Tear 提问时间:1/5/2023

以下是 excel 文件中的值: 7257.5679 6942.0949714286 5780.0125476250005 这是我read_excel: DataFrame = pd.read_...

std::cos 在使用 valgrind 运行时给出不同的结果

作者:Yattabyte 提问时间:1/12/2023

我发现了一个影响我工作中几个单元测试的问题,这仅在使用 valgrind 运行单元测试时才会发生,因为对于相同的输入,从 std::cos 和 std::sin 返回的值不同,具体取决于单元测试是单独...

浮点相等性意外工作

作者:k314159 提问时间:1/12/2023

我们经常被教导,浮点数不应该为了完全相等而进行比较。然而,以下函数在传递任何正数时返回黄金比例,实际上确实比较了双倍的相等性,令我惊讶的是,它似乎总是有效: public static double...

将 IEEE-754 16 位浮点数打包为 16 位无符号整数,同时保持顺序

作者:Mike 提问时间:1/17/2023

我有一个 IEEE-754 16 位浮点数,我想将其无损打包为 16 位无符号整数。当然,最简单的方法是打包它的字节,然后解压缩它,但问题是我需要在程序中比较 16 位整数(即大于、小于等)。所以我正...

处理浮点精度的 Python 不等式比较

作者:at. 提问时间:1/19/2023

我需要将浮点数与不等式进行比较: if x >= y: 但是,由于浮点精度问题,有时这在应该成功时会失败 ( 和 )。我正在考虑创建一个 epsilon:x = 0.21y= 0.2100000...


共635条 当前第37页