点浮 问答列表

有人可以用这个函数解释这种行为吗?

作者:leoking2000 提问时间:10/28/2019

>>> def my_max(x,y): return ( x + y + abs(x - y)) / 2 >>> my_max(-894,2.3) 2.2999999999999545 >>> m...

Java parsefloat 在每个 CPU 上都有相同的结果

作者:sveri 提问时间:10/30/2019

我刚刚读到了 strictfp (https://en.wikipedia.org/wiki/Strictfp) 以及自 Java 1.2 以来浮点/双点运算可能会在不同的 CPU 上产生不同的结果这...

MySQL 疯狂 (?) 浮点行为

作者:obe 提问时间:8/30/2020

在MySQL 8.0.21上,我有一个空表(),其中包含一列: ,类型为 。Tblnumfloat 我插入一行,值为:0.1 INSERT INTO Tbl(num) VALUES(0.1) ...

在 C 中添加两个大双数会得到不正确的结果

作者:TheDoctor Bombastic 提问时间:10/18/2020

我想问你一个问题,关于在 C 语言中将两个大数字相加。 假设有两个数字是双倍的:1.31E+42 和 1.399E+43。 如果我在Excel中进行添加,结果是153000000000000000...


共34条 当前第4页