浮点 问答列表

Node.js - 浮点计算 - Intl.NumberFormat vs decimal.js 库

作者:Sudhir Dhumal 提问时间:4/5/2023

我想了解Intl.NumberFormat和decimal.js库之间的区别。 如果Intl.NumberFormat能够处理货币计算,那么decimal.js库在哪里以及它对提供者有什么好处Int...

如何在 R 中获得精确的极低 P 值(在对数刻度或其他方面)[已关闭]

作者:Chirag Krishna 提问时间:4/1/2023

闭。这个问题不可重现或是由错别字引起的。它目前不接受答案。 这个问题是由错别字或无法再现的问题引起的。虽然类似的问题可能在这里是主题,但这个问题的解决方式不太可能帮助未来的读者。 8个月前关闭。 ...

单精度浮点运算和双精度浮点运算有什么区别?

作者:meds 提问时间:4/29/2009

单精度浮点运算和双精度浮点运算有什么区别? 我对与视频游戏机相关的实用术语特别感兴趣。例如,任天堂 64 是否具有 64 位处理器,如果有,这是否意味着它能够进行双精度浮点运算?PS3 和 Xbox...

Math.round(intA/intB) 是否总是在每台设备上返回相同的结果?

作者:Curtis 提问时间:3/29/2023

我担心像 7/2 这样的东西可能会在某些计算机上变成 3.499999999 而不是 3.5,然后四舍五入为 3 而不是 4。这可能吗? 我需要每台计算机都精确地重新运行相同的数学运算。这是我唯一一...

我的 java zybook 的代码不适用于浮点格式

作者:Prerak Jain 提问时间:3/26/2023

我的教科书是这么说的 [这是我的代码] package streams; public class streams { public static void main(String[] arg...

浮点到整数除法可以提高精度,但不明白为什么 [duplicate]

作者:user3363546 提问时间:3/25/2023

这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 8个月前关闭。 我正在浏览一个 C 应用程序代码,发现整数除法的浮点数提高了精度,我不明白为什么。 例如,将浮点数 12926.0 ...

Ada:将浮点数转换为十进制

作者:Adaenthusiast 提问时间:3/16/2023

这篇文章链接到这个 Ada 2005 访问类型。目标是使用 Ada 十进制类型来获得与手动(和计算器)计算类似的结果,其中在每个中间步骤中使用了 6 位小数。 从下表可以看出,当使用欧拉方法进行进一...

如何制作那个f“...”字符串格式使用逗号而不是点作为小数分隔符?

作者:Basj 提问时间:1/10/2023

我试过了: import locale print(locale.locale_alias) locale.setlocale(locale.LC_ALL, '') locale.setlocale...

为什么浮点数的整数表示形式提供对数的分段线性近似?

作者:Adam Hyland 提问时间:3/18/2023

如果你正在阅读有关1990年代图形学发展的新闻,你可能会关注Jim Blinn在IEEE计算机图形学与应用上的专栏,“Jim Blinn的角落”。在 1997 年夏天,你会打开一个名为“浮点技巧”的专...

如果 y=1/x,其中 x,y 可以用浮点数表示而不四舍五入,并且 MIN_VALUE<=x,y,z,z*y<=MAX_VALUE,那么 z*y==z/x 总是真的吗?

作者:displaydisplayname 提问时间:3/21/2023

我正在查看一些代码,发现有些部分使用 num/2,而另一些部分使用 num * 0.5。这启发了我一个问题:在 MIN_VALUE 和 MAX_VALUE 的范围内,num/2 和 num*0.5 可...


共635条 当前第16页