问答列表

为什么 C# 中的浮点运算不精确?

作者:Prankster 提问时间:4/16/2009

为什么以下程序会打印它打印的内容? class Program { static void Main(string[] args) { float f1 = 0.09f*100f; floa...

从 x86-64 打印浮点数似乎需要保存 %rbp

作者:Ray Toal 提问时间:4/19/2013

当我在 Ubuntu 上使用 gcc 4.6.1 编写一个简单的汇编语言程序,与 C 库链接,并尝试打印一个整数时,它工作正常: .global main .text main: mov $f...

作为有理数的浮点数的精确值

作者:plasmacel 提问时间:7/3/2018

我正在寻找一种方法将浮点数的精确值转换为两个整数的有理商,即 ,其中不大于指定的最大分母。如果无法满足条件,则结果将回退到仍满足条件的最佳近似值。a / bbb_maxb <= b_max 坚持。这...

x86 汇编程序:浮点比较

作者:JustMaximumPower 提问时间:8/14/2011

作为编译器项目的一部分,我必须为 x86 编写 GNU 汇编代码来比较浮点值。我试图找到有关如何在线执行此操作的资源,据我所知,它的工作原理如下: 假设我要比较的两个值是浮点堆栈上的唯一值,那么该指...

如何根据浮点数列表对嵌套列表进行排序

作者:ogclifford 提问时间:7/18/2022

我目前有两个列表,如下所示: A = [[1.1,2.0,3.3][3.8,50.9,1.0][25.2,6.2,2.2]] B = [14.4, 0.1, 7.2] 我想根据 的索引进行排序,...

setprecision 和浮点

作者:SRYZDN 提问时间:1/21/2015

运行以下代码,我希望收到这样的输出: Desired output: Car Hours Charge 1 1.5 2.00 2 4.0 2.50 3 24.0 10.00 但结果如下: Ac...

CSS:清除内联元素

作者:Joy 提问时间:6/10/2015

检查这个 JSFiddle: <IMG src="https://www.google.com.hk/images/srpr/logo11w.png" alt="This image will il...

“浮点”与“双精度”精度

作者:foo 提问时间:2/24/2011

代码 float x = 3.141592653589793238; double z = 3.141592653589793238; printf("x=%f\n", x); printf("z=...

是否可以在没有 epsilon 的情况下将浮点数与 0.0 进行比较?

作者:463035818_is_not_an_ai 提问时间:8/24/2016

我知道,要比较两个浮点值,需要使用一些 epsilon 精度,因为它们并不准确。但是,我想知道是否有边缘情况,我不需要那个 epsilon。 特别是,我想知道做这样的事情是否总是安全的: doub...

JavaScript 中的 BigDecimal

作者:SnakeDoc 提问时间:5/25/2013

我对 JavaScript 非常陌生(我有 Java 背景),我正在尝试用少量资金进行一些财务计算。 我最初的想法是: <script type="text/javascript"> var n...


共817条 当前第6页