问答列表

将浮点数转换为无符号字符是否有效?

作者:Anonymous 提问时间:10/26/2022

有人可以解释一下如何铸造作品吗?这是有效的转换吗?floatuint32_t 下面代码中第一行的输出对我来说很有意义,但其余的都是我自己无法弄清楚的。 cout<<uint8_t(256+33)<...

HTML5 中是否有浮点输入类型?

作者:B. Clay Shannon-B. Crow Raven 提问时间:9/26/2013

根据 html5.org,“number”输入类型的“value 属性,如果指定且不为空,则其值必须为有效的浮点数。 然而,它只是(无论如何,在最新版本的 Chrome 中)是一个带有整数的“upd...

IEEE 标准浮点标准中的非正态数

作者:Jin 提问时间:10/9/2022

我认为正确的是,在单个浮点和正常情况下,最小值将是 (以ABS值表示) 1.0 × 2-126 但是在非正态情况下(当指数为 000...0 时),较小的值可以表示为 2-23 × 2-127 ...

C++ 128 位固定十进制库

作者:intrigued_66 提问时间:11/6/2022

我编写了自己的 Decimal 类,它使用尾数。我相信这意味着它可以表示 18 位数字(如果没有符号,则为 19 位)。int64_t 我需要表示两个数字范围: A 型高达 99,999,999 ...

割炬精度导致 SUM 忽略小浮点

作者:GigaByte123 提问时间:11/6/2022

我遇到了一个意想不到的情况,总和忽略了一个数字:pytorch1e-6 test_tensor = torch.tensor([10, 20, 10, 1e-6]) print(torch.sum(...

如何在 Java 中执行 Golang 等于 BigDecimal.devide(BigDecimal divisor, MathContext mc) 的精确除法

作者:rizalPurnama 提问时间:11/2/2022

我的任务是将核心银行系统从 java 迁移到 golang,但是当我尝试在 golang 中执行精确分隔时,我遇到了困难。我尝试过使用数学/包舍入函数,但我没有得到我想要的结果。我认为问题是我在 ja...

Python 中的负零

作者:max 提问时间:11/3/2010

我在 python 的输出中遇到了负零;例如,它的创建方式如下: k = 0.0 print(-k) 输出将为 。-0.0 但是,当我将相等性与 0.0 进行比较时,它会产生 True。和之间...

Python- 如何将字符串转换为浮点数(我知道什么是float()函数,我的问题不同)

作者:POTATO MOTATO 提问时间:11/14/2022

我在将字符串转换为浮点数时遇到问题。例如,我想得到一个输入,比如,我希望程序将结果保存在变量中。10**210**2 喜欢这个: Number = float(input("Enter the n...

如何在 C 中的uint64_t变量中存储浮点值?

作者:Роман 提问时间:11/15/2022

我有一个值数组,我需要在其中存储 4 种不同的数据类型: ,, , .我通过简单的强制转换为 来解决每种类型,但它不适用于浮点数:uint64_tuint64_t *data;intchar*bool...

关于Matlab中浮点运算的问题

作者:Questioner5453 提问时间:11/15/2022

当我在 Matlab 中计算以下内容时 myeps = abs(3*(4/3-1)-1); format long e eps_myeps = [eps ; myeps] 输出如下: eps_...


共817条 当前第46页