浮点 问答列表

C++ 128 位固定十进制库

作者:intrigued_66 提问时间:11/6/2022

我编写了自己的 Decimal 类,它使用尾数。我相信这意味着它可以表示 18 位数字(如果没有符号,则为 19 位)。int64_t 我需要表示两个数字范围: A 型高达 99,999,999 ...

如何在 Java 中执行 Golang 等于 BigDecimal.devide(BigDecimal divisor, MathContext mc) 的精确除法

作者:rizalPurnama 提问时间:11/2/2022

我的任务是将核心银行系统从 java 迁移到 golang,但是当我尝试在 golang 中执行精确分隔时,我遇到了困难。我尝试过使用数学/包舍入函数,但我没有得到我想要的结果。我认为问题是我在 ja...

Python 中的负零

作者:max 提问时间:11/3/2010

我在 python 的输出中遇到了负零;例如,它的创建方式如下: k = 0.0 print(-k) 输出将为 。-0.0 但是,当我将相等性与 0.0 进行比较时,它会产生 True。和之间...

Python- 如何将字符串转换为浮点数(我知道什么是float()函数,我的问题不同)

作者:POTATO MOTATO 提问时间:11/14/2022

我在将字符串转换为浮点数时遇到问题。例如,我想得到一个输入,比如,我希望程序将结果保存在变量中。10**210**2 喜欢这个: Number = float(input("Enter the n...

如何在 C 中的uint64_t变量中存储浮点值?

作者:Роман 提问时间:11/15/2022

我有一个值数组,我需要在其中存储 4 种不同的数据类型: ,, , .我通过简单的强制转换为 来解决每种类型,但它不适用于浮点数:uint64_tuint64_t *data;intchar*bool...

关于Matlab中浮点运算的问题

作者:Questioner5453 提问时间:11/15/2022

当我在 Matlab 中计算以下内容时 myeps = abs(3*(4/3-1)-1); format long e eps_myeps = [eps ; myeps] 输出如下: eps_...

了解 pyspark 的 Float 转换行为

作者:Yannick Widmer 提问时间:11/16/2022

当我将python浮点数77422223.0转换为spark FloatType时,我得到77422224。如果我使用 DoubleType 这样做,我会得到77422223。这种转换是如何工作的,有...

为什么 numpy 会为 np.float16(3.0) + 0 和 np.float32(3.0) + 0 进行类型转换?

作者:zell 提问时间:11/17/2022

您能解释一下为什么要进行这种类型的铸造吗? In [49]: type(np.float16(3.0) + 0) Out[49]: numpy.float64 In [50]: type(np.f...

C++ 检查输入浮点数(-0.0f、+0.0f)

作者:A02 提问时间:11/22/2022

我目前正在尝试构建一个程序,该程序将输入浮点值打印为二进制。 如果为正,则第一位为 0,如果为负,则为 1,但输入值为:-0.0g 我的 if 语句始终打印 1,对于正输入也是如此。我该如何正确检查...

Google 表格生成无穷小数作为整数/整数的余数

作者:qzxrt 提问时间:11/23/2022

我有这个工作表,我需要创建一个检查器来确定一个数字(将两个数字的总和除以另一个值 --DIVISOR 的结果)是否为整数/没有小数。在运行上述检查器时,它基本上工作正常,但似乎检测到一些项目不是整数,...


共635条 当前第34页