C++ 128 位固定十进制库
作者:intrigued_66 提问时间:11/6/2022
我编写了自己的 Decimal 类,它使用尾数。我相信这意味着它可以表示 18 位数字(如果没有符号,则为 19 位)。int64_t 我需要表示两个数字范围: A 型高达 99,999,999 ...
浮点 问答列表
作者:intrigued_66 提问时间:11/6/2022
我编写了自己的 Decimal 类,它使用尾数。我相信这意味着它可以表示 18 位数字(如果没有符号,则为 19 位)。int64_t 我需要表示两个数字范围: A 型高达 99,999,999 ...
作者:rizalPurnama 提问时间:11/2/2022
我的任务是将核心银行系统从 java 迁移到 golang,但是当我尝试在 golang 中执行精确分隔时,我遇到了困难。我尝试过使用数学/包舍入函数,但我没有得到我想要的结果。我认为问题是我在 ja...
作者:max 提问时间:11/3/2010
我在 python 的输出中遇到了负零;例如,它的创建方式如下: k = 0.0 print(-k) 输出将为 。-0.0 但是,当我将相等性与 0.0 进行比较时,它会产生 True。和之间...
作者:POTATO MOTATO 提问时间:11/14/2022
我在将字符串转换为浮点数时遇到问题。例如,我想得到一个输入,比如,我希望程序将结果保存在变量中。10**210**2 喜欢这个: Number = float(input("Enter the n...
作者:Роман 提问时间:11/15/2022
我有一个值数组,我需要在其中存储 4 种不同的数据类型: ,, , .我通过简单的强制转换为 来解决每种类型,但它不适用于浮点数:uint64_tuint64_t *data;intchar*bool...
作者:Questioner5453 提问时间:11/15/2022
当我在 Matlab 中计算以下内容时 myeps = abs(3*(4/3-1)-1); format long e eps_myeps = [eps ; myeps] 输出如下: eps_...
作者:Yannick Widmer 提问时间:11/16/2022
当我将python浮点数77422223.0转换为spark FloatType时,我得到77422224。如果我使用 DoubleType 这样做,我会得到77422223。这种转换是如何工作的,有...
作者:zell 提问时间:11/17/2022
您能解释一下为什么要进行这种类型的铸造吗? In [49]: type(np.float16(3.0) + 0) Out[49]: numpy.float64 In [50]: type(np.f...
作者:A02 提问时间:11/22/2022
我目前正在尝试构建一个程序,该程序将输入浮点值打印为二进制。 如果为正,则第一位为 0,如果为负,则为 1,但输入值为:-0.0g 我的 if 语句始终打印 1,对于正输入也是如此。我该如何正确检查...
作者:qzxrt 提问时间:11/23/2022
我有这个工作表,我需要创建一个检查器来确定一个数字(将两个数字的总和除以另一个值 --DIVISOR 的结果)是否为整数/没有小数。在运行上述检查器时,它基本上工作正常,但似乎检测到一些项目不是整数,...