十进制 问答列表

为什么在某些情况下,将小数点后两位的值乘以 100 会产生十进制值而不是整数?在 JavaScript 中

作者:Nadine Schneider 提问时间:11/3/2023

在某些情况下,当我将小数点后两位的值乘以 100 时,结果不是整数,而是小数点后有几位数字的十进制值。 我正在使用 JavaScript 例如,以下是我测试的一些计算来说明我的问题。我使用 Chr...

获取 float64 进行 numpy 计算

作者:MJELVEH 提问时间:10/28/2023

def chi2_distance(a,b): d=1-(np.dot(a,b)/(norm(a,axis=1)*norm(b))) return d a 和 b 是 float32,...

Pandas 2.0 dtype 推广似乎产生了任意精度的浮点数

作者:Wyatt Gormley 提问时间:8/25/2023

工作涉及财务报告。在测试 dtype 提升时,我编写了以下脚本(知道应在生产代码中使用显式 dtype 转换),并注意到在 UInt64 值以上,pandas 可以转换为列 dtype,存储 pyth...

将二进制 (0.11001100) 浮点数转换为十进制数。手工制作

作者:vold3x 提问时间:10/26/2023

找不到有关此内容的信息 我认为可以通过以下方式完成。 但我需要一些帮助来了解它是否属实。或者也许它在相反的方向(0*2^0)+(0*2^-1)+(1*2^-2)+(1*2^-3)+(0*2^-4)+...

在 JavaScript 中自动执行在 excel 上完成的任务

作者:Talha Israr 提问时间:10/9/2023

在此处输入图像描述 我正在尝试在 JavaScript 中自动执行在 excel 上完成的任务。以下是任务的分步说明: 在这种情况下,你得到一个数字,它是 48,并分解成 n 个部分,这些部分等于...

确定 MariaDB 中十进制数据类型列所需的精度和小数位数

作者:neucassi 提问时间:10/5/2023

我有大量的MariaDB 10.6表,有几列和数百万行。这些列的精度 () 和小数位数 () 曾经被设置为不切实际的高级别,只需容纳每个可能的输入,例如 .decimal(P,D)PDdecimal(...

如何使用 BigDecimal 而不是 double 在 Java 中实现 Excel MROUND() 函数

作者:sameer59 提问时间:10/4/2023

如何在 Java 中四舍五入到特定的倍数?在excel中,有mround函数,它允许轻松舍入到指定的倍数,如下所示: mRound(variable,multiple) 例如,这就是 Java ...

查找偶数点后十进制数字最大总和的单词

作者:P.I.S 提问时间:9/29/2023

此 x86 汇编代码定义了两个过程:“addev”用于计算单词中偶数的总和,“maxArray”用于查找数组中偶数最大总和的单词。它接受一个单词数组及其长度作为输入,遍历数组,计算每个单词的偶数之和,...

C 宏预处理器,用于在字符串中包含数字

作者:Kay 提问时间:9/26/2023

我想将任意控制代码插入字符串中,但使用十进制数而不是十六进制()或oct()。举一个毫无意义但可以立即理解的例子,我很乐意有一个宏,比如 CC,这样我就可以形成一个字符串:x\ux\0x // De...

使用 Intl.NumberFormat [duplicate] 将格式四舍五入

作者:anjanesh 提问时间:9/21/2023

这个问题在这里已经有答案了: 使用不四舍五入的 Intl.NumberFormat (6 个答案) 2个月前关闭。 let just_the_number = '8973565'; const ju...


共79条 当前第4页