bigint 问答列表

混合精度算术:大整数尾数的大浮点除法算法?

作者:Kris B. 提问时间:4/24/2021

我写了一个运行良好的 Big Integer 类。我想写一个大十进制类。我将类构建为以 10 为基数指数的浮点数,即以 M*10^e 的形式,其中 10^0 表示数字介于 [0.1, 1] 之间。 ...

当浮点数据类型太小时,如何在 SQL Server 中计算 Erlang C 值?

作者:Einstein X. Mystery 提问时间:6/20/2020

我们正在我们的数据中心实现 Erlang C 计算,我遇到了一个障碍: SQL Server 数据类型的溢出错误。float 如何在 SQL Server 中表示超过 10^308 的值,以便我仍然...

java 中大数的总和 [重复]

作者:Kornusiap 提问时间:11/13/2023

这个问题在这里已经有答案了: 扫描仪在使用 next() 或 nextFoo() 后跳过 nextLine()? (25 个答案) 7天前关闭。 社群在 7 天前审查了是否重新打开这个问题,并关闭了...

生成 BigInt 值的随机样本

作者:Domino 提问时间:5/5/2020

对于用 JavaScript 实现的游戏,我需要生成一个唯一数字的随机列表,其范围可能大于 。这带来了三个重要挑战:n[0, N)NNumber.MAX_SAFE_INTEGER 内存成本不能是 O...

Scala BigDecimal - 精度损失

作者:Chema 提问时间:4/15/2020

我需要用大数字做一些精确的计算,我一直在尝试用 Scala,但我注意到精度的损失。BigDecimal 举个例子: 2^63 == 9223372036854775808 2^64 == 1844...


共25条 当前第3页