integer 问答列表

golang 有 int32 溢出吗?[复制]

作者:mercuryRising 提问时间:11/17/2023

这个问题在这里已经有答案了: Go 允许算术运算溢出而不是抛出异常是预期行为吗? (1 个答案) 昨天关闭。 func overFlowTest() { maxInt32 := math.MaxIn...

当浮点数据类型太小时,如何在 SQL Server 中计算 Erlang C 值?

作者:Einstein X. Mystery 提问时间:6/20/2020

我们正在我们的数据中心实现 Erlang C 计算,我遇到了一个障碍: SQL Server 数据类型的溢出错误。float 如何在 SQL Server 中表示超过 10^308 的值,以便我仍然...

无符号 int 文本外部边界

作者:Rajdeep Sindhu 提问时间:7/26/2023

如果我定义一个类型的变量并使用其边界之外的值初始化它,它会使用模并在其范围内为自己分配一个值,对吧?unsigned int 例如: unsigned int a = 4294967298; st...

在 C++ 中使用 T1 = 无符号 T2 的奇怪结果

作者:earthmessenger 提问时间:7/2/2023

下面的代码让我感到困惑。 https://godbolt.org/z/WcMTYM1q7 #include <iostream> using ll = long long; using ull ...

如何修复与 BigInteger 和 int 不兼容的操作数

作者:bobby 提问时间:4/30/2023

我试图为 collatz 猜想创建一个程序,我需要它来为更大的数字工作。因此,我尝试使用 BigInteger 类,但它似乎遇到了两种类型的错误:bigint 和 int。 我已经查找了 big i...

为什么使用整数而不是长整型?

作者:Gareth 提问时间:10/17/2014

我经常看到与 vba 错误相关的问题。Overflow 我的问题是为什么使用变量声明,而不仅仅是将所有数值变量(不包括等)定义为?integerdoublelong 除非您正在执行像 for 循环...

混淆整数溢出的 UBSan 结果

作者:Ofek Shilon 提问时间:9/28/2022

bool addSigned(int a) { return a + 10 > a; } bool addUnsigned(unsigned int a) { return a + 10 > a; }...

为什么 Double.ToString(“#”) 和 BigInteger.ToString() 对相同的值产生不同的结果?

作者:Matthew Layton 提问时间:8/18/2022

请考虑以下代码: double d = double.MaxValue; BigInteger bi = new(d); Console.WriteLine(d.ToString("#")); Co...

Julia 中 2 个正数的相乘得到负积

作者:René 提问时间:5/1/2022

在 Julia 1.7.2 中,乘以并返回负积。我期望的产品是.30370006913037000693-92233708705010727539223373203208478863 functio...

什么是最有效的 rng 均匀随机整数算法?[复制]

作者:JamesTheAwesomeDude 提问时间:2/6/2022

这个问题在这里已经有答案了: 如何在不浪费位的情况下从随机位流中生成 [0,n] 范围内的随机整数? (5 个答案) 去年关闭。 这不是#11766794“在一定范围内生成无偏随机整数的最佳算法是什...


共32条 当前第3页