数溢出 问答列表

带有类.ind()的多级因子的整数溢出?

作者:Hack-R 提问时间:12/19/2015

我正在尝试将一个“大”因子转换为 R 中的一组指标(即虚拟、二进制、标志)变量,如下所示: FLN <- data.frame(nnet::class.ind(FinelineNumber)) ...

从时钟“freq”中确定“ticks”的正确方法是什么,同时避免微控制器上的C溢出?

作者:SRobertJames 提问时间:9/4/2023

在 C 中乘除整数以避免溢出的正确方法是什么?我想确定以(Hz)运行的计时器需要多少个计时器才能产生(以毫秒为单位)。这应该是 .ticksfreqdelayticks = freq * delay ...

在 C 中传递参数时的整数溢出

作者:Derrick Mei 提问时间:9/3/2023

我想我遇到了整数溢出问题,我不确定如何解决它。我刚从 Python 和 JS 开始使用 C,这对我来说都是新的。 我在下面举了一个非常简单的例子来说明正在发生的事情。我正在将一个参数从函数传递到另一...

无符号长整型 resTestBad = 0xffffffff + 1;使用 %llu 打印 0,但无符号长长 resA = 4294967295 + 1;使用 %llu 打印4294967296

作者:Tom 提问时间:8/31/2023

似乎我在打印 with 的值时发现了一个错误,请参见以下代码:(0xffffffff + 1)%llu0 unsigned long long resTestBad = 0xffffffff + 1...

使用 mkl 构建 Arpack-ng 时整数错误

作者:VINCENZO BISOGNO 提问时间:8/28/2023

我正在尝试编写一个同时使用 Arpack-ng 和 MKL 例程的程序。我通过运行一个简单的代码来测试该行为,该代码使用对函数 dsaupd 的单个调用,该函数应返回 ido=-1 和 info = ...

变量持有导致有符号整数溢出(后 incr. 的副作用)并且之后从未在任何表达式中使用它是否会导致 UB?

作者:H.S. 提问时间:8/31/2023

考虑这个程序 #include <limits.h> int main (void) { int i = 0; // Assume, user is a fair person, follo...

直接使用 cout 打印答案会给出错误的答案,而存储答案然后使用 cout 打印会被接受 [已关闭]

作者:tarungaur 提问时间:7/16/2023

闭。此问题需要调试详细信息。它目前不接受答案。 编辑问题以包括所需的行为、特定问题或错误以及重现问题所需的最短代码。这将有助于其他人回答这个问题。 4个月前关闭。 改进此问题 我正在解决问题 ...

为什么使用整数而不是长整型?

作者:Gareth 提问时间:10/17/2014

我经常看到与 vba 错误相关的问题。Overflow 我的问题是为什么使用变量声明,而不仅仅是将所有数值变量(不包括等)定义为?integerdoublelong 除非您正在执行像 for 循环...

在解释型语言上使用非常大的整数时出现意外结果

作者: 提问时间:8/5/2013

我试图得到 的总和,但我在 PHP 和 Node.js 中得到了有趣的结果。1 + 2 + ... + 1000000000 PHP的 $sum = 0; for($i = 0; $i <= 10...

浮点溢出为负数

作者:Sorawee Porncharoenwase 提问时间:9/9/2017

我们知道,有符号整数可能会有整数溢出,例如,符号位从 0 翻转到 1,导致正整数变为负数。 浮点数也会发生同样的情况吗?从实验上讲,当数字太大时,它就会变成 .但是,难道不能溢出尾数或指数,导致类似...


共20条 当前第2页