问答列表

Dart - 减去一些双精度值会得到错误的结果

作者:Zoka 提问时间:6/16/2019

我选了两个随机数:double double a = 7918.52; double b = 5000.00; 我希望从 . 好吧,它给了我一个结果,这似乎很奇怪。2918.52a - b291...

匹配两个数字的正则表达式

作者:haael 提问时间:9/7/2023

我需要一个匹配 2 个浮点数的正则表达式,这些浮点数可以用空格、逗号或什么都没有分隔。 浮点数可以是整数(由数字组成)、分数(数字、小数点、数字)或跳过前导零的余数(小数点、数字)。它也可以以可选的...

四元数计算中小浮点数的 Python 除法

作者:user22524802 提问时间:9/9/2023

考虑数学方程:y = (sin(x/2)/x),它出现在旋转的计算中。在 x->0 的限制中,其值为 1/2。在 Python(或任何具有类似 64 位浮点类型的语言)中实现这一点似乎适用于除 x =...

在未显式转换为浮动的情况下使用 uint16_t 操作时出现意外结果

作者:Ricard Molins 提问时间:9/7/2023

我正在做一些操作,但没有找到确切的解释来解释为什么我发现特定行为。 上下文: 我收到一个值 (24.2),然后计算一些偏移和增益 然后通过CAN发送结果。 最小工作示例: #include <s...

TypeError:“float”对象不支持在并行循环的 numpy 数组中分配项目

作者:Rahul Gupta 提问时间:9/10/2023

import numpy as np import pandas as pd from joblib import Parallel, delayed import multiprocessing ...

从时钟“freq”中确定“ticks”的正确方法是什么,同时避免微控制器上的C溢出?

作者:SRobertJames 提问时间:9/4/2023

在 C 中乘除整数以避免溢出的正确方法是什么?我想确定以(Hz)运行的计时器需要多少个计时器才能产生(以毫秒为单位)。这应该是 .ticksfreqdelayticks = freq * delay ...

是否有任何硬件可以将超出范围的浮点转换为非零/最小/最大整数?

作者:pmor 提问时间:8/28/2023

在使用 Berkeley TestFloat 时,我注意到浮点到整数转换的测试是通过检查(特别是)特定的结果值来完成的: // file: test_a_f32_z_i32_rx.c // func...

如何在 C# 中复制 Java 的 Float.ToString()?

作者:Nova 提问时间:7/24/2023

正如文档在 Java 的 Float.toString(float) 方法中所述,浮点数仅用从相邻的浮点值中唯一标识值所需的数字表示。此行为不会反映在 C# 的方法中。Single.ToString ...

C 和 x86 汇编中的自制“fabs”函数

作者:Cuco 提问时间:9/10/2023

我正在尝试在 GNU C 中制作一个返回 32 位浮点数绝对值的 fabs 函数。我有三种不同的方法,分别称为 fabs1、fabs2 和 fabs3: #include <math.h> #inc...

浮点运算中的 x(1/x) = 1 什么时候?

作者:InsultedByMathematics 提问时间:9/12/2023

我知道在浮点运算中,由于舍入误差,x(1/x) 可能不正好是 1。发生这种情况的最小正整数应为 x=49。 我以为如果 1/x 可以用浮点运算精确表示,x(1/x) 会正好是 1,但我的教授说它实际...


共817条 当前第70页