浮点 问答列表

TypeError:“float”对象不支持在并行循环的 numpy 数组中分配项目

作者:Rahul Gupta 提问时间:9/10/2023

import numpy as np import pandas as pd from joblib import Parallel, delayed import multiprocessing ...

从时钟“freq”中确定“ticks”的正确方法是什么,同时避免微控制器上的C溢出?

作者:SRobertJames 提问时间:9/4/2023

在 C 中乘除整数以避免溢出的正确方法是什么?我想确定以(Hz)运行的计时器需要多少个计时器才能产生(以毫秒为单位)。这应该是 .ticksfreqdelayticks = freq * delay ...

是否有任何硬件可以将超出范围的浮点转换为非零/最小/最大整数?

作者:pmor 提问时间:8/28/2023

在使用 Berkeley TestFloat 时,我注意到浮点到整数转换的测试是通过检查(特别是)特定的结果值来完成的: // file: test_a_f32_z_i32_rx.c // func...

如何在 C# 中复制 Java 的 Float.ToString()?

作者:Nova 提问时间:7/24/2023

正如文档在 Java 的 Float.toString(float) 方法中所述,浮点数仅用从相邻的浮点值中唯一标识值所需的数字表示。此行为不会反映在 C# 的方法中。Single.ToString ...

C 和 x86 汇编中的自制“fabs”函数

作者:Cuco 提问时间:9/10/2023

我正在尝试在 GNU C 中制作一个返回 32 位浮点数绝对值的 fabs 函数。我有三种不同的方法,分别称为 fabs1、fabs2 和 fabs3: #include <math.h> #inc...

浮点运算中的 x(1/x) = 1 什么时候?

作者:InsultedByMathematics 提问时间:9/12/2023

我知道在浮点运算中,由于舍入误差,x(1/x) 可能不正好是 1。发生这种情况的最小正整数应为 x=49。 我以为如果 1/x 可以用浮点运算精确表示,x(1/x) 会正好是 1,但我的教授说它实际...

如何从 mpfr_get_prec() 返回的值计算DECIMAL_DIG?

作者:pmor 提问时间:9/11/2023

上下文:C 标准具有宏,可用于保持浮点值的精度。示例:xxx_DECIMAL_DIGprintfdouble printf("%.*g\n", DBL_DECIMAL_DIG, x); 一个简...

如何在Python中将浮点数截断为小数点后数?

作者:Nicoara Antonio 提问时间:9/13/2023

我是 Python 学习的初学者 我知道这会四舍五入数字而不是截断: number_float = 14.233677 print(f"{number_float:.3f}") =>这是打印 ...

为什么 Javascript 的 'parseFloat' 在截断超大数字时返回的值与 Java 的 'java.lang.Double.parseDouble' 不同?

作者:Li Haoyi 提问时间:9/14/2023

Javascript的: > parseFloat("738529527931269425") 738529527931269400 爪哇岛: @ java.lang.Double.parse...

在考虑精度损失的同时,如何比较浮点和双倍?

作者:Alex 提问时间:8/20/2008

比较两个或两个值的最有效方法是什么?doublefloat 简单地这样做是不正确的: bool CompareDoubles1 (double A, double B) { return A =...


共635条 当前第54页