精度 问答列表

acos(1) 为某些值返回 NaN,而不是为其他值返回 NaN

作者:David Manheim 提问时间:12/25/2012

我有一个纬度和经度值列表,我正在尝试找到它们之间的距离。使用标准的大圆方法,我需要找到: acos(sin(lat1)*sin(lat2) + cos(lat1)*cos(lat2) * cos(l...

为什么 Python (3.10.2) 错误地划分了极大/极小的数字?[复制]

作者:fartlord 提问时间:4/8/2022

这个问题在这里已经有答案了: 浮点数学坏了吗? (34 个答案) 浮点任意精度是否可用? (5 个答案) 去年关闭。 所以我是编程新手,目前正在尝试制作一个程序来计算特定波长或频率(光电效应)从金属...

Pandas json 转换扰乱浮点精度

作者:Titouan L 提问时间:4/8/2022

将 DataFrame 保存为 json 字符串后,当 json 被转换回 DataFrame 时,初始 DataFrame 和生成的 DataFrame 不相等。我知道使用 时存在转换问题,但是由于...

如何防止浮点变量在打印时显示为科学记数法 [重复]

作者:Maria Sahithya 提问时间:9/11/2020

这个问题在这里已经有答案了: 为什么PHP用科学记数法打印我的数字,而我将其指定为.000021? (8 个答案) 去年关闭。 我使用“(float)$val”进行一些计算,但对于一些十进制值,例如...

fread/fwrite 引入垃圾值

作者:algae 提问时间:4/18/2022

数据文件:data.dat 5625010350032.36719 5627008621379.12591 5628763999478.55791 5630383772880.98831 56323...

For 循环,其中计数器上升到 Math.floor() 生成的值

作者:Michael Kolesidis 提问时间:4/20/2022

我是一名新的 Web 开发人员,学习 Web 开发大约 8-9 个月。我最近在我毕业的训练营中成为新生的导师,我想编写一个简单的程序来计算所有素数,直到给定的上限。我已经在C,C++和Python中解...

熊猫指数功率没有按应有的方式计算

作者:Paris Spinelli 提问时间:4/21/2022

我想我在 PANDA 中使用指数时发现了浮点精度的问题。我有一个数字列表,我正在通过 4 阶多项式运行,当我得到大于 2 的阶时,我注意到 Pandas 中预测的值不正确。代码如下: import ...

与浮子和双精度相关的概念

作者:Hash Blog 提问时间:5/14/2021

为什么 的精度在小数点后最多 6 位,而 的精度在小数点后最多 15 位?floatdouble 谁能给出一个数学解释?...

浮点文字中要尽可能正确地表示值的最小有效十进制位数是多少?

作者:xiver77 提问时间:4/25/2022

例如,使用 IEEE-754 32 位二进制浮点数,让我们表示 的值。它不能完全完成,但会产生最接近 的值。您可能希望以十进制形式写入该值,并让编译器将十进制文本转换为二进制浮点数。1 / 30x3e...

如何使用梯形方法将精度检查添加到计算中

作者: 提问时间:4/29/2022

我设法进行了计算,但我不明白如何检查准确性: #include <stdio.h> #include <math.h> int main() { double a, b, h, s, x; in...


共694条 当前第66页