有理数 问答列表

作为有理数的浮点数的精确值

作者:plasmacel 提问时间:7/3/2018

我正在寻找一种方法将浮点数的精确值转换为两个整数的有理商,即 ,其中不大于指定的最大分母。如果无法满足条件,则结果将回退到仍满足条件的最佳近似值。a / bbb_maxb <= b_max 坚持。这...

为什么在使用 Ruby Rational 时会出现舍入错误?

作者:bodacious 提问时间:1/9/2014

我正在以编程方式计算给定音符的频率。 快速介绍: 音符 A4 有一个频率为 440Hz 高一个八度的音符是同一音符在较低八度频率的两倍(因此 A3 为 220Hz,A2 为 110Hz) 一个音符...

java-处理浮点舍入误差,如何保持弧度合理

作者:cubesareneat 提问时间:1/11/2021

我修改了这个 arcball 类,以便每次调用 arcball.rollforward(PI/180);将矩阵旋转 1 度。 我试图设置它,以便使用累积的浮点数 rotatebywithinclude...


共3条 当前第1页