分母变小了,相当于左移了
复制代码 代码如下:
a=1-b/c;
|b|<pow(2,23)
|c|=pow(2,26)
|b|<pow(2,23)
|c|=pow(2,26)
|a|<1
在运算个过程中,需要把该运算转换成定点运算。
想了2天,都没有想出怎么可以保证a的精度,因为a可能很小,如果简单的
复制代码 代码如下:
a<<=8;
是无法保证a的精度的。
今天快要下班时,突然有灵机一动:
复制代码 代码如下:
c>>=6;
b<<=8;
a=1<<14-b/c; //相当于 a<<14,保证了a的精度
b<<=8;
a=1<<14-b/c; //相当于 a<<14,保证了a的精度
分子不能左移太多位,分母右移,解决问题了。
发散思维说起来很容易,做起来不容易呀!
以上就是本文的全部内容,希望能给大家一个参考,也希望大家多多支持编程小技巧。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。