如何解决哪些操作可使浮点数离开[0,1]范围?
我经常使用float
或double
类型,它们在[0,1]范围内。我知道浮点运算是不精确的,因此我通常会限制我的值,以确保在运算之前/之后它们都在此范围内。
在某些情况下,我依赖于浮点数甚至不为负且正好为<= 1
,因此这是必须的。
例如,以下任何功能是否有必要?
// x and y are guaranteed to be in [0,1]
float avg(float x,float y) {
// the average of [0,1] values should always be in [0,1]
return std::clamp<float>((x + y) / 2,1);
}
float mul(float x,float y) {
// the product of [0,1]
return std::clamp<float>(x * y,1);
}
float pow(float x,unsigned y) {
// raising an [0,1] value to any unsigned power should also result in an [0,1] value
return std::clamp<float>(std::pow(x,y),1);
}
算术运算何时可以使浮点数离开[0,1]范围是否有一致的规则?
解决方法
如果可以的话,将此答案限制为IEEE754。
0
,1
和2
都可以完全表示为float
。要求算术运算符返回可能的最佳浮点值。由于x
和y
都不大于1,因此它们的总和不能大于2,因为否则,总和将有一个更好的float
。换句话说,两个float
比1
小一点的总和不能大于2
。
产品同样如此。
由于无法保证std::pow(x,y)
返回最好的float
,因此第三种方法需要钳位。
角落问题
float pow(float x,unsigned y) {
// raising an [0,1] value to any unsigned power should also result in an [0,1] value
return std::clamp<float>(std::pow(x,y),1);
}
使用std::pow(±0,0)
可能会导致超出[0..1]范围(或导致域错误),因为std::pow()
既未指定结果,也未通过数学方法解决:Zero to the power of zero。 / p>
如果跟随IEEE,则结果为1,但不需要遵循兼容的库。
如果不遵循IEEE,并且std::pow(0,0)
返回NAN,我希望std::clamp(NAN,1)
也返回NAN并破坏系统。
候选替代代码
return (y==0) ? 1 : x;
请注意,函数的结果可能为-0.0,但该值仍在[0 ... 1]范围内。
我不关心mul()
,avg()
关于-0.0,以较高的精度进行中间计算以及使用变体舍入模式的问题。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。