如何解决帮助实现双精度加法
| 我正在测试我的一些代码,在javascript中我添加了.1 + .2,它给了我.30000000000000004而不是.3。我不明白这一点。 但是,当我加上.1 + .3时,它便得出了.4。我在Google上搜索了一下,发现它与Double Precision加法有关。但是我不知道这是什么。解决方法
这是必不可少的链接:每位计算机科学家都应了解的浮点算法
基本上,有许多以10为基数的数字不能以大多数计算机使用的浮点格式正确表示,因此您会遇到一些突出显示的问题。
,如果您对每个计算机科学家都应该了解的浮点算法一无所知,请尝试使用JavaScript中特定于javascript的Rounding。
,浮点数的精度是有限的,因为该数字以有限的位数存储。
您尝试存储的数字无法准确存储,因此使用了近似值。
每个计算机科学家都应了解的浮点运算法则。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。