如何解决数值精度与.net框架
在我们的项目中,我们有一个用C#编写的计算dll。
在.Net 4.7.2
中为其构建之前
现在它内置于.NetStandard
中。
自迁移以来,我们观察到输出的最后十进制几乎没有差异。
您会说这些变化的参数很好地解释了所观察到的数值差异吗?
我非常确定,取决于执行CPU架构和所使用的.Net框架,总线(?)或cpu(?)中的double
实际字节数不相同,并且这可能会影响精度一些数值算法的结果。
编辑:两个应用程序使用此dll,一个在.Net 4.7.2
中,另一个在.Net-core 2.1
中。我们在迁移之前/之后的第一个应用中以及两个应用之间都看到了数值差异。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。