如何解决ssrs 中的数字精度,十进制等价物
我有一个 sql 语句:
Declare @res numeric(30,10)
Declare @num1 numeric(30,10) = 233.6108200000
Declare @num2 numeric(30,10) = 200000.0000000000
Declare @num3 numeric(30,10) = 0.8341
set @res = ((@num1/@num2) * 10000 * @num3)
select @res
o/p : 9.7427050000
但是在 ssrs 表达式中,如果我尝试转换:
=CDec((233.6108200000/200000.0000000000) * 10000 * 0.8341)
o/p:9.74273925
编辑 我需要对 ssrs 表达式/文本框属性进行哪些更改以匹配 sql server 结果?
解决方法
我无法对此进行测试。但我怀疑在这个表达式中
=CDec((233.6108200000/200000.0000000000) * 10000 * 0.8341)
部分或全部数字被解释为浮点数,从而产生浮点算术。我怀疑你需要更多类似这个表达式的东西来强制十进制(数字)算术。
= (CDec(233.6108200000)/CDec(200000.0000000000)) * CDec(10000) * CDec(0.8341)
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。