CString.Format以相同的精度产生不同的值

如何解决CString.Format以相同的精度产生不同的值

很抱歉,可能是愚蠢的问题,因为我是C#开发人员,所以我很难找到一些想法。

我们正在进行从VC ++ 2013到VC ++ 2019的迁移。我们有2个安装了VC ++ 2013和VC ++ 2019的类似VM。项目已经在使用VC ++ 2019。在2个VM上运行时,简单评估的结果不同:

CString Value;
int precision = 8;
double number = 50.634765625;
String^ RetValue;

Value.Format(_T("%.*f"),precision,number);
RetValue = gcnew String(Value.GetString());

在一个VM(Win 7 64bit)上,我们具有RetValue“ 50.63476563”;在另一个VM(win10 64bit)上,我们具有RetValue-“ 50.63476562”我期望的所有工具都是相同的(很难说100%,因为已经安装了很多工具,但是最重要的c ++是)。

在VS2013下转换和运行项目时,两个VM上的结果相同-“ 50.63476563”。

是否有任何控制格式的选项设置?还是为什么在选择一个VM截断的情况下选择四舍五入呢?

更新 因此问题确实与VS2013 / VS2019的差异有关。我发现了为什么我们在使用相同VS2019的2个VM上有不同的结果。所以:

  1. VS2013舍入为50.634765625 == VS 2019舍入为四舍五入
  2. VS2013舍入为50.634765625!= VS 2019舍入为Debug
在两种情况下,

取整方向都最接近。因此,MSFT在Release / Debug中对最近的解释不同。 C ++编译器选项使/ MD与/ MDd有所不同。

除了切换到/ MD强制在调试中整个项目使用旧方法外,找不到其他方法。

解决方法

我们在2013年和2017年的测试中发现了差异。我们看到了将数字.249500转换为三位数的差异。 2013 = 0.250,而2017 = 0.249。考虑以下示例:

#include <stdio.h>

// little endian bytes,to avoid parsing differences between both compilers
unsigned char bytesOfDouble[] = {0x56,0x0E,0x2D,0xB2,0x9D,0xEF,0xCF,0x3F}; 
double& dVal = reinterpret_cast<double&>(bytesOfDouble);

void PrintDouble(const double& d)
{
    printf("printf (%%.3f): %.3f\n",d);
    printf("printf (%%.3g): %.3g\n",d);

    printf("printf (%%f)  : %f\n",d);
    printf("printf (%%g)  : %g\n",d);
}

int main(int argc,char** argv)
{
    PrintDouble(dVal);
    return 0;
}

如果使用VS2013和VS2017进行编译,则会得到不同的结果。如果尝试使用g ++或clang,将获得与VS2017相同的结果。

如何在两者之间获得相同的结果? IDK ...我认为MS肯定改变了其底层C运行时。

,

因此,在我看来,这似乎是Microsoft在Windows 10 SDK(10.0.19041.1)中引入的错误。 现在将使用一些解决方法。

https://developercommunity.visualstudio.com/content/problem/1085732/different-printf-double-rounding-behaviour-between.html

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


依赖报错 idea导入项目后依赖报错,解决方案:https://blog.csdn.net/weixin_42420249/article/details/81191861 依赖版本报错:更换其他版本 无法下载依赖可参考:https://blog.csdn.net/weixin_42628809/a
错误1:代码生成器依赖和mybatis依赖冲突 启动项目时报错如下 2021-12-03 13:33:33.927 ERROR 7228 [ main] o.s.b.d.LoggingFailureAnalysisReporter : *************************** APPL
错误1:gradle项目控制台输出为乱码 # 解决方案:https://blog.csdn.net/weixin_43501566/article/details/112482302 # 在gradle-wrapper.properties 添加以下内容 org.gradle.jvmargs=-Df
错误还原:在查询的过程中,传入的workType为0时,该条件不起作用 &lt;select id=&quot;xxx&quot;&gt; SELECT di.id, di.name, di.work_type, di.updated... &lt;where&gt; &lt;if test=&qu
报错如下,gcc版本太低 ^ server.c:5346:31: 错误:‘struct redisServer’没有名为‘server_cpulist’的成员 redisSetCpuAffinity(server.server_cpulist); ^ server.c: 在函数‘hasActiveC
解决方案1 1、改项目中.idea/workspace.xml配置文件,增加dynamic.classpath参数 2、搜索PropertiesComponent,添加如下 &lt;property name=&quot;dynamic.classpath&quot; value=&quot;tru
删除根组件app.vue中的默认代码后报错:Module Error (from ./node_modules/eslint-loader/index.js): 解决方案:关闭ESlint代码检测,在项目根目录创建vue.config.js,在文件中添加 module.exports = { lin
查看spark默认的python版本 [root@master day27]# pyspark /home/software/spark-2.3.4-bin-hadoop2.7/conf/spark-env.sh: line 2: /usr/local/hadoop/bin/hadoop: No s
使用本地python环境可以成功执行 import pandas as pd import matplotlib.pyplot as plt # 设置字体 plt.rcParams[&#39;font.sans-serif&#39;] = [&#39;SimHei&#39;] # 能正确显示负号 p
错误1:Request method ‘DELETE‘ not supported 错误还原:controller层有一个接口,访问该接口时报错:Request method ‘DELETE‘ not supported 错误原因:没有接收到前端传入的参数,修改为如下 参考 错误2:cannot r
错误1:启动docker镜像时报错:Error response from daemon: driver failed programming external connectivity on endpoint quirky_allen 解决方法:重启docker -&gt; systemctl r
错误1:private field ‘xxx‘ is never assigned 按Altʾnter快捷键,选择第2项 参考:https://blog.csdn.net/shi_hong_fei_hei/article/details/88814070 错误2:启动时报错,不能找到主启动类 #
报错如下,通过源不能下载,最后警告pip需升级版本 Requirement already satisfied: pip in c:\users\ychen\appdata\local\programs\python\python310\lib\site-packages (22.0.4) Coll
错误1:maven打包报错 错误还原:使用maven打包项目时报错如下 [ERROR] Failed to execute goal org.apache.maven.plugins:maven-resources-plugin:3.2.0:resources (default-resources)
错误1:服务调用时报错 服务消费者模块assess通过openFeign调用服务提供者模块hires 如下为服务提供者模块hires的控制层接口 @RestController @RequestMapping(&quot;/hires&quot;) public class FeignControl
错误1:运行项目后报如下错误 解决方案 报错2:Failed to execute goal org.apache.maven.plugins:maven-compiler-plugin:3.8.1:compile (default-compile) on project sb 解决方案:在pom.
参考 错误原因 过滤器或拦截器在生效时,redisTemplate还没有注入 解决方案:在注入容器时就生效 @Component //项目运行时就注入Spring容器 public class RedisBean { @Resource private RedisTemplate&lt;String
使用vite构建项目报错 C:\Users\ychen\work&gt;npm init @vitejs/app @vitejs/create-app is deprecated, use npm init vite instead C:\Users\ychen\AppData\Local\npm-