浮点数/双精度数/十进制数中精度数字的含义是什么？

如何解决浮点数/双精度数/十进制数中精度数字的含义是什么？

在 C# reference for floating-point numeric types 上可以读到

• float 的精度为 6 到 9 位
• double 的精度为 15 到 17 位
• decimal 的精度为 28 到 29 位

precision 在这种情况下是什么意思，尤其是 precision 怎么可能是一个范围？由于指数和尾数的位数是固定的，precision 如何可变（在描述的范围内）？有人可以举个例子，例如float 的 precision 为 6，precision 的 string localappdata = Environment.GetEnvironmentVariable("LocalAppData"); operadriverDir = Directory.GetCurrentDirectory(); operadriverExe = @"operadriver.exe"; OperaOptions operaOptions = new OperaOptions { LeaveBrowserRunning = false,BinaryLocation = localappdata + @"\Programs\Opera\58.0.3135.127\opera.exe" }; operaOptions.AddArgument("--user-data-dir=" + localappdata + @"\Google\Chrome\Opera\User Data"); var service_opera = OperaDriverService.CreateDefaultService(operadriverDir,operadriverExe); service_opera.EnableVerboseLogging = true; service_opera.Start(); int port = service_opera.Port; operaOptions.AddArgument("--remote-debugging-port=" + port.ToString()); driver = new OperaDriver(service_opera,operaOptions); 为 9？

解决方法

浮动和双倍

（我将解释 float，即 IEEE-754 Single-precision floating-point format，但 double，即 IEEE-754 Double-precision floating-point format 相同，但数字更大。

通常，您可以将 float 想象为：

尾数₂ * (2 ^ 指数₂)

其中尾数 2 表示以 2 为底的尾数，exponent₂ 表示以 2 为底的指数

尾数 2 为 23 位，指数 2 为 8 位。符号有一个额外的位，并且指数 ₂ 具有特殊格式和特殊范围，我们将在下面看到很多

还有一个技巧：浮点数通常以“标准化”形式保存：

1₂ 尾数₂ * (2 ^ 指数₂)

所以第一个数字总是 12，所以尾数 2 是 12 加上 23 个二进制数字，所以完整的尾数 2 总共有 24 位。

现在，对于 24 位，您可以拥有 0 到 16,777,216 之间的数字，即 7 位完整数字加上“部分”的第 8 位（例如，您不能拥有 26,216）。事实上 log₁₀ 2^24 = 7.22471989594

指数“移动”一个浮动小数点，例如，您可以拥有

1212121212121212121212121212121212121212121212121212. 1₂（一共有24个二进制数字1，希望...我数过）

或

12121212121212121212121212121212121212121212121212 . 1212

或

121212121212121212121212121212121212121212121212121202

或

1212121212121212121212121212121212121212121212121212120202

等等。

指数 2 具有三个范围：[-1;-127]、[1;127]、0 用于非规范化数字，255 用于 NaN 和无限（其中 255 表示所有指数的位在 1)

在 [-1;-127] 范围内，小数点向左移动，对于等于范围的步数，在 [1;127]` 范围内，小数点向右移动方式。

如果指数为 0，则该数字是“非规范化的”。它们是具有特殊处理的丑陋浮点数，因此速度较慢。当数字被“非规范化”时，数字的开头没有隐含的 12，所以你只有 23 位尾数，即 6 点的精度数字 (log₁₀ 2^23 = 6.9236899)

无法解释这 9 位精度是如何得出的。

十进制

使用 decimal 很简单：格式是：

尾数₂ / (10 ^ 指数₂)

其中尾数 2 是 96 位，指数 2 是 5 位（少一点，范围是 [0;28]），还有一个符号位，还有很多未使用的位。确切的格式写在 reference source 中。在 decimals 中没有隐含的初始 12，所以它是纯 96 位，并且 log₁₀ 2^96 = 28.8988795837，所以是 28 或 29 位。

,

float/double/decimal 中精度数字的含义是什么？

在文本和类型之间往返所需的十进制数字。

text-FP-text：当一个数字是十进制文本，然后转换为浮点类型，然后转换回具有相同位数的文本并获得相同的值时，在FP类型的整个指数范围内，文本版本中有效十进制数字的最大数量是较低的数字，例如 float 的 6。只要文本版本只显示 6 位数字，float 就可以编码一个足够接近的值。

FP-text-FP：当一个 FP 数字转换为十进制文本然后再转换回 FP 并得到相同的 FP 值时，文本版本所需的有效十进制数字的位数是较高的数字，例如 9 表示 { {1}}。文本版只要报告9位以上有效数字，就可以准确恢复原来的FP值。

float 有 24 位 二进制 进动。要将其转换为十进制，上述上下文很重要。最小的非零 float 需要大约 330+ decimal 数字才能准确打印出来，但很少有人将其视为该数字的进动。

---

有人可以举个例子吗？精度为 6 的浮点数和精度为 9 的浮点数？

6 decimal digits always works .... "9999979e3" and "9999978e3" both convert to 9.999978e+09，因此往返需要 9 个有效文本数字。