精度问题
-
【浮点数】0.1 + 0.2 != 0.3
一次 Python 课，讲解完 Python 的基础数据类型、运算符之后，有同学在课后提出了一个很有意思的问题，浮点数在进行数学运算的时候，会出现一些 “错误”，问题如下图所示。 为什么 0.1 + 0.1 、0.2 + 0.2 都是正确的，但是 0.1 + 0.2 就会出现如上图所示的问题？本文将介绍一下背后的设计原理，以及在有需要进行高精度计算的时候，如何避免此类问题。 首先我们需要了解一下，…
一次 Python 课，讲解完 Python 的基础数据类型、运算符之后，有同学在课后提出了一个很有意思的问题，浮点数在进行数学运算的时候，会出现一些 “错误”，问题如下图所示。 为什么 0.1 + 0.1 、0.2 + 0.2 都是正确的，但是 0.1 + 0.2 就会出现如上图所示的问题？本文将介绍一下背后的设计原理，以及在有需要进行高精度计算的时候，如何避免此类问题。 首先我们需要了解一下，…
