浮点数精度,浮点数有效数字

浮点数精度,浮点数有效数字

浮点数的精度1.为什么称为浮点数？ 相对于浮点数，它们是定点数，小数点固定在最右边，即整数。 浮点数的小数点根据指数的值左右移动。 2.考虑二进制整数，我们先从业务代码中的bug开始，大致流程是前端运算2.07-1，但结果是1.0699999999999998。老司机都知道，这是浮点运算精度损失造成的。经过检查，具体代码如下，结果

(^人^) 单精度浮点数的符号位占1位，移帧占8位，尾数占23位。 上面的打印使用相同的空格分隔格式。 Youcanusethefollowingfiguretovividlyrememberthestructureofsingle-precisionfloating-pointnumbers(float)inmemory.Forthisfloating-pointnumberrepresentation,theprecisionofthenumberis:Therangeofthenumberis:Roughlyexpressedas:Theefficiencyofthenumberis:thecomputersystemproducedbyIntel,suchasPentiummicroprocessor,etc.,its32-bitshortfloatingpointnumberisrepresentedasshowninFigure2.4

至少自2000年以来，几乎所有机器都使用IEEE754二进制浮点运算标准，并且几乎所有系统平台都将Python浮点数映射为IEEE754二进制64位"双精度"值。 IEEE754二进制64位，一般认为单精度浮点数的有效位数为6~7位，并且绝对保证为6位。 注：由于单精度浮点数使用23位存储表示小数域，2的23次方为8,388,608。23位可以存储所有6位或更少的数字，最多7位

ˋ△ˊ 四精度MPFR浮点数提供39位有效数字，双精度浮点数理论上提供15-16位有效数字。选取MPFR四精度浮点数的前16位有效数字作为"基准数据"来验证本文的光线追踪算法。 正确性。使用高精度MPFR库计算的4个浮点数的精度是指小数点后的有效位数，由尾数的位数决定。对于单精度（float），其尾数为23位。 而2^23=8388608，总共7位，也就是说最多可以有7位有效数字，但至少有6位是有保证的。