iOS浮点类型精度问题

软件发布|下载排行|最新软件

当前位置:首页IT学院IT技术

iOS浮点类型精度问题

梦回吹角连营   2022-05-23 我要评论

前言

相信不少人(其实我觉得应该是每个人)都遇到过一个问题,那就是当服务端返回的JSON数据中出现了小数时,客户端用CGFloat去解析时总是会出现精度丢失的问题,尤其当遇到敏感数据时,这种精度丢失是完全不能被容忍的,本文会从简单的解决方案和原理出发,一起带大家回顾一下这个其实大家以前都学过但是都忘的差不多了的小问题。

如何解决浮点型精度问题

四舍五入处理

//例如服务端返回了这么一个json
{
    "price":1.9
}

// 客户端解析price后并且打印1.9
CGFloat price = model.price
NSLog(@"%f",price)
得到的结果是 1.8999999999999999

这个时候呢,作为一个咸鱼开发者,可以写下如下代码:

NSLog(@"%.2f",price)
输出:1.89
//不够准确,没关系,还有办法
NSLog(@"f%@",round(price*10)/10);
输出1.9

当然了,还有apple专门为精度问题提供的 NSDecimalNumber类型也可以解决这个问题。NSDecimalNumber的用法非常简单。(至于怎么个简单,请自行百度,别问我,我不百度也写不出来)

更优的解决方案

  • 那么问题来了,作为一个懒到一整年都不愿意写文章的咸鱼中的咸鱼,我应该选择哪种方式去解决这个问题呢?

好的,重头戏来了,接下来,我们上代码!

//服务端必须返回字符串类型,如果服务端没有照做: **请带着锤子和煤气罐去找后端开发人员解决**
@property (nonatomic,copy) NSString *price;

是的,我会选择不解决这个问题,把皮球踢出去,这才是一个合格的开发者该做的事情嘛!

精度丢失的原因

解决浮点精度问题是一个方面,但是如此简单的内容不足以我水完一整篇文章,那么接下来,我们来讲讲为什么好好的数字解析出来,他咋就不准确了呢?

可能很多人都能大概讲出来精度丢失是因为浮点数存储方式的问题,毕竟这玩意儿其实专业对口的筒子们在校的时候都学过,但是大家摸摸自己的小脑袋,嘿,是不是和我一样?全忘光了?

而且鉴于总有些基础很牛逼的面试官和刚好复习过这部分内容的装逼面试官就是喜欢挑这些小问题来刁难咱们这些老年摸鱼程序员,下面我们就来复习一下这部分的知识吧。

浮点类型的存储方式

浮点类型在计算机中的存储方式是以科学计数法的方式来存储的:

例如: 科学计数法表示小数
90.9 => 9.09 x 10^1
8.3  => 8.3 x 10^0

我们以8.3为例子,要存储8.3 (8.3 x 10^0), 首先肯定要将8.3转化为2进制,8转为二进制时1000,那么0.3呢?

年迈的程序员哟,你是不是猛然发现居然忘了小数是如何转化为2进制的呀,放下你准备百度的颤抖的双手,你想要的,我这里都有!

以0.9为例子,将0.9乘以2,得到的数字整数部分为二进制的小数第一位,将结果部分的小数部分取出并再乘以2,取整数部分为第2位,不断重复以上操作,直到结果等于0或者出现循环为止。

0.9 *2 = 1.8  第1位 1
0.8 *2 = 1.6  第2位 1
0.6 *2 = 1.2  第3位 1
0.2 *2 = 0.4  第4位 0
0.4 *2 = 0.8  第5位 0
0.8 *2 = 1.6  第6位 1 出现循环了

那么0.9的二进制就是 0.1 1100 1100 1100 1100... 其中1100无限循环

经过上面一番复习我们知道8.3的二进制可表示为 1000.0 1001 1001 1001... (1001无限循环) 用科学计数法表示则为, 1.000 0 1001 1001 1001 x 2^3

整数部分指数部分小数部分
13.000 0 1001 1001 1001

而我们知道float是4(32位)个字节,在存储时他的每个bit是如下分配的

第31位符号位23-30位(指数位)0-22位(小数位)
13.000 0 1001 1001 1001

有效位数

可以看到尾数部分有23位,但是由于是科学技术法之后任何一个数字都可以用  1.aaa x 2^b 这种形式来表示,所以1可以省略,(这个时候就有人要抬杠了,为啥,那遇到0.aaa x 2^b这种咋办呀! 答曰:b可以是负数啊),那么总共23位的数据实际可以表达的位数其实就是24位。

  • 24位可以表达的最大数字是 16777215 ,如果大于这个数就无法精确表示了。

当然大于16777215一不定是完全不能精确表示的,比如16777216,他的二进制表达形式是1后面带1堆0. 因为他是2的整数次幂,那么后面全是0 所以23位能把该数字存储下来,如果在23位0后面还出现了1就不行了,以此类推,16777215 后面还会有数字刚好可以满足这种2的整数次幂的条件,也可以正确表达。

虽然大于16777215的数字也有部分可以精确表达,但是我们谈精度的话肯定就要精确了,那么能精确表达的数字就只有0-16777215之间的了,16777215之间我们数一下,一共是8位,但是由于最高位1开头并不能全部包含,所以说精度应该是7位有效数子。

另外提一下浮点数的表达范围,这个范围肯定是由指数来确定了,具体是多少我就不算了,大家有兴趣的可以去算一算。

指数的存储方式:移位存储

可以看到指数部分一共是给了8个bit位,由于指数有正负,那么假设我们第一位表示符号位,那么我们可以表示的数字范围为 -127 ~ +127

那么能表示的范围被分为两部分:

  • 1 000000 0~ 1 111111 1 => -0 到 -127

  • 0 000000 0~ 0 111111 1 => +0 到 127

很明显,如果这样会出现一个 -0 和一个 +0,为了避免这个问题所以出现了移位存储:即如果最高位不用来表示符号位,8个bit 可以存储的范围是 0-255,我们重新来规划下两个区间:

  • 00000000 - 01111111 => 0-127 减去127则表示-127-0之前的数字
  • 10000000 - 11111111 => 128-256 减去127则表示1-127之前的数字

这样一来规避了+-0的问题, 上文中所说的8.3 转化为小数后的指数位是3,那么3实际存储的时130,也就是 10000010,我们更新一下实际存储的表格

第31位符号位23-30位(指数位)0-22位(小数位)
110000010.000 0 1001 1001 1001

double类型

double类型是8字节64位,其表示的位数和float所不同只有位数差别,其他都一样,双精度表示的位数如下:

第63位符号位52-62位(指数位)0-51位(小数位)

总结:输出结果丢失精度原因

回到最初的1.9这个数字打印为1.8999999999999999,现在我们应该知道为什么了,因为1.9转2进制时是个无限循环,由于存储的原因后面的循环部分被只被截取了23位,还原回来的十进制数字和原先肯定就不一样了。 同理,如果小数点后面是.5这种5的倍数的小数,打印出来的小数一般都会是正常的,因为.5转2进制时并不是无限循环的。

Copyright 2022 版权所有 软件发布 访问手机版

声明:所有软件和文章来自软件开发商或者作者 如有异议 请与本站联系 联系我们