财务说账单上少了一分钱,老板看到代码气疯了
# (一)前言 在刚学Java的时候,我们老师就和我们说float和double的精度是存在误差的,原因在于二进制中没有准确表示比如0.1,0.00001这样的数据,甚至于操作系统的位数也会影响到float和double的精度。刚好前几天遇到了这样一个问题,一个财务对接系统反馈金额账上对应不上,检查历史代码后发现竟然有人用float去修饰了金额,导致计算后精度误差。
# (一)前言 在刚学Java的时候,我们老师就和我们说float和double的精度是存在误差的,原因在于二进制中没有准确表示比如0.1,0.00001这样的数据,甚至于操作系统的位数也会影响到float和double的精度。刚好前几天遇到了这样一个问题,一个财务对接系统反馈金额账上对应不上,检查历史代码后发现竟然有人用float去修饰了金额,导致计算后精度误差。