目录

解决 go float 浮点数运算失真

五岁小孩收录于编程开发

2024-05-05 约 247 字预计阅读 1 分钟次阅读

目录

问题

go float 在运算的时候会出现精度问题

        
        
        
    
package main

import (
	"fmt"
)

func main() {
	var a float64 = 0.3
	var b float64 = 0.6
	fmt.Println("a+b=", a+b) // 你以为是 0.9  但是结果是：0.8999999999999999
}

你观察到的 0.3 + 0.6 = 0.8999999999999999 现象是由于计算机使用二进制浮点数表示十进制小数时的固有精度问题，而不是 Go 语言特有的问题。这是所有使用 IEEE 754 浮点数标准的编程语言都会遇到的情况

解决

使用 decimal 包解决 golang 浮点数运算失真

代码如下：

        
        
        
    
package main

import (
	"fmt"

	"github.com/shopspring/decimal"
)

func main() {
	var a float64 = 0.3
	var b float64 = 0.6
	a1 := decimal.NewFromFloat(a)
	b1 := decimal.NewFromFloat(b)
	fmt.Println("a+b=", a1.Add(b1)) //  0.9
}

注意

decimal建议只用做 float 计算；不建议用来字符串和浮点数之间转换: decimal.NewFromString(“1”) , 大量数据计算下性能差