php小编百草今天为大家介绍一种常见问题的解决方法:如何检查将 float64 转换为 float32 时可能出现的精度损失。在进行浮点数转换时,由于两种数据类型的位数不同,可能会导致精度损失的问题。本文将详细介绍如何通过比较转换前后的数值来判断是否有损失,并提供了一种可行的解决方案,以帮助开发者更好地处理这一问题。
问题内容
我有一个场景,我收到一个 float64 值,但必须将其作为 float32 值通过线路发送到另一个服务。我们知道接收到的值应该始终适合 float32。但是,为了安全起见,我想记录我们通过转换为 float32 丢失数据的情况。
此代码块无法编译,因为您无法直接比较 float32 与 float64。
func convert(input float64) (output float32, err error) {
const tolerance = 0.001
output = float32(input)
if output > input+tolerance || output < input-tolerance {
return 0, errors.New("lost too much precision")
}
return output, nil
}
是否有一种简单的方法来检查我是否遇到了这种情况?此检查会频繁发生,因此我想避免进行字符串转换。
解决方法
您可以将 float32
值转换回 float64
,仅用于验证。
要检查转换后的值是否表示相同的值,只需将其与原始值(输入)进行比较即可。仅返回 ok bool
信息(而不是 error
)也足够/惯用了:
func convert(input float64) (output float32, ok bool) {
output = float32(input)
ok = float64(output) == input
return
}
(注意:不会检查像 nan
这样的边缘情况。)
测试它:
fmt.println(convert(1))
fmt.println(convert(1.5))
fmt.println(convert(0.123456789))
fmt.println(convert(math.maxfloat32))
输出(在 go playground 上尝试一下):
1 true
1.5 true
0.12345679 false
3.4028235e+38 true
请注意,这通常会给出 ok = false
结果,因为 float32
的精度小于 float64
,即使转换后的值可能非常接近输入。
因此在实践中检查转换值的差异会更有用。您提出的解决方案检查绝对差值,这不是很有用:例如 1000000.1
和 1000000
是非常接近的数字,即使差异是 0.1
。 0.0001
和 0.00011
的差异要小得多:0.00001
,但与数字相比差异要大得多。
所以你应该检查相对差异,例如:
func convert(input float64) (output float32, ok bool) {
const maxreldiff = 1e-8
output = float32(input)
diff := math.abs(float64(output) - input)
ok = diff <= math.abs(input)*maxreldiff
return
}
测试它:
fmt.println(convert(1))
fmt.println(convert(1.5))
fmt.println(convert(1e20))
fmt.println(convert(math.pi))
fmt.println(convert(0.123456789))
fmt.println(convert(math.maxfloat32))
输出(在 go playground 上尝试一下):
1 true
1.5 true
1e+20 false
3.1415927 false
0.12345679 false
3.4028235e+38 true