Aller : Comment vérifier la perte de précision lors de la conversion de float64 en float32

l'éditeur php Baicao vous présente aujourd'hui une solution à un problème courant : comment vérifier la perte de précision qui peut survenir lors de la conversion de float64 en float32. Lors de la conversion de nombres à virgule flottante, une perte de précision peut survenir en raison de la différence de nombre de bits entre les deux types de données. Cet article détaillera comment déterminer s'il y a une perte en comparant les valeurs avant et après la conversion, et fournira une solution réalisable pour aider les développeurs à mieux gérer ce problème.

Contenu de la question

J'ai un scénario dans lequel je reçois une valeur float64 mais je dois l'envoyer par fil à un autre service en tant que valeur float32. Nous savons que la valeur reçue doit toujours tenir dans un float32. Cependant, par mesure de sécurité, j'aimerais signaler que nous perdons des données lors de la conversion en float32 .

Ce bloc de code ne sera pas compilé car vous ne pouvez pas comparer directement float32 à float64.

func convert(input float64) (output float32, err error) {
    const tolerance = 0.001
    output = float32(input)
    if output > input+tolerance || output < input-tolerance {
        return 0, errors.New("lost too much precision")
    }
    return output, nil
}

Existe-t-il un moyen simple de vérifier si je vis ce phénomène ? Cette vérification se produit fréquemment, je souhaite donc éviter la conversion de chaînes.

Solution de contournement

Vous pouvez utiliser float32 值转换回 float64 uniquement à des fins de vérification.

Pour vérifier si la valeur convertie représente la même valeur, comparez-la simplement avec la valeur d'origine (entrée). Revenir seulement ok bool 信息（而不是 error) est également suffisant/idiomatique :

func convert(input float64) (output float32, ok bool) {
    output = float32(input)
    ok = float64(output) == input
    return
}

(Remarque : les cas Edge comme nan ne sont pas cochés.)

Testez-le :

fmt.println(convert(1))
fmt.println(convert(1.5))
fmt.println(convert(0.123456789))
fmt.println(convert(math.maxfloat32))

Sortie (essayez-le sur go terrain de jeu) :

1 true
1.5 true
0.12345679 false
3.4028235e+38 true

Notez que cela donnera généralement ok = false 结果，因为 float32 的精度小于 float64 même si la valeur convertie peut être très proche de l'entrée.

Donc, en pratique, il serait plus utile de vérifier la différence entre les valeurs converties. La solution que vous proposez vérifie la différence absolue, ce qui n'est pas très utile : par exemple 1000000.1 和 1000000 是非常接近的数字，即使差异是 0.1。 0.0001 和 0.00011 的差异要小得多：0.00001, mais la différence est beaucoup plus grande par rapport aux nombres.

Vous devriez donc vérifier la différence relative, par exemple :

func convert(input float64) (output float32, ok bool) {
    const maxreldiff = 1e-8

    output = float32(input)
    diff := math.abs(float64(output) - input)
    ok = diff <= math.abs(input)*maxreldiff

    return
}

Testez-le :

fmt.println(convert(1))
fmt.println(convert(1.5))
fmt.println(convert(1e20))
fmt.println(convert(math.pi))
fmt.println(convert(0.123456789))
fmt.println(convert(math.maxfloat32))

Sortie (essayez-le sur go terrain de jeu) :

1 true
1.5 true
1e+20 false
3.1415927 false
0.12345679 false
3.4028235e+38 true

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!