javascript中的float运算精度实例分析_javascript技巧
有人问到一个js问题:
var i = 0.07;
var r = i*100;
alert(r);
结果为什么是7.0000000000000001?
查了下资料,其实我们知道JavsScript中,变量在存储时并不区分number和float类型,而是统一按float存储。而javascript使用IEEE 754-2008 标准定义的64bit浮点格式存储number,按照IEEE 754的定义: http://en.wikipedia.org/wiki/IEEE_754-2008
decimal64对应的整形部分长度为10,小数部分长度为16,所以默认的计算结果为“7.0000000000000001”,如最后一个小数为0,则取1作为有效数字标志。
类似地,我们可以想像,1/3的结果应该是0.3333333333333333。
那么如何校正这个值呢?
可以用以下方法:
一、parseInt
var r4=parseInt(i*100);
二、Math.round
var r2=Math.round((i*100)*1000)/1000;
以上两种方法都可以得到7
附全部测试代码:

Outils d'IA chauds

Undresser.AI Undress
Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover
Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool
Images de déshabillage gratuites

Clothoff.io
Dissolvant de vêtements AI

AI Hentai Generator
Générez AI Hentai gratuitement.

Article chaud

Outils chauds

Bloc-notes++7.3.1
Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise
Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1
Puissant environnement de développement intégré PHP

Dreamweaver CS6
Outils de développement Web visuel

SublimeText3 version Mac
Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Sujets chauds

Valeur maximale de float : 1. En langage C, la valeur maximale de float est 3,40282347e+38. Selon la norme IEEE 754, l'exposant maximum du type float est de 127 et le nombre de chiffres de la mantisse est de 23. De cette façon, le nombre à virgule flottante maximum est 3,40282347 e+38 ;

Les longueurs flottantes courantes des bases de données sont les suivantes : 1. La longueur du type float dans MySQL peut être de 4 octets ou 8 octets. 2. La longueur du type float dans Oracle peut être de 4 octets ou 8 octets. 3. , La longueur du type float dans SQL Server ; est fixé à 8 octets ; 4. La longueur du type float dans PostgreSQL peut être de 4 octets ou 8 octets, etc.

La précision du float peut atteindre 6 à 9 décimales. Selon la norme IEEE754, le nombre de chiffres significatifs que peut représenter le type float est d'environ 6 à 9 chiffres. Il convient de noter qu'il ne s'agit que de la précision maximale théorique. En utilisation réelle, en raison de l'erreur d'arrondi des nombres à virgule flottante, la précision du type float est souvent inférieure. Lors de l'exécution d'opérations sur des nombres à virgule flottante dans un ordinateur, une perte de précision peut survenir en raison des limitations de précision des nombres à virgule flottante. Afin d'améliorer la précision des nombres à virgule flottante, vous pouvez utiliser des types de données de plus grande précision, tels que double ou long double.

Float en langage C est un type de données utilisé pour représenter des nombres à virgule flottante simple précision. Les nombres à virgule flottante sont des nombres réels représentés en notation scientifique et peuvent représenter des valeurs très grandes ou très petites. Les variables de type float peuvent stocker des valeurs avec 6 chiffres significatifs après la virgule décimale. En langage C, le type float peut être utilisé pour opérer et stocker des nombres à virgule flottante. Ses variables peuvent être utilisées pour représenter des décimales, des fractions, des valeurs scientifiques. notation, etc. qui nécessitent une représentation précise. Les nombres réels, contrairement aux types entiers, les nombres à virgule flottante peuvent représenter des nombres après la virgule décimale et peuvent effectuer quatre opérations arithmétiques sur les décimales.

Peut être converti en float via Python, JavaScript, Java, C#, Ruby et PHP. Introduction détaillée : 1. Python, entrez float_number = float(string_number); 2. JavaScript, entrez float_number = parseFloat(string_number);;

Les valeurs de l'attribut float incluent gauche, droite, aucun, hériter, clearinline-start et inline-end. Introduction détaillée : 1. à gauche, l'élément flotte vers la gauche, c'est-à-dire que l'élément sera aussi près que possible du côté gauche du conteneur, et d'autres éléments l'entoureront sur le côté droit ; flotte vers la droite, c'est-à-dire que l'élément sera aussi proche que possible du conteneur. À droite, d'autres éléments l'entoureront à gauche ; 3. La valeur par défaut est none, les éléments ne flotteront pas et seront disposés ; selon le flux normal des documents, etc.

Les principales différences entre float et double résident dans la précision, la vitesse de stockage et de calcul, la portée et l'utilisation dans les langages de programmation. Introduction détaillée : 1. La précision est différente. Float est un nombre à virgule flottante simple précision, occupant 4 octets (32 bits), tandis que double est un nombre à virgule flottante double précision, occupant 8 octets (64 bits) ; la vitesse de stockage et de calcul est différente, le double prend plus de place et nécessite plus d'espace de stockage pour stocker les valeurs, il peut être plus efficace d'utiliser le type float 3. Différentes plages, etc.

L'octet float32 comprend le bit de signe, le bit d'exposant et le bit de mantisse, et est utilisé pour représenter des nombres à virgule flottante de 32 bits. Introduction détaillée : 1. Bit de signe (1 bit), utilisé pour représenter le signe d'un nombre, 0 représente un nombre positif, 1 représente un nombre négatif ; 2. Bit d'exposant (8 bits), utilisé pour représenter la partie exposant d'un nombre. nombre à virgule flottante, via le bit exposant, vous pouvez ajuster la plage de taille du nombre à virgule flottante ; 3. Le bit de mantisse (23 bits) est utilisé pour représenter la partie mantisse du nombre à virgule flottante, et le bit de mantisse stocke la partie décimale du nombre à virgule flottante. Le bit de signe détermine le signe d'un nombre à virgule flottante, et le bit d'exposant et le bit de mantisse déterminent conjointement la taille et la précision du nombre à virgule flottante.
