Maison interface Web js tutoriel javascript中的float运算精度实例分析_javascript技巧

javascript中的float运算精度实例分析_javascript技巧

May 16, 2016 pm 06:20 PM
float

有人问到一个js问题:

复制代码 代码如下:

var i = 0.07;
var r = i*100;
alert(r);

结果为什么是7.0000000000000001?
查了下资料,其实我们知道JavsScript中,变量在存储时并不区分number和float类型,而是统一按float存储。而javascript使用IEEE 754-2008 标准定义的64bit浮点格式存储number,按照IEEE 754的定义: http://en.wikipedia.org/wiki/IEEE_754-2008
decimal64对应的整形部分长度为10,小数部分长度为16,所以默认的计算结果为“7.0000000000000001”,如最后一个小数为0,则取1作为有效数字标志。

类似地,我们可以想像,1/3的结果应该是0.3333333333333333。
那么如何校正这个值呢?
可以用以下方法:
一、parseInt

var r4=parseInt(i*100);

二、Math.round

var r2=Math.round((i*100)*1000)/1000;

以上两种方法都可以得到7
附全部测试代码:
复制代码 代码如下:



测试脚本





Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn

Outils d'IA chauds

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

AI Hentai Generator

AI Hentai Generator

Générez AI Hentai gratuitement.

Article chaud

R.E.P.O. Crystals d'énergie expliqués et ce qu'ils font (cristal jaune)
2 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
Repo: Comment relancer ses coéquipiers
1 Il y a quelques mois By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island Adventure: Comment obtenir des graines géantes
4 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
Combien de temps faut-il pour battre Split Fiction?
3 Il y a quelques semaines By DDD

Outils chauds

Bloc-notes++7.3.1

Bloc-notes++7.3.1

Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise

SublimeText3 version chinoise

Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1

Envoyer Studio 13.0.1

Puissant environnement de développement intégré PHP

Dreamweaver CS6

Dreamweaver CS6

Outils de développement Web visuel

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Quelle est la valeur maximale du float ? Quelle est la valeur maximale du float ? Oct 11, 2023 pm 05:54 PM

Valeur maximale de float : 1. En langage C, la valeur maximale de float est 3,40282347e+38. Selon la norme IEEE 754, l'exposant maximum du type float est de 127 et le nombre de chiffres de la mantisse est de 23. De cette façon, le nombre à virgule flottante maximum est 3,40282347 e+38 ;

Quelles sont les longueurs flottantes de la base de données ? Quelles sont les longueurs flottantes de la base de données ? Oct 10, 2023 pm 03:57 PM

Les longueurs flottantes courantes des bases de données sont les suivantes : 1. La longueur du type float dans MySQL peut être de 4 octets ou 8 octets. 2. La longueur du type float dans Oracle peut être de 4 octets ou 8 octets. 3. , La longueur du type float dans SQL Server ; est fixé à 8 octets ; 4. La longueur du type float dans PostgreSQL peut être de 4 octets ou 8 octets, etc.

Quelle est la précision du flotteur ? Quelle est la précision du flotteur ? Oct 17, 2023 pm 03:13 PM

La précision du float peut atteindre 6 à 9 décimales. Selon la norme IEEE754, le nombre de chiffres significatifs que peut représenter le type float est d'environ 6 à 9 chiffres. Il convient de noter qu'il ne s'agit que de la précision maximale théorique. En utilisation réelle, en raison de l'erreur d'arrondi des nombres à virgule flottante, la précision du type float est souvent inférieure. Lors de l'exécution d'opérations sur des nombres à virgule flottante dans un ordinateur, une perte de précision peut survenir en raison des limitations de précision des nombres à virgule flottante. Afin d'améliorer la précision des nombres à virgule flottante, vous pouvez utiliser des types de données de plus grande précision, tels que double ou long double.

Que signifie float en langage C ? Que signifie float en langage C ? Oct 12, 2023 pm 02:30 PM

Float en langage C est un type de données utilisé pour représenter des nombres à virgule flottante simple précision. Les nombres à virgule flottante sont des nombres réels représentés en notation scientifique et peuvent représenter des valeurs très grandes ou très petites. Les variables de type float peuvent stocker des valeurs avec 6 chiffres significatifs après la virgule décimale. En langage C, le type float peut être utilisé pour opérer et stocker des nombres à virgule flottante. Ses variables peuvent être utilisées pour représenter des décimales, des fractions, des valeurs scientifiques. notation, etc. qui nécessitent une représentation précise. Les nombres réels, contrairement aux types entiers, les nombres à virgule flottante peuvent représenter des nombres après la virgule décimale et peuvent effectuer quatre opérations arithmétiques sur les décimales.

Comment convertir une chaîne en float Comment convertir une chaîne en float Oct 16, 2023 pm 02:03 PM

Peut être converti en float via Python, JavaScript, Java, C#, Ruby et PHP. Introduction détaillée : 1. Python, entrez float_number = float(string_number); 2. JavaScript, entrez float_number = parseFloat(string_number);;

Quelles sont les valeurs de l'attribut float ? Quelles sont les valeurs de l'attribut float ? Oct 10, 2023 pm 02:03 PM

Les valeurs de l'attribut float incluent gauche, droite, aucun, hériter, clearinline-start et inline-end. Introduction détaillée : 1. à gauche, l'élément flotte vers la gauche, c'est-à-dire que l'élément sera aussi près que possible du côté gauche du conteneur, et d'autres éléments l'entoureront sur le côté droit ; flotte vers la droite, c'est-à-dire que l'élément sera aussi proche que possible du conteneur. À droite, d'autres éléments l'entoureront à gauche ; 3. La valeur par défaut est none, les éléments ne flotteront pas et seront disposés ; selon le flux normal des documents, etc.

Quelle est la différence entre float et double Quelle est la différence entre float et double Oct 11, 2023 pm 05:38 PM

Les principales différences entre float et double résident dans la précision, la vitesse de stockage et de calcul, la portée et l'utilisation dans les langages de programmation. Introduction détaillée : 1. La précision est différente. Float est un nombre à virgule flottante simple précision, occupant 4 octets (32 bits), tandis que double est un nombre à virgule flottante double précision, occupant 8 octets (64 bits) ; la vitesse de stockage et de calcul est différente, le double prend plus de place et nécessite plus d'espace de stockage pour stocker les valeurs, il peut être plus efficace d'utiliser le type float 3. Différentes plages, etc.

Que incluent les octets float32 ? Que incluent les octets float32 ? Oct 10, 2023 pm 04:07 PM

L'octet float32 comprend le bit de signe, le bit d'exposant et le bit de mantisse, et est utilisé pour représenter des nombres à virgule flottante de 32 bits. Introduction détaillée : 1. Bit de signe (1 bit), utilisé pour représenter le signe d'un nombre, 0 représente un nombre positif, 1 représente un nombre négatif ; 2. Bit d'exposant (8 bits), utilisé pour représenter la partie exposant d'un nombre. nombre à virgule flottante, via le bit exposant, vous pouvez ajuster la plage de taille du nombre à virgule flottante ; 3. Le bit de mantisse (23 bits) est utilisé pour représenter la partie mantisse du nombre à virgule flottante, et le bit de mantisse stocke la partie décimale du nombre à virgule flottante. Le bit de signe détermine le signe d'un nombre à virgule flottante, et le bit d'exposant et le bit de mantisse déterminent conjointement la taille et la précision du nombre à virgule flottante.

See all articles