0,1 en simple précision (32 bits)
En simple précision, 0,1 est stocké avec 23 bits de mantisse : 0,100000001490116...
Par Jimenez Julien, éditeur de Calepin Binaire · mis à jour le
- Bit de signe
- 0 (positif)
- Exposant (8 bits)
- 01111011 (123, décalage -4)
- Mantisse (23 bits)
- 10011001100110011001101
- Hexadécimal
- 0x3DCCCCCD
- Valeur réellement stockée
- 0,100000001490116119384765625
La plupart des décimaux, comme 0,1, n'ont pas d'écriture exacte en binaire : l'ordinateur stocke la valeur représentable la plus proche.
Le cas en détail
Avec moins de bits de mantisse, l'arrondi est plus grossier : l'écart avec 0,1 apparaît dès le neuvième chiffre. La simple précision convient aux graphismes et à l'audio, moins aux calculs scientifiques.
À retenir : Doubler la précision multiplie le nombre de chiffres fiables, mais ne supprime pas l'arrondi.
L'exemple chiffré
Valeurs utilisées dans ce cas (des exemples, pas des mesures) :
- Nombre à représenter : 0,1
- Précision : Simple précision (32 bits)
- Bit de signe
- 0 (positif)
- Exposant (8 bits)
- 01111011 (123, décalage -4)
- Mantisse (23 bits)
- 10011001100110011001101
- Hexadécimal
- 0x3DCCCCCD
- Valeur réellement stockée
- 0,100000001490116119384765625
La plupart des décimaux, comme 0,1, n'ont pas d'écriture exacte en binaire : l'ordinateur stocke la valeur représentable la plus proche.
Modifiez les champs ci-dessus pour adapter le calcul à votre situation : le résultat se met à jour tout de suite.
Comment ça se calcule
Un nombre flottant est stocké sous la forme (-1)^signe × 1,mantisse × 2^(exposant - décalage). En double précision : 1 bit de signe, 11 d'exposant (décalage 1023) et 52 de mantisse. En simple précision : 1, 8 (décalage 127) et 23. La valeur stockée est la plus proche de votre nombre parmi celles représentables.
Les résultats sont fournis à titre indicatif, sans valeur de conseil juridique, fiscal ou financier.