next up previous contents index
suivant: Un exemple : codage monter: Calcul numérique précédent: Calcul numérique   Table des matières   Index

Codage des réels et des décimaux

Voici comment sont codées les nombres réels lorsque le nombre de chiffres significatifs demandés est inférieur ou égal à 16 (par exemple Digits:=15).
On écrit d, un nombre réel ou décimal, sous la forme :
d = 2$\scriptstyle \alpha$(1 + m) avec 0 < m < 1 et -210 < $ \alpha$ $ \geq$ 210.
On utilse 64 bits pour représenter ce nombre : Codage de 2$\scriptstyle \alpha$ :
$ \alpha$ = 0 est codé 011 1111 1111
$ \alpha$ = 1 est codé 100 0000 0000
$ \alpha$ = 4 est codé 100 0000 0011
$ \alpha$ = 5 est codé 100 0000 0100
$ \alpha$ = - 1 est codé 011 1111 1110
$ \alpha$ = - 4 est codé 011 1111 1011
$ \alpha$ = - 5 est codé 011 1111 1010
$ \alpha$ = 210 est codé 111 1111 1111
$ \alpha$ = 2-10 - 1 est codé 000 0000 0000.

Remarque
2-52 = 0.2220446049250313e - 15



Sous-sections
next up previous contents index
suivant: Un exemple : codage monter: Calcul numérique précédent: Calcul numérique   Table des matières   Index
Documentation de giac écrite par Renée De Graeve