I numeri macchina $\mathbb{F}$

Definizione 2.6 (Insieme dei reali macchina $\mathbb{F}$)  

$$\mathbb{F}\left( b,t,L,U \right) = \left\{ \mu\in\mathbb{Q}\ \vert \ \mu = \pm \left(0.\mu_1\mu_2...\mu_t \right)b^p \right\}$$

dove:

• $\mu_i = \left\{0,1...b-1\right\}$
• $\mu_1 \ne 0$
• $t \ge 1$
• $p\in[L,U] \in\mathbb{Z}$

Si indica con $b$ la base, $t$ le cifre di mantissa (che deve appartenere a $\mathbb{Q}$, poichè in un calcolatore la memoria per la mantissa è finita), $L$ il più piccolo esponente disponibile e con $U$ il più grande esponente. ²

Lo standard IEEE754 definisce le seguenti precisioni:

• Semplice: 32 bit $\quad \varepsilon_m \approx 10^{-8}$
• Doppia: 64 bit $\quad \varepsilon_m \approx 10^{-16}$
• Quadrupla: 128 bit $\quad \varepsilon_m \approx 10^{-32}$

Definizione 2.7 (Insieme dei reali rappresentabili $\nu$)  

$$\nu = \left\{ 0 \right\} \cup [\min\mathbb{F}^+, \max\mathbb{F}^+] \cup [-\max\mathbb{F}^+, -\min\mathbb{F}^+]$$