Zakres obliczeń i dokładność

Zakres obliczeń to od $\displaystyle \pm 10^{-99}$ do $\displaystyle \pm 9,999999999 \times 10^{99}$ oraz $\displaystyle 0$. Wartość poniżej 10 do potęgi minus 99 jest traktowana jako zero. W tym zakresie wyniki są dokładne do $\displaystyle \pm 1$ na ostatniej cyfrze. Małe błędy mogą narastać w długich obliczeniach, wewnątrz funkcji takich jak $\displaystyle y^{x}$, pierwiastek stopnia $\displaystyle x$, silnia, $\displaystyle e^{x}$ i ln oraz w pobliżu punktów, w których funkcja ma skok albo zmienia kierunek.

▶ Obejrzyj ten krok w filmie (1:10:03)