Диапазон и точность вычислений

Диапазон и точность вычислений

Диапазон вычислений — от ±10−99\displaystyle \pm 10^{-99} до ±9,999999999×1099\displaystyle \pm 9{,}999999999 \times 10^{99}, а также ноль. Значение меньше 10 в степени минус 99 считается нулём. В пределах диапазона ответы точны до ±1\displaystyle \pm 1 в последней цифре. Небольшие погрешности могут накапливаться в длинных вычислениях, внутри функций вроде yx\displaystyle y^{x}, корня степени x\displaystyle x, факториала, ex\displaystyle e^{x} и LN, а также вблизи точек, где функция имеет разрыв или перегиб.

▶ Посмотрите этот шаг в видео (1:10:36)