- Число половинной точности
-
Число́ полови́нной то́чности (англ. half precision) — компьютерный формат представления чисел, занимающий в памяти половину компьютерного слова (в случае 32-битного компьютера — 16 бит или 2 байта). Диапазон значений ± 2−24(5.96E-8) — 65504. Приблизительная точность — 3 знака (10 двоичных знаков, log10(211)).
Знак Экспо-
нентаМантисса 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 15 8 7 0 Примеры чисел половинной точности
Данные примеры представлены в битовом виде числа с плавающей запятой. Они включают в себя бит знака, экспоненту и мантиссу.
0 01111 0000000000 = 1 0 01111 0000000001 = 1 + 2-10 = 1.0009765625 (следующее больше число после 1) 1 10000 0000000000 = −2 0 11110 1111111111 = 65504 0 00001 0000000000 = 2−14 ≈ 6.10352 × 10−5 (Минимальное нормальное положительное число) 0 00000 1111111111 = 2-14 - 2-24 ≈ 6.09756 × 10−5 (Максимальное денормализованное) 0 00000 0000000001 = 2−24 ≈ 5.96046 × 10−8 (Минимальное положительное денормализованное) 0 00000 0000000000 = 0 1 00000 0000000000 = −0 0 11111 0000000000 = infinity 1 11111 0000000000 = −infinity 0 01101 0101010101 ≈ 0.33325... ≈ 1/3
По умолчанию, 1/3 округляется вниз.
Пределы точности на целых числах
Целые между 0 и 2047 представляются точно
Целые между 2048 и 4095 округляются вниз до ближайшего кратному 2 (четному числу)
Целые между 4096 и 8191 округляются вниз до ближайшего кратному 4
Целые между 8192 и 16383 округляются вниз до ближайшего кратному 8
Целые между 16384 и 32767 округляются вниз до ближайшего кратному 16
Целые между 32768 и 65535 округляются вниз до ближайшего кратному 32См. также
Для улучшения этой статьи желательно?: - Дополнить статью (статья слишком короткая либо содержит лишь словарное определение).
- Найти и оформить в виде сносок ссылки на авторитетные источники, подтверждающие написанное.
Категория:- Арифметика с плавающей запятой
Wikimedia Foundation. 2010.