Энциклопедия · Код и разработка · Особенности программирования
Погрешности вычислений в программировании
Числа с плавающей точкой хранятся с ограниченным количеством значащих разрядов, поэтому многие дроби и результаты операций представляются приближённо.
- 16 минЧтение:
- 25Разделов:
- 37Примеров кода:
Что вы узнаете
- Что именно неточно
- Главный пример: 0.1 + 0.2
- Почему десятая доля не помещается в двоичную дробь
- Как устроено число с плавающей точкой
- Абсолютная ошибка, относительная ошибка, epsilon и ULP
Отрывок
В распространённом двоичном формате binary64 выражение 0.1 + 0.2 обычно выводится как 0.30000000000000004, а сравнение результата с 0.3 возвращает ложь. Это следствие устройства числового формата и округления, а не поломка процессора или арифметики конкретного языка.
Полный текст статьи открывается по подписке.
- Интерактивные уровни с проверкой ответов
- Прогресс и повторение терминов сохраняются
- Тренажёры Linux, SQL, Git и Docker в браузере