Энциклопедия · Код и разработка · Особенности программирования

Погрешности вычислений в программировании

Числа с плавающей точкой хранятся с ограниченным количеством значащих разрядов, поэтому многие дроби и результаты операций представляются приближённо.

  • 16 минЧтение
  • 25Разделов
  • 37Примеров кода

Что вы узнаете

  • Что именно неточно
  • Главный пример: 0.1 + 0.2
  • Почему десятая доля не помещается в двоичную дробь
  • Как устроено число с плавающей точкой
  • Абсолютная ошибка, относительная ошибка, epsilon и ULP

Отрывок

В распространённом двоичном формате binary64 выражение 0.1 + 0.2 обычно выводится как 0.30000000000000004, а сравнение результата с 0.3 возвращает ложь. Это следствие устройства числового формата и округления, а не поломка процессора или арифметики конкретного языка.

Вселенная ИТ — практика IT на русском

Уроки с проверкой, энциклопедия, тренажёры и квизы на одной платформе. Всё работает в браузере, без установки.