Правила работы с данными вещественных типов

• при выполнении операций и вычислении значений функций действуют правила математики: нельзя выполнить деление на 0, извлечь корень из отрицательного числа, вычислить логарифм отрицательного числа и т.д.;

• вычисления над вещественными числами дают почти всегда неверный результат: насколько неверный – зависит от природы вычислений;

• вещественные числа редко бывают точно равны; из-за ограничения разрядов на мантиссу невозможно точное равенство двух величин; почти всегда имеют место погрешности округления; эти особенности необходимо знать и при программировании избегать их;

• из–за фиксированного числа разрядов на мантиссу и порядок происходит ряд неприятностей; усечение – отбрасывание лишних цифр – плохо, округление – лучше; процессор всегда округляет значение;

• ограничение разрядов порядка приводит к переполнению порядка, к отрицательному переполнению порядка или равенству его нулю.

• количество цифр в мантиссе – точность представления; ненадежные цифры могут привести к серьезной потере точности;

• добавление или вычитание малого (даже относительно малого) числа может никак не сказаться на результате (например, 1Е+15 и 1Е+10); необходимо перестроить формулу вычислений настолько, насколько это позволяет алгоритм или вводить общий масштаб;

• при вычитании близких значений происходит потеря точности;

• последовательность выполнения вычислений может повлиять на результат;

• получение больших чисел может вызвать переполнение порядка, а очень малых – исчезновение числа (превращение в 0);

• если один из операндов вещественный, а другой целый, то перед выполнением операции операнд целого типа приводится к вещественному типу; результат имеет вещественный тип;

• если при выполнении арифметических операций с операндами вещественного типа получается значение, превосходящее максимально допустимое для этого типа, то происходит прерывание программы по переполнению;

• форматированием вывода нужно пользоваться аккуратно, т.к. существует «эффект» форматирования вывода: при выводе вещественного числа происходит «усечение» с округлением дробной части до указанного числа позиций, поэтому можно увидеть «неправильные» результаты: например, значение 1.0000000000Е-10 при выводе в формате: 10:5 дает 0.00000.

45

Программирование – лекция 4 (лекции Стрикелевой Л.В.)