2.4. Формат Decimal.

Decimal- десятичный формат. Результат всегда представляется в десятичной форме. Количество выводимых на экран десятичных разрядов зависит от величины вычисленного численным процессором числа А, но, разумеется, не превышает длины мантиссы -15 (17). Правая часть диалогового окна содержит поле:

“Number of decimal places” – число десятичных разрядов – от 0 до 15 (в Mathcad 12 – до 17). По умолчанию это число равно 3. Данная опция интерпретируется Mathcad так же как и в формате General. Заданное здесь число m₃ определяет количество разрядов после точки, точнее максимальное число разрядов, так как дробная часть числа А может быть меньше, чем заданное число разрядов m₃.

Если пользователь хочет, чтобы все m₃ разрядов после точки были заполнены, надо включить индикатор “Show trailing zeros”, чтобы недостающие знаки заменялись нулями.

Как поступит численный процессор, если число А требует для своей записи (без использования экспоненциальной формы) более чем 15 (17) разрядов? В формате Decimal число будет округлено. Числа в разрядах, больших чем 15 (17) будут заменены нулями:

777888999123235555 = 777888999123235000

(версия 2001i).

2.5. Формат Fraction.

Fraction- дробный формат. Результат вычислений представляется в виде несократимых дробей. Этот формат позволяет производить вычисления с обычными (т.е. не десятичными дробями). Правая часть диалогового окна содержит следующие элементы:

“Level of accuracy” – уровень точности. Число от 0 до 15 (по умолчанию – 12). Это значение задает погрешность при преобразовании численным процессором числа А к отображаемому на экране числу в форме несократимой дроби.

“Use mixed numbers” – включите этот индикатор для того, чтобы работать только с правильными дробями. В этом случае в результирующей дроби будет выделяться целая часть, т.е.будет преобразовано в.

3. Точность представления результатов вычислений.

Обратимся к вкладке Tolerance. В этом разделе вы увидите два поля:

“Сomplex threshold” – порог комплексных чисел. Имеется в виду число m, которое определяет по соотношению действительной и мнимой частей, когда следует принять равной нулю при отображении на экране действительную или мнимую часть полученного численным процессором комплексного числа A=a+b·i. Число m может принимать значения от 0 до 63 (по умолчанию – 10). Это означает, что:

если , тоа полагаем равным нулю

если , тоb полагаем равным нулю

“Zero threshold” – порог нуля. В этом поле задается число k от 0 до 307 (по умолчанию – 15). Результаты, чья абсолютная величина меньше, чем 10^-k на экране представляются как 0 (при этом внутреннее представление результата не меняется).

Замечание. Эта опция доступна только в том случае, если не выделен конкретный результат. То есть, прежде чем вызвать диалоговое окно “Result Format”, щелкните мышью на пустом месте документа.

Порог нуля на много порядков меньше, чем машинный нуль. Эта опция введена для того, чтобы уменьшить стресс пользователя от неизбежной погрешности вычислений. Пользователь хорошо знает, что

sin(π) = 0

Но если увеличить значениеk, к примеру, k=17, то он увидит на экране вместо ожидаемого нуля:

(если в поле Number of decimal places формата General стоит число 6). Вы можете выбрать другой формат и увеличить Number of decimal places, но точность вычислений от этого не изменится и ожидаемого нуля вы не увидите.

Отметим, что, предлагаемые по умолчанию пороговые значения в версии Mathcad 12 не изменились.

В заключение еще раз подчеркнем, что Zero threshold не влияет на точность вычислений, которая для численного процессора определяется длиной мантиссы.