1.3 Правила обработки результатов измерений

1. Обработка результатов прямых технических измерений.

а) Измерение проводится однократно. В качестве оценки истинного значения измеряемой величины принимается измеренное значение X_изм.

б) В качестве оценки точности измерения принимается систематическая погрешность прибора.

в) Результат измерений округляют по правилам округления (см. пп. 1.4).

г) При записи результата измерений указывается доверительный интервал с указанием единицы измерения

X = X_изм  X_сист. (1.13)

д) Вычисляют относительную погрешность _X (1.2).

2. Обработка результатов прямых лабораторных измерений.

a) В результате n опытов получается набор значений физической величины X₁, X₂, …, X_i, …, X_n.

б) В качестве оценки истинного значения принимают среднее арифметическое

.

в) Абсолютная погрешность измерения складывается из систематической и случайной погрешности

X = X_случ+X_сист. (1.14)

Случайную погрешность определяют по формулам (1.11-1.12). В качестве систематической погрешности студент принимает приборную погрешность.

г) Результат измерений округляют по правилам округления (см. пп. 1.4).

д) Результат измерения записывают в стандартном виде, указывая доверительный интервал, единицу измерения и доверительную вероятность

X = X_ср  X, P= … . (1.15)

е) Вычисляют относительную погрешность _X (1.2).

3. Обработка результатов косвенных измерений.

Y=f(A,B,C,…). (1.16)

а) В качестве наилучшей оценки Y принимают величину

Y_ср=f(A_ср,B_ср,C_ср,…). (1.17)

б) Для того чтобы определить погрешность Y косвенного измерения, необходимо обработать результаты прямых измерений (см. пп. 1.2):

A = A_ср  A, P= … ,

B = B_ср  B, P= … , (1.18)

C = C_ср  C, P= … ,

……………………. .

в) Погрешность косвенного измерения Y оценивают по формуле

(1.19)

или

. (1.20)

г) Результат измерений округляют по правилам округления (см. пп. 1.4) и записывают в стандартном виде с указанием единицы измерения

Y = Y_ср  Y. (1.21)

д) Вычисляют относительную погрешность _Y (1.2).

Пример. Допустим, измеряется электрическое сопротивление некоторого проводника. При этом используется закон Ома

R=U/I. (1.22)

Напряжение измеряется вольтметром, сила тока – амперметром. Величина R, полученная путем подстановки значений напряжения и силы тока в закон Ома, будет косвенно измеренной величиной.

В качестве оценки измерения принимают величину R_ср= U_ср/I_ср.

Если использовать выражение (1.19) для нахождения погрешности R, то придем к формуле

. (1.23)

Найдем частные производные выражения (1.22)

(1.24)

и подставим в (1.23)

(1.25)

Вычисление частной производной от некоторой функции по некоторой переменной отличается от вычисления обыкновенной производной тем, что все остальные переменные функции считаются постоянными.

Если использовать выражение (1.20), то необходимо выражение (1.22) прологарифмировать

ln R = ln U – ln I, (1.26)

взять частные производные от (1.26)

(1.27)

и подставить в выражение (1.20). При этом получим

. (1.28)

Получится результат, аналогичный (1.25).

1.4 Правила округления результатов измерения

1. При записи результата промежуточного расчета его округляют, по крайней мере, на один порядок точнее, чем точность исходных данных.

Пример. Пусть требуется записать результат расчета X=YZ, где Y=0,00785, Z=5492250. В результате расчета получается: X=43114,1625. Исходное число Y записано с точностью до трех значащих цифр, а Z – с точностью до шести значащих цифр. Наибольшая точность в исходных данных – шесть значащих цифры. Результат вычисления должен быть записан на один порядок точнее. Следовательно, результат расчета необходимо округлить таким образом, чтобы в нем присутствовало не менее семи значащих цифр. Ответ: X=43114,16, либо точнее. Все дальнейшие расчеты необходимо проводить с не меньшей точностью.

2. При записи результата измерения в первую очередь округляется погрешность. Погрешность округляется до двух значащих цифр, если первая из них единица или двойка. Погрешность округляется до одной значащей цифры во всех остальных случаях.

Пример 1. Погрешность X=0,05789. Первая значащая цифра 5. Следовательно, округляем до одной значащей цифры. Ответ: X=0,06.

Пример 2. Погрешность X=1789. Первая значащая цифра 1. Следовательно, округляем до двух значащих цифр. Ответ: X=1800.

Округление производится из следующих соображений: погрешность невозможно рассчитать, ее можно оценить. Она указывает порядок ошибки. Все остальные цифры неточные.

3. После округления погрешности округляется оценка измеренной величины. Она округляется до того же порядка, что и погрешность.

Пример 1. X=34,7980,05789. После округления: X=34,800,06. Погрешность округлена до сотых, следовательно, оценка измеренной величины также должна быть округлена до сотых (до того же порядка). В данном примере ноль в выражении для оценки измерения после округления указывается обязательно.

Пример 2. X=347981789. После округления: X=348001700. Погрешность округлена до сотен, следовательно, оценка измеренной величины также должна быть округлена до сотен (до того же порядка). Либо X=(34,81,7)10³.