5. Обработка равноточных наблюдений

Если серия измерений навигационного параметра проводилась штурманом с помощью одного и того же прибора, в небольшой интервал времени и в одинаковых условиях, то такие наблюдения можно назвать равноточными.

Измерениям присущи погрешности: систематические, случайные, грубые или промахи. После исключения влияния систематических погрешностей, определяют и исключают промахи.

Исключить из результатов наблюдений случайные погрешности принципиально невозможно. Оценить их величину и уменьшить влияние на принимаемое для дальнейших расчетов значение измеряемого параметра можно путем соответствующей обработки серии равноточных измерений.

Наиболее исчерпывающе случайные погрешности описываются законом распределения. Но на практике обычно ограничиваются их числовыми характеристиками: математическим ожиданием и дисперсией или средней квадратической погрешностью (СКП).

Введя соответствующие поправки и исключив влияние систематических погрешностей, рассмотрим один из способов выявления и отбрасывания из серии полученных результатов промахов.

Для этого исключим из серии измерений результат х', подозреваемый на промах (наиболее отличающийся от других). По оставшимся измерениям определяем размах

R = Хmах - Xmin (5.1)

Вычисляем разность х'-х", где х " - ближайшее к х' измерение - х_тax или x_min.

Если | х'-х"| >Q*R, то х'- промах. Исключаем его из результатов измерений.

В противном случае отброшенное измерение оставляем в серии и приступаем к вычислению числовых характеристик. Численное значение коэффициента Q выбирается из таблицы Приложения 4 по числу измерений п-1, оставшихся после исключения подозреваемого на промах значения х'.

После того, как промах определен и исключен, необходимо проверить на промах измерение, наиболее отличающееся от оставшихся. Процедура повторяется до тех пор, пока не окажется, что наиболее отличающееся от остальных измерение не является промахом.

В качестве оценки математического ожидания или наиболее вероятного значения для серии равноточных измерений принимают среднее арифметическое

где x_i - i-тое значение навигационного параметра; п - число измерений в серии.

Когда результаты измерений выражаются многозначными числами, среднее арифметическое целесообразно вычислить по формуле

где х_у - удобно выбранное число.

Среднюю квадратическую погрешность одного измерения т можно определить:

а) по формуле Бесселя для вероятных отклонений:

где V_i= x_i – x_0.

б) по размаху

m = ±k*R,

где k - коэффициент, зависящий от числа измерений; п - выбирается из таблицы Приложения 4;

R - размах = х_тах - х_тin

СКП наиболее вероятного значения - среднего арифметического равна

Предельная погрешность измерений, подчиняющихся нормальному закону распределения, вычисляется по формуле

Д_пр = ±3*m. (5.7)

Пример 5.1 Измерена серия высот светила над видимым горизонтом. Введены все соответствующие поправки, т.е. исключено влияние систематических погрешностей. Удалить промахи, рассчитать числовые характеристики.

ОС₁= 17°21,3' ОС₆= 17°21,7'

ОС₂= 17 21,8 ОС₇ = 17 16,3

ОС₃= 17 25,9 ОС₈ = 17 21,5

ОС₄= 17 21,5 ОС₉= 17 21,1

ОС₅= 17 21,3 ОС₁₀= 17 21,3.

Решение

Предположим, что измерение ОС₃ - промах. Отбросим его и определим по формуле (5.1) размах:

R=17°21,8'-17°16,3' = 5,5'.

Вычисляем разность х'-х":

ОС – ОС_mах = 17°25,9' - 17°21,8' = 4,1'.

Из таблицы Приложения 4 по п = 9 выбираем Q = 0,56 и рассчитываем

Q* R = 0,56*5,5' = 3,1'.

Так как | OC'-OC_min| >Q*R (4,1 '> 3,1'), то измерение ОС₃ -промах. Исключаем его из имеющейся серии измерений.

Проверим на промах ОС₇. В этом случае

Я =17°21,8'- 17°21,1' = 0,7'.

Вычисляем разность х'-х ":

c = 17° 16,3' - 17°21,1' = - 4,8'

По n=8 (после исключения ОС₃ осталось 9 измерений) выбираем Q =0,59 и рассчитываем Q*R = 0,59*0,7' = 0,41'.

Так как | OC'-OC_min|>Q*R (4,8' > 0,41'), то измерение ОС₇ -промах.

Исключаем его из имеющейся серии измерений.

Из оставшихся измерений ОС₉ наиболее отличается от остальных. Проверим его на промах.

R =17°21,8'-17°21,3'=0,5';

Q = 0,64; (по л = 7)

Q*R = 0,64*0,5' = 0,32';

OC'-OC_min = 17°21,1' - 17°21,3' = -0,2'.

Так как | OC'-OC_min| <Q*R (0,2' < 0,32'), то измерение ОС₉ не является промахом. Оставляем его в серии измерений.

Для удобства дальнейшие вычисления будем вести в табличном виде, предварительно перенумеровав измерения

№	ОСi	Vi = OC i – OC0	Vi^2
1	17°21,3'	-0,14	0,0196
2	17 21,8	+0,36	0,1296
3	1721,5	+0,06	0,0036
4	17 21,3	-0,14	0,0196
5	17 21,7	+0,26	0,0676
6	17 21,5	+0,06	0,0036
7	17 21,1	-0,34	0,1156
8	17 21,3	-0,14	0,0196
OC0	17°21,44'	∑= - 0,02	∑ = 0,3688

Для вычисления ОС₀ по формуле (5.3) возьмем ОС_у = 17°21,0', тогда ОС₀=17°21,0' +(0,3+0,8+0,5+0,3+0,7+0,5+0,1+0,3)' / 8 = 17°21,44'.

Примечание. Промежуточные вычисления следует выполнять с точностью на порядок выше исходных данных,

а) Рассчитываем СКП одного измерения по формуле Бесселя (5.4)

т = ± = ±0.23' .

б) Рассчитываем СКП одного измерения но размаху формула (5.5)

R = 17°21,8'-17°21,1' = 0,7'; Значение коэффициента k из таблицы

Приложения 4 для n = 8 равняется 0,351, тогда

т = ±0,351*0,7' = ±0,24'.

Близость оценок СКП по формулам (5.4) и (5.5) является проверкой правильности расчетов.

По формуле (5.6) определим СКП наиболее вероятного значения - среднего арифметического

m₀ = ±0,23 / =±0,08'.

Предельную погрешность одного измерения данной серии определим по формуле (5.7)

Д_пр = ± 3 * 0,23 = ± 0,69'.

Приложение 4

Коэффициенты метода размаха

п	5	6	7	8	9	10
Q	0.78	0.70	0.64	0.59	0.56	0.53
k	0.430	0.395	0.370	0.351	0.337	0.325

Q - для определения промахов; k - для расчета СКП.

В задачах №№ 331-360 даны результаты серий измерений навигационных параметров. Систематические погрешности исключены. Выявить и исключить промахи. Рассчитать числовые характеристики по алгоритму, приведенному в примере.

Измерена серия пеленгов (П)
№		П1		П 2		П3		П4		П 5		П6		П7			П8			П9			П10
331		45,6°		45,0°		45,8°		47,6°		46,0°		46,5°		46,0°			45,5°			45,0°			45,0°
332		68,6		67,0		69,0		69,2		68,7		68,0		68,4			69,0			69,8			69,2
333		159,6		159,8		160,4		160,6		161,4		160,0		159,5			159,2			160,2			160,8
334		25,8		26,0		24,8		24,5		23,2		25,3		26,4			26,5			25,9			25,2
335		214,8		215,0		216,2		216,8		214,5		214,8		218,4			215,3			216,0			214,2
336		89,0		89,5		89,0		90,0		90,6		91,0		91,2			89,4			89,7			90,0
337		256,5		255,0		255,5		255,0		256,0		256,0		257,5			257,0			256,0			253,3
338		85,0		85,0		86,0		85,4		86,0		84,3		85,7			86,4			86,5			86,0
339		121,2		121,0		121,8		121,5		122,0		122,2		120,4			122,4			122,4			122,0
340		5,8		5,5		5,0		5,5		5,1		4,7		4,8			3,7			4,6			4,8
341		10,5		11,0		11,6		10,1		11,8		9,0		10,0			12,0			11,8			11,4
342		71,8		72,6		73,5		74,7		72,9		70,5		70,9			72,0			72,5			73,0
343		121,8		119,8		120,5		120,2		121,5		122,0		122,2			120,2			120,9			121,4
344		39,5		40,4		41,4		42,0		43,6		40,0		39,8			41,0			42,0			42,0
345		321,6		321,0		321,0		322,0		322,5		324,0		322,6			323,0			322,5			321,8
Измерена серия дистанций (D) в кабельтовых
№	D1		D2		D3		D4		D5		D6		D7		D8			D9			D10
346	152,7		153,0		153,1		152,8		153,8		151,6		154,1		154,4			153,5			153,1
347	246,0		245,1		246,8		246,7		244,6		243,7		248,9		245,0			246,8			246,5
348	85,8		86,2		86,7		86,1		86,7		87,0		87,4		86,7			86,9			85,5
349	112,0		117,0		111,2		113,2		113,8		111,8		111,2		114,0			114,8			113,6
350	38,7		38,1		38,9		36,9		39,4		38,0		39,6		37,7			38,7			39,4
351	168,5		167,0		164,3		166,1		166,9		167,9		168,7		169,6			169,9			170,4
352	120,5		121,8		120,9		122,0		122,0		124,5		123,1		122,5			121,9			122,2
353	79,8		80,1		81,5		81,0		80,8		80,5		81,0		82,2			80,4			80,8
354	145,5		145,1		145,9		146,2		144,0		146,6		145,6		145,1			145,8			146,7
355	196,8		198,6		195,2		195,9		196,3		197,6		197,0		198,1			197,4			197,0
356	64,6		63,2		63,8		63,1		64,2		65,2		61,6		64,0			65,1			64,6
357	88,7		89,2		88,9		91,4		92,0		90,7		88,7		89,9			87,2			92,1
358	134,9		136,4		135,6		125,0		136,9		134,5		134,0		133,5			135,2			137,1
359	120,5		121,8		120,9		122,0		122,0		123,1		122,5		119,4			121,9			122,2
360	60,8		61,8		64,1		62,5		61,5		61,0		61,8		60,0			61,4			62,0