1.6 Стандартное отклонение

В ГОСТ Р ИСО 5725-2 основное внимание было сосредоточено на оценке стандартных отклонений при работе в условиях повторяемости или воспроизводимости. Однако в обычной лабораторной практике требуется рассмотрение различий между двумя или большим числом результатов измерений, и для этого требуется некая мера, близкая скорее к критическому различию, чем к стандартному отклонению.[2]

  Мера, основывающаяся на суммах или разностях из n независимых случайных величин, каждая из которых характеризуется стандартным отклонением σ, будет иметь стандартное отклонение σ . Предел воспроизводимости (R) или предел повторяемости (r) - расхождения между двумя результатами измерений; для них стандартное отклонение составит σ .

      Обычно в статистике для рассмотрения различия между этими двумя случайными величинами используют множитель f перед стандартным отклонением, то есть fσ . Величина f (называемая коэффициентом критического диапазона) зависит от доверительного уровня вероятности и закона распределения случайной величины. Для нормального распределения на уровне вероятности 95% коэффициент f равен 1,96, и f  тогда равен 2,77.     

   Процедура оценки прецизионности основывается на оценке истинных стандартных отклонений, в то время как сами истинные стандартные отклонения остаются неизвестными. Следовательно, в статистической практике они должны быть обозначены скорее через S, чем через σ. Однако, если при этом предусматривается использование процедур, данных в ГОСТ Р ИСО 5725-1 и ГОСТ Р ИСО 5725-2, то эти оценки будут основываться на существенном количестве результатов измерений и дадут наилучшую информацию, которую можно иметь об истинных значениях стандартных отклонений. В других рассматриваемых ниже случаях для оценок стандартных отклонений, основанных на более ограниченных данных, используют символ S (оценка стандартного отклонения). Таким образом, лучше использовать символ a для обозначения значений, полученных из полного эксперимента по оценке прецизионности, и воспринимать его как истинное стандартное отклонение, с которым будут сопоставляться другие оценки (S).

           Исходя из 1.5.1-1.5.3, сопоставление разностей двух результатов измерений, полученных в условиях повторяемости или воспроизводимости, должно осуществляться с пределом повторяемости r=2,8σ_r или с пределом воспроизводимости R=2,8σ_R

2 Практическая часть

2.1 Форма а

Все имеющиеся результаты измерений сводим в одну форму А (Таблица 1). Она имеет p строк с индексами i= 1, 2, ..., p (представляющих p лабораторий, которые сообщили данные) и q столбцов с индексами  j= 1, 2, ..., q (представляющих  уровней в возрастающей последовательности).

Исходные данные представлены в Таблице 1.

Таблица 1 - Исходные данные

А	1	2	3
оператор 1	0,2551	0,3602	0,3991
	0,2203	0,3810	0,4115
	0,1774	0,2295	0,2936
	0,2030	0,2519	0,4937
	0,2052	0,2917	0,3952
	0,2594	0,2756	0,4027
	0,2248	0,3213	0,4105
	0,1467	0,2790	0,4763
	0,1711	0,2506	0,3420
	0,2036	0,2692	0,4309
оператор 2	0,2108	0,2760	0,4085
	0,2362	0,3427	0,4228
	0,2545	0,2693	0,3869
	0,2225	0,3618	0,4654
	0,2141	0,2183	0,3851
	0,2137	0,2321	0,4188
	0,2023	0,2883	0,4120
	0,2069	0,2912	0,4240
	0,2071	0,2437	0,4027
	0,2419	0,2879	0,3912

Продолжение Таблицы 1

оператор 3	0,1066	0,1183	0,1358
	0,1070	0,1074	0,0960
	0,0786	0,0950	0,0993
	0,0965	0,0925	0,1103
	0,0765	0,1113	0,1129
	0,0828	0,1112	0,1092
	0,0782	0,1162	0,1111
	0,0728	0,1166	0,1265
	0,0533	0,1145	0,1181
	0,0623	0,1135	0,1240
оператор 4	0,0063	0,1145	0,3121
	0,0065	0,1112	0,0617
	0,0637	0,1092	0,0093
	0,0396	0,0487	0,0232
	0,1440	0,0487	0,0353
	0,0358	0,0630	0,0376
	0,0257	0,9090	0,0530
	0,0283	0,0759	0,5280
	0,0091	0,0271	0,0816
	0,0120	0,0284	0,0495
оператор 5	0,1124	0,1480	0,1480
	0,1261	0,1112	0,1594
	0,1330	0,1288	0,1454
	0,1351	0,1033	0,1269
	0,1234	0,1752	0,1333
	0,1629	0,1887	0,1355
	0,1496	0,1896	0,1355
	0,1471	0,1464	0,1372
	0,1106	0,1127	0,1242
	0,1318	0,1122	0,1200
оператор 6	0,0006	0,1242	0,1387
	0,1243	0,1444	0,1989
	0,1045	0,2287	0,2109
	0,1296	0,1555	0,2099
	0,1104	0,1627	0,1954
	0,0968	0,1342	0,1947
	0,0894	0,0075	0,1961
	0,0810	0,1896	0,1901
	0,1632	0,1389	0,2709
	0,1684	0,1181	0,2634
оператор 7	0,1599	0,1393	0,2738
	0,2023	0,1689	0,3108
	0,2418	0,1779	0,2376
	0,1564	0,0942	0,3219
	0,1224	0,1820	0,2331
	0,2452	0,3023	0,2087
	0,2181	0,2847	0,2317
	0,1725	0,1958	0,2137
	0,1619	0,1998	0,2582
	0,1710	0,1990	0,2565

где n_ij - количество результатов измерений в базовом элементе (ячейке) для лаборатории i на уровне j;

 y_ijk - любой из этих результатов измерений (k= 1, 2, ... , n_ij); 

 _j - количество лабораторий, отчитавшихся по крайней мере одним результатом измерений для уровня j.