Биометрия_пособие2
.pdfтель должен быть больше 6,63 (см. табл. 4.1).
Вычисление критерия χ2 для двух эмпирических распреде-
лений. Очень часто в биологических исследованиях необходимо сравнить два эмпирических распределения между собой и решить, не принадлежат ли они к одной совокупности. Для лучшего понимания принципа расчетов можно привести простой пример. Необходимо решить, имеются ли различия в высоте бересклета бородавчатого двух областей А и Б. Провели обследование и полученные результаты занесли в таблицу 4.3.
Таблица 4.3
Количество бересклета бородавчатого различной высоты в двух областях
Высота (см) |
Количество измеренных растений |
|
|
Область А |
Область Б |
150-159 |
3000 |
5000 |
160-169 |
20000 |
32000 |
170-179 |
36000 |
34000 |
180-189 |
17000 |
20000 |
Если теперь цифры в таблице заменить соответствующими символами, то таблица примет следующий вид (табл. 4.4).
Таблица 4.4
Общий вид таблицы для вычисления критерия χ2 для двух эмпирических распределений
Значение |
Частота в первой |
Частота во второй |
|
серии |
серии |
х1 |
f1(x1) |
f2(x1) |
х2 |
f1(x2) |
f2(x2) |
… |
… |
… |
хk |
f1(xk) |
f2(xk) |
Расчет показателя критерия χ2 проводят по общей формуле:
21
|
|
1 |
|
f 1n2 f 2n1 |
|
|
2 |
= |
n1n2 |
|
f 1 f 2 |
, |
где f1 и f2 — частота появле- |
χ |
|
|
|
ния одинаковых признаков (значений) в первом и втором ряду; n1 и n2 — общее число признаков (значений) в этих рядах.
Для испытания «нулевой» гипотезы число степеней свободы С = К—1, где К — количество строк в таблице. Оценка полученного значения критерия χ2 проводится, как и в предыдущих случаях, описанных выше.
Контрольные вопросы и задание для самостоятельной работы к теме 4:
1.Для каких целей вычисляется критерий χ2-квадрат?
2.Как с помощью χ2-квадрата испытывается нулевая гипотеза?
3.При проверке влияния (7-ми дневный тест) сточной воды, сбрасываемую в реку Белую в районе города Стерлитамака на Elodea canadensis (использовалось по 30-ть 3-х сантиметровых верхушек растений) были получены данные, которые занесены в таблицу 4.5.
|
|
|
Таблица 4.5 |
|
Рост Elodea canadensis в сточной воде и в контроле |
||||
|
(отстоянная водопроводная вода) |
|||
|
|
|
|
|
Растения в: |
|
Не выросли |
выросли |
|
контроле |
|
10 |
20 |
|
сточной воде |
|
3 |
27 |
|
Вычислить критерий χ2 и оценить его.
Тема 5. Корреляционный анализ
В тех случаях, когда исследователь видит или имеет основания предположить, что изменения двух исследуемых показателей (рядов) как-то связаны между собой, встает задача охарактеризовать эту связь. Такая задача решается с помощью
22
коэффициентов и показателей корреляции. Все корреляционные характеристики решаются в ходе сравнения двух рядов.
Применяя корреляционный анализ, следует иметь в виду, что наличие даже очень сильной корреляционной связи еще не означает существования между сравниваемыми показателями функциональной зависимости типа: «А меняется потому, что изменилось Б». Очень часто корреляция является следствием того, что оба показателя тесно связаны с некоторым третьим, нами не учитываемым фактором: «А и Б изменились потому,
что изменилось В».
Корреляционная связь может быть положительной (прямой), когда оба признака меняются в одном направлении (повышение количества -сапробных гидробионтов с увеличением содержания в воде биогенных веществ и т.д.) и отрицательной (обратной), когда развитие одного явление связано с ослаблением другого (повышение количества -сапробных гидробионтов с уменьшением содержания в воде биогенных веществ и т.д.). Для характеристики вида связи перед коэффициентом корреляции (r) ставят соответствующий знак; знак + обычно пропускают. Если знак отсутствует, то это значит корреляционная связь положительная (прямая). При отрицательной (обратной) связи ставят знак (-).
Для расчета коэффициента корреляции необходимо выписать попарно все показатели: сначала первый - x1, затем связанный с ним второй показатель - y1; количество пар показателей x и y обозначается - n. Формула для расчета коэффициента корреляции имеет вид:
|
xi yi |
|
xiyi - |
|
n |
rxy = |
. |
|
n/(n-1) ( xi2 - ( xi2 / n)) ( yi2 - ( yi2 / n)) |
Для удобства проведения вычислений нужно сформировать таблицу:
|
xi |
yi |
xiyi |
xi2 |
yi2 |
1 |
….. |
….. |
….. |
….. |
….. |
2 |
….. |
….. |
….. |
….. |
….. |
... |
….. |
….. |
….. |
….. |
….. |
23
n |
….. |
….. |
….. |
….. |
….. |
Σ |
|
|
|
|
|
После заполнения таблицы, полученные суммы нужно поставить в вышеприведенную формулу и произвести вычисления.
Ранговые показатели корреляции. Начальным этапом расчетов ранговых показателей является ранжирование сравниваемых рядов (т.е. «приведение их к общему знаменателю»).
Ранжирование - это замена числовых значений ряда порядковыми номерами этих значений при расположении их от большего к меньшему (в порядке убывания).
Если в ряду имеется несколько одинаковых значений, то каждому из них присваивается одинаковый ранг, равный среднему арифметическому номеров, занимаемых этими одинаковыми значениями. Например, ранжируя произвольный ряд данных, состоящий, к примеру, из 12 значений, получаем:
Значения |
14 |
35 |
67 |
75 |
14 |
5 |
78 |
32 |
90 |
14 |
75 |
12 |
|
|
|
|
|
|
|
|
|
|
|
|
|
Ранги |
9 |
6 |
5 |
3,5 |
9 |
12 |
2 |
7 |
1 |
9 |
3,5 |
11 |
|
|
|
|
|
|
|
|
|
|
|
|
|
Ранги двух одинаковых значений 75 в этом примере равны 3,5 ((3 место + 4 место) / 2 = 3,5), ранги значений 14 равны 9
((8+9+10) / 3=9).
Ранговая корреляция Спирмена. Для примера рассмотрим два ряда данных:
X |
3 |
7 |
4 |
9 |
3 |
4 |
4 |
8 |
1 |
6 |
|
|
|
|
|
|
|
|
|
|
|
Y |
15 |
4 |
12 |
6 |
8 |
10 |
8 |
0 |
25 |
4 |
|
|
|
|
|
|
|
|
|
|
|
Таким образом, каждому значению ряда Х соответствует одно значение ряда Y. Проведя с обоими рядами процедуру ранжирования, получаем:
X |
8,5 |
3 |
6 |
1 |
8,5 |
6 |
6 |
2 |
10 |
4 |
Y |
2 |
8,5 |
3 |
7 |
5,5 |
4 |
5,5 |
10 |
1 |
8,5 |
Далее вычисляются разности рангов в сопряженных парах
(X-Y): 6,5; -5,5; 3; -6; 3, 2; 0,5; -8; 9; -4,5. Члены полученного та-
ким образом ряда возводятся в квадрат и суммируются: =(X-
Y)2 = 42,25 + 30,25 +9+36+9+4+ 0,25 + 64 + 81 + 20,25 = 296,00.
24
Полученное значение подставляют в формулу для вычис-
ления ранговой корреляции Спирмена:
6 2
rS = 1 - -----------, N(N2-1)
где - разность рангов попарно сопряженных значений, 2- только что вычисленная сумма квадратов разностей, N - объем сравниваемых рядов (число пар сопряженных значений), - показатель корреляции Спирмена.
В приведенном примере показатель корреляции равен:
6 х 296
rS = 1 - ------------------ = 1 - 1,79 = -0,79. 10 х (100 - 1)
Показатель корреляции имеет отрицательное значение, т.е. чем больше скорость течения реки, тем меньше на данном участке численность планктона. Проверить значимость (достоверность) показателя корреляции можно по формуле:
2,58 |
|
0,69 |
rS хр = ---------- |
(1 - |
------); |
N -1 |
|
N -1 |
Если вычисленное по этой формуле критическое значение меньше, чем полученное значение показателя корреляции или равно ему, то наличие корреляционной связи можно считать достоверным. Подставляя в данную формулу значение N = 10, получаем rS хр = 0,79.
Следовательно, наметившуюся отрицательную зависимость между численностью планктона и скоростью течения реки можно считать достоверной.
Контрольные вопросы и задание для самостоятельной работы к теме 5:
1.В чем сущность корреляционного анализа?
2.Что нужно сделать для расчета коэффициента корре-
ляции?
3.Что такое ранговая корреляция?
4.Как вычисляется ранговая корреляция Cпирмена?
5.Размножение дафний (Daphnia magna) в отстоянной водопроводной воде проводилось дважды (через 1 месяц) в 10-
25
ти повторностях. Эксперимент проводился в 3-х литровых емкостях, в которые помещалось по 30 дафний. Через 2 недели в каждой емкости подсчитывали количество дафний. Результаты подсчетов занесены в таблицу 5.1.
Таблица 5.1.
Результаты экспериментов по изучению размножения дафний в лабораторных условиях
Тест 1 |
95 |
90 |
87 |
84 |
75 |
70 |
61 |
60 |
58 |
55 |
Тест 2 |
92 |
94 |
83 |
79 |
58 |
61 |
47 |
72 |
62 |
68 |
Вычислить и оценить коэффициент корреляции и ранговый коэффициент Спирмена.
Тема 6. Сравнение рядов по ранговому критерию Уилкоксона
Ранговый критерий Уилкоксона позволяет наиболее про-
сто провести сравнение двух совокупностей, закономерности распределения которых неизвестны, по их основной тенденции и проверить существование между ними достоверных различий.
Вычисление этого критерия при числе сравниваемых пар меньше 20 не представляет больших трудностей, при числе пар в связанных выборках больше 20 приходится делать расчеты.
Сначала находят показатель Т, который равен сумме рангов, имеющих отрицательное значение, или разностей, противоположных наблюдаемым в большинстве опытов, а затем ТВ по формуле:
Т - n (n+1)
ТВ = ------------------------------------ |
. |
(2n(n+1)(2n+1))/3
Если полученная величина ТВ больше 1,96, то можно считать, что имеются различия изучаемых двух связанных выборок с уровнем значимости Р<0,05. В случае, если ТВ больше 2,56,
26
то делают вывод о различии с уровнем значимости Р<0,01. Вычисления можно провести следующим образом:
1. Полученные данные (x - значение показателя до опыта и y - значение показателя после опыта) записать в таблицу, причем две связанные величины нужно расположить в одной строке (таблица 6.1);
Таблица 6.I
Пример заполнения таблицы при расчете парного критерия Уилкоксона
x |
y |
x-y |
Ранг |
2 |
5 |
-3 |
2,5 |
7 |
2 |
5 |
5 |
9 |
5 |
4 |
4 |
1 |
4 |
-3 |
2,5 |
4 |
4 |
0 |
1 |
2.Найти разницу между показателями x и y (или наоборот)
икаждому абсолютному значению разности (без учета знака) присвоить в порядке возрастания ранг (свой номер). Если две разности имеют одинаковые значения, то им присваевается ранг, являющийся средней величиной их порядковых значений (сумму порядковых значений делим на число одинаковых вариант);
3.Вычислить Т, определив, каких величин меньше - отрицательных или положительных (в данном случае наименьшее количество отрицательных разностей x-y). В приведенном при-
мере этим величинам соответствуют ранги 2,5 и 2,5. При суммировании этих величин находим Т = 2,5 + 2,5 = 5;
4.Найти ТВ по вышеприведенной формуле, учитывая что n (число пар наблюдений) в данном примере равно 5. Сделав необходимые вычисления ТВ = - 1,6854;
5.Сравнить абсолютное значение ТВ (без учета знака) с теоретическим значением ТВ. В данном случае оно не достоверно.
Контрольные вопросы и задание для самостоятельной работы к теме 6:
1.Что позволяет провести ранговый критерий Уилкоксона?
27
2.Какой показатель находят первым при вычислении критерия Уилкоксона?
3.Как делают вывод о различии между выборками по критерию Уилкоксона?
4.Используя данные задачи из таблицы 5.1, вычислите критерий Уилкоксона и сделайте вывод.
Тема 7. Оценка сходства биоценозов
Очень часто при обработке результатов биоэкологических исследований возникает задача количественно оценить степень сходства нескольких совокупностей, например - сходство двух видов по характеру распределения в разных местообитаниях или, наоборот, - сходство двух или более местообитаний по составу видов.
Для решения подобных задач применяют коэффициенты подобия или сходства, большое количество которых выработано в статистике.
Сравнение биоценозов по формуле Жаккара. Для сравне-
ния биоценозов используют разные методы, например расчеты по формуле Жаккара:
К = C * 100% : (A + B – C), где А – число видов данной группы в первом сообществе, В – во втором, а С – число видов, общих для обоих сообществ.
Биоценозы сравнивают попарно, сопоставляя видовой состав по систематическим группам, например спискам цветковых растений, мхов, лишайников, птиц, млекопитающих, насекомых и др. Сходство выражается в процентах. Так, если в каждом биоценозе по 10 видов данной группы и 5 из них встречается как в одном, так и другом сообществе, то видовое сходство составит 33%, а если общих видов 8 – то 66%.
Экологическая задача. В ходе изучения видового состава трех участков леса были получены следующие данные (смотри таблицу 7.1). Сравните эти три фитоценоза между собой по индексу сходства. Какие фитоценозы имеют наибольшее, а какие наименьшее сходство?
28
|
|
|
|
|
|
|
|
Таблица 7.I |
|
|
|
Видовой состав изученных участков леса |
|
||||||
|
|
|
|||||||
Участок леса №1 |
Участок леса №2 |
Участок леса №3 |
|||||||
1.Ель |
европей- |
1.Ель европейская |
1.Сосна |
обыкно- |
|||||
ская |
|
|
|
2.Дуб черешчатый |
венная |
|
|
||
2.Сосна |
|
обыкно- |
3.Жимолость |
|
2.Береза пушистая |
||||
венная |
|
|
|
4.Лещина |
обыкно- |
3.Липа |
мелколист- |
||
3.Береза |
|
пуши- |
венная |
|
|
ная |
|
|
|
стая |
|
|
|
5.Крушина ломкая |
4.Дуб черешчатый |
||||
4.Осина |
|
|
|
6.Сныть обыкновен- |
5.Лещина |
обыкно- |
|||
5.Крушина ломкая |
ная |
|
|
венная |
|
|
|||
6.Брусника |
|
7.Зеленчук желтый |
6.Бересклет |
боро- |
|||||
7.Черника |
|
|
8.Вейник тростнико- |
давчатый |
|
||||
8.Вейник |
тростни- |
видный |
|
|
7.Рябина |
обыкно- |
|||
ковидный |
|
|
|
9.Осока пальчатая |
венная |
|
|
||
9.Осока |
|
пальча- |
10.Голокучник |
Лин- |
8.Кислица |
обыкно- |
|||
тая |
|
|
|
нея |
|
|
венная |
|
|
10.Голокучник |
|
11.Кислица |
обыкно- |
9.Черника |
|
||||
Линнея |
|
|
|
венная |
|
|
10.Костяника |
||
11.Кислица обык- |
12.Седмичник |
евро- |
11.Ожика |
волоси- |
|||||
новенная |
|
|
|
пейский |
|
|
стая |
|
|
12.Седмичник |
ев- |
13.Майник |
двулист- |
1. |
Вейник |
||||
ропейский |
|
|
ный |
|
|
тростниковидный |
|||
13.Майник |
дву- |
14.Вероника |
лекар- |
12.Сныть |
обыкно- |
||||
листный |
|
|
|
ственная |
|
|
венная |
|
|
14.Вероника |
ле- |
15.Линнея северная |
13.Копытень евро- |
||||||
карственная |
|
16.Лютик кашубский |
пейский |
|
|||||
15.Линнея |
север- |
17.Копытень |
евро- |
14.Мятлик |
дубрав- |
||||
ная |
|
|
|
пейский |
|
|
ный |
|
|
16.Грушанка |
|
18.Щитовник |
муж- |
15. Хвощ лесной |
|||||
округлолистная |
ской |
|
|
16.Фиалка удиви- |
|||||
17.Подъельник |
|
19.Страусник |
|
тельная |
|
||||
18.Кукушкин лен |
|
|
|
17.Осока волоси- |
|||||
19.Хилокомиум |
|
|
|
|
стая |
|
|
||
|
|
|
|
|
|
|
18.Грушанка округ- |
||
|
|
|
|
|
|
|
лолистная |
|
|
|
|
|
|
|
|
|
19.Грушанка малая |
29
Так как показатели А и В для всех типов леса одинаковы (n = 19), то остается определить показатель С для каждой пары сравнения:
С1-2 = ………..
С1-3 = ………..
С2-3 = ………..
Далее нужно рассчитать коэффициенты Жаккара K12 для каждой пары. Если число дробное, округлите его до целого.
K1-2 = ……. % = ……. %
= ……. %
Полученные коэффициенты нужно расположить в порядке убывания степени сходства:
К=……. % (наибольшее сходство)
К=……. % (умеренное сходство)
К=……. % (наименьшее сходство)
Коэффициент Серенсена-Чекановского для вычисления сходства по качественным признакам рассчитывают по формуле: Ks = 2a/(2a + b + c), где a - число общих признаков 2-х сравниваемых совокупностей, b - число признаков, принадлежащих только 1-й совокупности, c - число признаков, принадлежащих только 2-й совокупности.
Например, при сравнении двух сообществ животных, одно из которых состоит из 18, а другое - из 21 вида, причем 15 видов встречаются в обоих сообществах: Кs = 2 х 15/(2 х 15 + 3 +
6) = 30/39 = 0,769.
Данный коэффициент принимает значения от 0 до 1.
Контрольные вопросы и задание для самостоятельной работы к теме 7:
1.В каких случаях применяется формула Жаккара?
2.Для вычисления чего применяется коэффициент Се- ренсена-Чекановского?
3.Составьте задачи, используя собственные данные по изучению биоценозов на применение формулы Жаккара и коэффициента Серенсена-Чекановского.
30