МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ

НАЦИОНАЛЬНЫЙ ИССЛЕДОВАТЕЛЬСКИЙ ЯДЕРНЫЙ УНИВЕРСИТЕТ «МИФИ»

ИНСТИТУТ АТОМНОЙ ЭНЕРГЕТИКИ

Г. К. Игнатенко, И. А. Сдельникова

СТАТИСТИЧЕСКАЯ ОЦЕНКА ДАННЫХ ЭКОЛОГИЧЕСКОГО МОНИТОРИНГА С ПРИМЕНЕНИЕМ EXCEL

Рекомендовано УМО «Ядерные физика и технологии» в качестве учебного пособия

для студентов высших учебных заведений

Москва 2010

4.ОБРАБОТКА РЕЗУЛЬТАТОВ ЭКСПЕРИМЕНТА ДЛЯ ПОЛУЧЕНИЯ МАТЕМАТИЧЕСКИХ МОДЕЛЕЙ

3

_____

4

1. ПЕРВИЧНАЯ ОБРАБОТКА РЕЗУЛЬТАТОВ МОНИТОРИНГА

1.1. Общие сведения

Обработка данных контроля природной среды проводится с помощью методов прикладной статистики – дисперсионного анализа, регрессионного анализа и т.д. Следует отметить, что формальное применение методов статистики без анализа их пригодности для обработки конкретного типа данных приводит к совершенно невероятным результатам. Наибольшее значение для исследования природной среды имеет регрессионный анализ, изучающий зависимости между наблюдаемыми случайными величинами.

Целью большинства наблюдений (мониторинга) является изучение влияния различных воздействий на окружающую среду. Эти воздействия называют факторами. Факторы могут быть основными и побочными, посторонними. Основные факторы участвуют в наблюдениях, контроле, эксперименте. Одни из них варьируются при исследовании процесса, и тогда их называют варьируемыми факторами, другие стабилизируются на определенном уровне. Побочные, посторонние факторы желательно, по возможности, устранять. Однако все побочные факторы устранить невозможно, поэтому результат единичного измерения представляет собой случайную величину, которая может принимать то или иное значение, причем заранее неизвестно, какое именно. Результат измерения по той же причине всегда отличается от истинного значения (истинного результата), т.е. такого значения измеряемой величины, которое можно было бы получить при воздействии на объект исследования только основных факторов [1].

Случайная величина, принимающая отделенные друг от друга значения, которые можно пронумеровать, называется дискретной. Примером дискретной величины может быть количество измерений контролируемых ингредиентов, как во времени, так и в пространстве. Случайную величину, возможные значения которой непрерывно заполняют некоторый промежуток, называют непрерыв-

5

ной (например, плотность распределения контролируемого ингредиента на территории в заданном интервале времени).

Отклонение результата измерения от истинного результата называется ошибкой опыта. Ошибка опыта, как и результат измерения, является случайной величиной. В надежде избавиться от ошибок экспериментатор пытается, по возможности, устранить, учесть или компенсировать действие тех или иных мешающих факторов, стабилизирует условия опытов, калибрует измерительные приборы и т. д. Однако таким путем можно полностью избавиться только от части ошибок, называемых систематическими. Это – ошибки, повторяющиеся по всей серии наблюдений и связанные в основном с наличием факторов, действующих постоянно и в одном направлении.

Наряду с систематическими ошибками в любом эксперименте присутствуют еще и случайные ошибки, вызываемые действием многочисленных факторов, которые проявляются нерегулярно, причины возникновения их неизвестны и они по-разному сказываются на результатах эксперимента. Такие факторы называются случайными. Каждый из них вносит в случайную ошибку малый вклад, поэтому выявление их бесполезно, да и затруднительно.

Кроме систематических и случайных, различают грубые ошибки, или выбросы, являющиеся браком экспериментатора при повторении опытов. Грубые ошибки связаны с резким нарушением условий экспериментов или просчетом экспериментатора при отдельном наблюдении. Они должны быть отброшены на основании проверки по специальным критериям, которые будут рассмотрены ниже.

Опыты, проводимые в одинаковых условиях при постоянных значениях основных факторов, называются однородными. Однородность испытаний является одним из важнейших условий правильного применения статистических методов обработки наблюдений. Чтобы обеспечить однородность опытов, нужно каждую серию проводить на одной и той же установке, по неизменной методике, одними и теми же исследователями и в реальный срок. При этом надо учесть, что многие факторы заметно меняются во времени и вызывают дрейф выходной измеряемой величины. Если избе-

6