Статистические оценки результатов наблюдений

Содержание

1. ПЕРВИЧНАЯ ОБРАБОТКА РЕЗУЛЬТАТОВ МОНИТОРИНГА.. 5

1.1. Общие сведения. 5

1.2. Статистические оценки результатов наблюдений. 7

1.3. Расчет доверительного интервала для математического ожидания. 10

1.4. Определение необходимого объема выборки. 13

1.5. Отбрасывание сомнительных наблюдений. 16

1.6. Проверка гипотезы об однородности двух дисперсий. 17

1.7. Проверка однородности нескольких дисперсий, найденных по выборкам одинакового объема 19

1.8. Проверка однородности нескольких дисперсий, найденных по выборкам различного объема 20

1.9. Проверка однородности средних. 21

1.10. Проверка нормальности распределения. 22

1.11. Коэффициент корреляции. 24

1.12. Ранговая корреляция. 26

1.13. Обработка экспертных оценок при ранжировании. 28

2. СТАТИСТИЧЕСКАЯ ОБРАБОТКА ДАННЫХ МОНИТОРИНГА В СИСТЕМЕ ТАБЛИЧНОГО РЕДАКТОРА EXCEL……………………………31

2.1. Проверка воспроизводимости (однозначности) наблюдаемых результатов………………………………………………………………………….31

2.2. Дисперсионный анализ данных……………………………………38

2.3. Корреляционный анализ данных…………………………………...41

3. ОСНОВНЫЕ ПОНЯТИЯ И ЗАДАЧИ ЭКСПЕРИМЕНТАЛЬНЫХ ИССЛЕДОВАНИЙ В ЭКОЛОГИИ. 31

3.1. Активные и пассивные, однофакторные и многофакторные эксперименты 44

3.2. Основные задачи планирования эксперимента. 49

4. ОБРАБОТКА РЕЗУЛЬТАТОВ ЭКСПЕРИМЕНТА ДЛЯ ПОЛУЧЕНИЯ МАТЕМАТИЧЕСКИХ МОДЕЛЕИ ИССЛЕДУЕМЫХ ПРОЦЕССОВ.. 52

4.1. Основные виды математических моделей, применяемых при исследованиях 52

4.2. Метод наименьших квадратов для моделей с одной переменной. 58

4.3. Метод наименьших квадратов для многофакторных экспериментов. 66

4.3.1. Случай линейной регрессионной модели с k варьируемыми факторами. 66

4.3.2. Составление системы нормальных уравнений для регрессионных моделей в виде многочленов порядка выше первого. 71

4.3.3. Обобщение МНК на случай регрессионных моделей произвольного вида, линейных по параметрам 73

4.3.4. Применение ЭВМ для расчета коэффициентов регрессионной модели. 75

4.4. Об интервале съема данных и продолжительности пассивного эксперимента 76

4.5. Статистический анализ уравнения регрессии. 78

4.5.1. Дисперсия воспроизводимости. 78

4.5.2. Оценка точности, значимости коэффициентов регрессии и интерпретации результатов. 80

4.5.3. Проверка адекватности регрессионной модели. 84

4.5.4. Последовательность действий исследователя при проведении эксперимента с целью построения регрессионной модели объекта. 87

4.6. Пример обработки результатов экспериментальных исследований. 88

5.ПОСТРОЕНИЕ МНОГОФАКТОРНОЙ ЛИНЕЙНОЙ РЕГРЕССИОННОЙ МОДЕЛИ В EXCEL………………. …94

6.КУЛЬТУРА ПРЕДСТАВЛЕНИЯ ЧИСЛОВЫХ ЗНАЧЕНИЙ ИЗМЕРЕНИЙ И ВЫЧИСЛЕНИЙ…………………………………………………98

7.КОНТРОЛЬНОЕ ЗАДАНИЕ…………………………………………101

8. Приложение 1. МЕТОДИЧЕСКИЕ РЕКОМЕНДАЦИИ ПРИ ОЦЕНКЕ СОСТОЯНИЯ ЗАГРЯЗНЕНИЯ

АТМОСФЕРЫ НАСЕЛЕННЫХ МЕСТ…………………………………103

9.Приложение 2……………………………………………………………119

10.Приложение 3…………………………………………………………..121

11.Приложение 4……………………………………………………… …122

Литература. …….123

ПЕРВИЧНАЯ ОБРАБОТКА РЕЗУЛЬТАТОВ

МОНИТОРИНГА

Общие сведения

Обработка данных контроля природной среды проводится с помощью методов прикладной статистики – дисперсионного анализа, регрессионного анализа и т.д. Следует отметить, что формальное применение методов статистики без анализа их пригодности для обработки конкретного типа данных приводит к совершенно невероятным результатам. Наибольшее значение для исследования природной среды имеет регрессионный анализ, изучающий зависимости между наблюдаемыми случайными величинами.

Целью большинства наблюдений (мониторинга) является изучение влияния различных воздействий на окружающую среду. Эти воздействия называют факторами. Факторы могут быть основными и побочными, посторонними. Основные факторы участвуют в наблюдениях, контроле, эксперименте. Одни из них варьируются при исследовании процесса, и тогда их называют варьируемыми факторами, другие стабилизируются на определенном уровне. Побочные, посторонние факторы желательно, по возможности, устранять. Однако все побочные факторы устранить невозможно, поэтому результат единичного измерения представляет собой случайную величину, которая может принимать то или иное значение, причем заранее неизвестно, какое именно. Результат измерения по той же причине всегда отличается от истинного значения (истинного результата), т.е. такого значения измеряемой величины, которое можно было бы получить при воздействии на объект исследования только основных факторов [1].

Случайная величина, принимающая отделенные друг от друга значения, которые можно пронумеровать, называется дискретной. Примером дискретной величины может быть количество измерений контролируемых ингредиентов, как во времени, так и в пространстве. Случайную величину, возможные значения которой непрерывно заполняют некоторый промежуток, называют непрерывной (например, плотность распределения контролируемого ингредиента на территории в заданном интервале времени).

Отклонение результата измерения от истинного результата называется ошибкой опыта. Ошибка опыта, как и результат измерения, является случайной величиной. В надежде избавиться от ошибок экспериментатор пытается, по возможности, устранить, учесть или компенсировать действие тех или иных мешающих факторов, стабилизирует условия опытов, калибрует измерительные приборы и т. д. Однако таким путем можно полностью избавиться только от части ошибок, называемых систематическими. Это – ошибки, повторяющиеся по всей серии наблюдений и связанные в основном с наличием факторов, действующих постоянно и в одном направлении.

Наряду с систематическими ошибками в любом эксперименте присутствуют еще и случайные ошибки, вызываемые действием многочисленных факторов, которые проявляются нерегулярно, причины возникновения их неизвестны и они по-разному сказываются на результатах эксперимента. Такие факторы называются случайными. Каждый из них вносит в случайную ошибку малый вклад, поэтому выявление их бесполезно, да и затруднительно.

Кроме систематических и случайных, различают грубые ошибки, или выбросы, являющиеся браком экспериментатора при повторении опытов. Грубые ошибки связаны с резким нарушением условий экспериментов или просчетом экспериментатора при отдельном наблюдении. Они должны быть отброшены на основании проверки по специальным критериям, которые будут рассмотрены ниже.

Опыты, проводимые в одинаковых условиях при постоянных значениях основных факторов, называются однородными. Однородность испытаний является одним из важнейших условий правильного применения статистических методов обработки наблюдений. Чтобы обеспечить однородность опытов, нужно каждую серию проводить на одной и той же установке, по неизменной методике, одними и теми же исследователями и в реальный срок. При этом надо учесть, что многие факторы заметно меняются во времени и вызывают дрейф выходной измеряемой величины. Если избежать этого явления не удается, то его желательно учитывать как особый фактор.

Таким образом, единичный опыт не может дать точного представления о связи изучаемого явления с вызвавшими его обстоятельствами. Вот почему при большем количестве сделанных наблюдений результат будет более надежным. Исследователь вследствие указанных причин анализирует множество результатов наблюдений. И от того, насколько правильно будут обработаны эти результаты, зависит объективность, точность и надежность определения истинного значения измеряемой характеристики и, следовательно, правильность всех дальнейших заключений и выводов. Отсюда логически вытекает необходимость в научном подходе к обработке результатов опытов, который составляет предмет изучения математической статистики.

Математическая статистика – это наука о математических методах обработки, систематизации и использовании результатов наблюдений для научных и практических выводов. Роль математической статистики в экологическом мониторинге особенно велика, так как результаты наблюдения определяют гарантии жизнеобеспечения на настоящий и будущие (при прогнозировании) моменты времени.

Рассматриваемые в данном разделе простые статистические процедуры широко применяются при обработке данных экологического мониторинга (см.приложение 1). Они могут представлять самостоятельный интерес при решении конкретных задач и, кроме того, входят в комплекс методов, используемых при статистической обработке результатов многофакторных экспериментов.

Статистические оценки результатов наблюдений

Множество значений случайной величины, полученных в результате эксперимента или наблюдений над объектом исследования, представляет собой статистическую совокупность. Статистическая совокупность, содержащая в себе все возможные значения случайной величины, называется генеральной статистической совокупностью. Выборочной статистической совокупностью называется совокупность, в которой содержится только некоторая часть элементов генеральной совокупности. По результатам экспериментов практически всегда встречаются с выборочной, а не с генеральной совокупностью. Выборочную статистическую совокупность будем в дальнейшем называть выборкой, а число опытов (наблюдений) n, содержащееся в выборке, – объемом выборки.

При повторении опытов в одинаковых условиях обычно обнаруживается закономерность в частоте появления тех или иных результатов. Некоторые значения случайной величины появляются значительно чаще других, при этом в целом они группируются относительно некоторого значения – центра группирования, которое обозначим через M_y.. Для описания этого явления используется вероятностный подход [2]. Пусть p_i – вероятность того, что случайная величина, являющаяся результатом эксперимента, примет значение y_i, i = 1, 2,..., п. Если значения p_i известны для всех возможных значений y_i из генеральной совокупности, то величину M_y можно найти по формуле

. (1.1)

Величину M_y называют математическим ожиданием, или генеральным средним случайной величины. Одно только математическое ожидание не может отобразить все характерные черты статистической совокупности. Исследователю необходимо знать, кроме того, изменчивость (или вариацию) наблюдаемой характеристики объекта.

Рассеивание случайной величины относительно математичес­кого ожидания характеризуется величиной, называемой дисперсией. Обычно она обозначается через s². Для генеральной совокупности дисперсия определяется по формуле

(1.2)

Дисперсию s² часто называют генеральной дисперсией. Квадратный корень из дисперсии называется средним квадратическим отклонением случайной величины (или стандартом) . Как и дисперсия, среднее квадратическое отклонение является характеристикой рассеивания значений случайной величины относительно математического ожидания.

Формулы (1.1) и (1.2) справедливы для дискретных случайных величин. Для непрерывных случайных величин математическое ожидание и дисперсия выражаются через соответствующие интегралы.

Поскольку экспериментатор встречается не с генеральной совокупностью, а с выборкой, необходимо иметь формулы, позволяющие приближенно оценить математическое ожидание M_y и дисперсию σ² на основе экспериментальных данных. Пусть по результатам однородной серии опытов получена выборка y ₁, y ₂ ,..., y_n. Наилучшей оценкой для математического ожидания M_y является среднее арифметическое или просто «среднее»

(1.3)

Найденное значение y _cp называют еще выборочным средним в отличие от генерального среднего M_y. Оценкой дисперсии σ² случайной величины является выборочная, или эмпирическая дисперсия. Она обозначается через s ² и вычисляется по формуле

(1.4)

Числитель этой формулы представляет собой сумму квадратов отклонений значений случайной величины от среднего значения y _cp. Знаменатель формулы для выборочной дисперсии называется числом степеней свободы, связанным с этой дисперсией, и обозначается через f:

f = (n – 1). (1.5)

Формулу (1.4) можно преобразовать к виду, более удобному для вычислений:

(1.6)

Величина

. (1.7)

является оценкой среднего квадратического отклонения σ выборки. Ее также называют выборочным стандартом.

Часто для оценки изменчивости (вариации) случайных вели­чин используют коэффициент вариации n, равный

. (1.8)

Коэффициент вариации характеризует не абсолютное, а относительное рассеивание случайной величины относительно среднего.

Важными в статистике являются также следующие статистические показатели:

средняя квадратическая ошибка среднего значения

; (1.9)

показатель точности среднего значения

(1.10)

ошибка среднего квадратического отклонения

.

При изложении дальнейшего материала данного раздела будем предполагать, что результаты наблюдений свободны от систематических ошибок, а случайные ошибки (а значит, и результаты наблюдений) подчинены нормальному закону распределения.

Поиск по сайту: