Последовательный критерий отношения вероятностей

(Последовательный анализ Вальда)

Рассмотрим последовательную процедуру проверки гипотез. Все предыдущие правила проверки двух гипотез были основаны на фиксированном числе испытаний, то есть сначала проводится измерений, строится отношение правдоподобия и затем оно сравнивается с порогом. С точки зрения минимального значения среднего числа испытаний (для ускорения процесса записи выборки), А. Вальд предложил и обосновал последовательный анализ измеряемых значений, т.е. обработка данных проводится по мере поступления новых измерений.

После каждого испытания строится отношение правдоподобия , которое сравнивается с двумя порогами и , то есть проверяется условие

(4.23)

При выполнении условия

и (4.24)

принимается решение о верности гипотезы (гипотеза отклоняется). А при выполнении условия

и (4.25)

принимается решение о верности гипотезы (гипотеза отклоняется).

Как видно множество разбивается на три части: подмножество принятия гипотезы , подмножество принятия гипотезы и область неопределённости , где нельзя отдать предпочтение той или иной гипотезе (в этом случае измерения должны быть продолжены). Из правил проверки гипотез (4.24) и (4.25) в данном случае следует, что объём выборки не фиксирован и зависит от конкретного значения выборки , то есть объём выборки есть случайная величина.

В качестве критерия разумно выбрать минимальную среднюю стоимость эксперимента. Если “цена” одного эксперимента не меняется с увеличением , то этот критерий переходит в критерий минимума среднего числа испытаний, необходимых для принятия решения или .

А.Вальд доказал, что среди всех правил принятия решений (последовательных и непоследовательных), для которых условные вероятности ошибок не превосходят и последовательное правило принятия решения, состоящее в сравнении отношения правдоподобия с двумя порогами и , приводит к наименьшему значению среднего числа испытаний при верности или . При независимости выборок имеем

.

В случае последовательного критерия отношения правдоподобия процедура проверки строится следующим образом:

Выбираются пороги и , как функции значений и , и проверяется неравенство (4.23) на каждом шаге испытаний .

Если , то в качестве порогов и можно принять величины

, . (4.26)

Вместо сравнения с порогами и обычно логарифмируют обе части неравенства (4.23) и при независимых испытаниях проводят проверку по правилу

. (4.27)

На рисунке 4.1 показан пример изменения значений суммы случайного числа случайных величин до принятия решения при увеличении числа испытаний. Нужно иметь в виду, что в процедуре проверки гипотез по Вальду размер выборки - величина случайная. Из теории вероятностей известно, если независимы, распределены одинаково и их дисперсия ограничена, то

.

Откуда получим математическое ожидание числа испытаний

В применении к последовательному анализу получим математическое ожидание числа испытаний при различных состояниях источника:

, (4.28)

Математические ожидания и зависят от проверяемой гипотезы и границ принятия решений. Пренебрегая перескоком границ и значениями сумм в момент принятия решения об остановке процедуры проверки гипотез (4.27), запишем соответствующие математические ожидания сумм

, (4.29)

. (4.30)

Математические ожидания логарифма отношения правдоподобия при состоянии источников и определяются как

, ,

(4.31)

где - плотность распределения вероятности выборки y при состоянии источника , – область, на которой определена плотность распределения вероятности .

В случае дискретного распределения выборочных значений имеем

, ,

(4.32)

где m – количество значений y, которое может принимать случайная величина при однократном измерении, .

Преимуществом последовательного анализа перед всеми остальными процедурами проверки гипотез заключается в том, что последовательный анализ Вальда даёт приблизительно 48% выигрыша в числе испытаний при проведении серии процедур проверки гипотез.

Во всех правилах принятия решения, кроме минимаксного правила, используется отношение правдоподобия и решение принимается при нарушении неравенств , где С – порог, зависящий от выбранного критерия. Но само отношение правдоподобия – случайная величина, имеющая плотность распределения вероятности , зависящей от состояния источника. Запишем вероятности ошибок и вероятности правильного принятия решений, используя плотность распределения вероятности отношения правдоподобия

, (4.33)

, (4.34)

, (4.35)

. (4.36)

Приведённые равенства показывают, что вероятности ошибок и , а также вероятности правильных решений и , можно вычислять как по многомерным областям и , так и по одномерной области, определяемой плотностями вероятностей и , что облегчает вычисления. Сведём в одну таблицу рассмотренные критерии.

Таблица правил принятия решений

Априорные сведения	Критерий	Правило	Примечание
, Объём выборки	Байеса	= =	. Объём выборки фиксирован, вероятности a, b вычисляются по и
Объём выборки	Минимаксный	= =	Объём выборки фиксирован, вероятности a, b вычисляются по выбранным правилам
Объём выборки	Максимума апостериорной вероятности	=	, Объём выборки фиксирован, вероятности a, b вычисляются по и
Объём выборки	Максимального правдоподобия	1=	Объём выборки фиксирован, вероятности a, b вычисляются по и
Объём выборки	Неймана-Пирсона		Объём выборки фиксирован, выбирается из условия . Тогда
	Последовательный анализ Вальда		Минимизирует среднее число испытаний

4.1.7.Различение сигналов

Рассмотрим применение отношения правдоподобия для различения двух сигналов и как частный случай – обнаружение сигнала на фоне шумов. Положим, источник может находиться в двух состояниях и , характеризующихся двумя сигналами и , отличающимися друг от друга некоторыми параметрами, (например, амплитудой, фазой и т.д.).

На вход приемника поступает дискретная во времени аддитивная смесь одного из сигналов и шума

,

со значениями

,

шум распределён по нормальному закону с математическим ожиданием, равным нулю и известной дисперсией ,

.

Математическое описание сигналов экспериментатору известен, но неизвестно, какой из сигналов присутствует на входе приемника. В этой ситуации проверяются две альтернативные гипотезы -

: источник находится в состоянии , т.е. генерирует сигнал ,

: источник находится в состоянии , т.е. генерирует сигнал .

На основании выборки экспериментатор должен вынести решение или о состоянии источника информации.

Для решения задачи применим отношение правдоподобия, которое введено в разделе 3.

В примере 3.3 был получен логарифм отношения правдоподобия

(4.37)

при проверке двух альтернативных гипотез о состоянии источника , . Все рассмотренные критерии, кроме минимаксного критерия, приводят к единому правилу решения - отношение правдоподобия сравнивается с порогом, зависящим от критерия. Отвлекаясь от типа применяемого критерия, обозначим этот порог через С. По необходимости, будем заменять величину С соответствующим порогом согласно выбранному критерию.

Использовав нормальный закон распределения вероятности значений шума в дискретные моменты времени, был записан логарифм отношения правдоподобия в виде

(3.8)

Используя (4.37), запишем правило принятия решения

.

(4.38)

Преобразуем (4.38) в вид, удобный для анализа

, (4.39)

где .

Правая часть неравенства не зависит от сигнала на входе приемника. Она определяется априорно известными данными.

Величина - статистика, распределенная, согласно (3.8), по нормальному закону с параметрами, зависящими от состояния источника и шума:

,

(4.40)

= (4.41)

Как видно из (4.41), дисперсия величины Q не зависит от состояния источника на момент приема сигналов. Значимость критерия и мощность критерия определяются как

, (4.42)

. (4.43)

Если решается задача обнаружения сигнала, одно из состояний источника примем за наличие только шума, скажем состояние , т.е. сигнал и на вход приемника поступает или шум, или смесь шума и сигнала. Реализация обрабатываемого сигнала в задаче обнаружения примет вид

где - реализации шума, - реализации сигнала.

В этом случае формулы (4.38) – (4.43) примут вид

, (4.44)

, (4.45)

где .

Математическое ожидание и дисперсия величины вычисляются как

(4.46)

= .

(4.47)

Значимость критерия и мощность критерия вычисляются по формулам (4.48) и (4.49):

, (4.48)

(4.49)

На рисунке 4.2 изображены плотности распределения вероятностей величины при состояниях источника и . Интервал значений () – критическая область – область, при попадании в которую значений гипотеза отвергается, в то время как она верна.

Качество алгоритма обнаружения сигнала оценивается рабочей характеристикой приемника: – вероятность правильного обнаружения как функция вероятности ложной тревоги.

Поиск по сайту: