619_Sidel'nikov_G._M._Statisticheskaja_teorija_radiotekhnicheskikh_
.pdfv
v1
( 1) 1
v0
λ
( 0) 0
Рис. 4.6. Пространство решений для векторного параметра θ.
Частный случай, когда θ содержит только одну компоненту (θ = v) соответствует примеру 4.2. Когда θ=λ, рассматривается только одна гипотеза, что соответствует примеру 4.3.
Пример 4.5 Восстановление формы передаваемого сигнала осуществляется при приеме аналоговых сигналов (фильтрация) и отличается от оценки параметра тем, что измеряемый параметр непрерывно меняется в процессе измерения.
Задачей синтеза РУ является отыскание явного выражения для правила
решения Ф x t , и поиск наилучшего решения, с точки зрения показателя ка-
чества решения R[Ф(x)] или просто R(Ф) . Показатель качества R(Ф) выбирается или считается заданным (например, эвристическим путем). При этом наилучшее или оптимальное правило решения Фопт x(t) – это такое значение аргумента показателя качества R(Ф) , которое обеспечивает экстремальное зна-
чение показателя качества решения,найденное по всем значениям Ф, принадлежащих некоторому классу F.
Ф |
x t arg max R Ф |
(4.8) |
||
|
опт |
|
min |
|
|
|
|
|
|
|
|
|
Ф F |
|
Подводя итоги данного раздела заметим, что оптимизация РУ возможна, если известно:
1) математическое описание сигнала на входе РУ (рисунок 4.1) во временном и (или) вероятностном пространствах в виде множества xT , представляю-
щего ансамбль реализаций сигнала x(t) и wk (x,t), 0 t1 t2 ... tn T ;
2)множество всех возможных решений Г ;
3)показатель качества R(Ф),определяющий качество выбранного правила решения Ф[x(t)];
4)критерий оптимальности правила решения, который позволяет найти та-
x(t) , которое обеспечивает экстремальное значение показателя каче-опт
ства R(Ф).
51
4.2.Показатели качества и критерии оптимальности РУ
Пусть x(t) S(t, ) n(t) – сигнал на входе РУ; wn x, , – совместная
функция плотности распределения, |
– решение о значении параметра состоя- |
||
ния , из множестваГ= (рис. 4.7). |
|
|
|
x(t) S(t, ) n(t) |
|
|
|
|
РУ |
||
|
|
|
|
|
|
|
|
|
|
Ф[x(t)] |
Рис.4.7. Решающее устройство при оценке параметра
Решение не всегда совпадает с истинным значением параметра и, следовательно, наблюдается какая-то ошибка. Конечно, необходимо такое правило решения Ф(x) , чтобы ошибка была по возможности меньше, тогда РУ лучше. Однако необходимо иметь в виду, что понятие «ошибка» не является однозначным, так как зависит и должно определяться потребителем решений (причём потребителем может быть и научный работник, синтезирующий РУ).
Например, если – непрерывное бесконечное множество, то в качестве меры ошибки может использоваться:
разность , абсолютное значение разности , квадрат разности 2 ,
среднее значение квадрата разности
|
|
|
|
2 2 и пр. |
(4.9) |
Если – дискретное множество, то в качестве меры ошибки обычно используются различные вероятностные меры (например, средняя вероятность ошибки или вероятность пропуска сигнала с данным значением параметра ).
В общем случае, ошибки связаны с ущербом для потребителя и, следовательно, можно указать некоторую функцию потерь от двух аргументов и ,
такую что , 0 при фиксированых значениях и .
В свою очередь качество РУ (или качество правила решения) определяется степенью соответствия принятых решений значениям переданного параметра
. Таким образом, мерой качества является некоторый функционал связывающий функцию потерь и меру ошибки.
R Ф W ( , ); .
Вид функции потерь зависит от характера множества, описывающего параметр , и обычно выбирается потребителем из известного ряда функций с точки зрения удобства решения поставленной задачи.
52
В большинстве практически значимых задач используются следующие функции потерь.
Пример 4.6. Параметр Θ, Θ − одномерное (скалярное) множество:
а) квадратичная функция потерь (Рис. 4.8.)
, a 2 ;a 0;
Рис. 4.8. Квадратичная функция потерь
б) линейная функция потерь (рис. 4.9.)
, a ;a 0;
Рис. 4.9. Линейная функция потерь
в) прямоугольная функция потерь (рис. 4.10.)
|
0, |
|
|
|
|
||
|
|
||||||
, |
|
|
|
|
|
|
|
|
, a 0 |
|
|||||
|
|
||||||
a, |
|
; |
Рис. 4.10. Прямоугольная функция потерь
г) экспоненциальная функция потерь (рис. 4.11.)
, a 1 e b 2 , a 0,b 0;
Рис. 4.11. Экспоненциальная функция потерь
д) простая функция потерь (рис. 4.12.) |
|
|
, a 1 |
,a 0 |
|
|
|
|
, x 0 |
||
x |
0, x 0. |
|
|
|
(4.10)
(4.11)
(4.12)
(4.13)
(4.14)
Рис. 4.12. Простая функция потерь
53
При простой функции потерь для любого значения 0 потери одинаковы, при 0 потери равны “ ”, что можно интерпретировать как выигрыш.
Пример 4.7. Параметр , – непрерывное конечномерное векторное мно-
жество, и - векторы, например, координаты |
|
1 |
|
, |
|
|
1 |
|
: |
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
2 |
|
|
|
|
2 |
|
|
|
|
|
|
|
|
а) квадратичная функция потерь |
|
|
|
|
|
|
|
|
|
|
, a |
|
1 |
2 |
a |
2 |
2 |
(4.15) |
|
1 |
|
1 |
2 |
|
2 |
|
||
или в матричной форме: |
|
|
|
|
|
|
|
|
T |
|
|
|
|
|
a |
0 |
|
( , ) A ,где матрица A |
1 |
|
, |
|||||
|
|
|
|
|
|
0 |
a2 |
|
T транспонированный вектор ошибки; |
|
|
||||||
б) простая функция потерь |
|
|
|
|
|
|
|
|
, a 1 |
, |
|
(4.16) |
|||||
|
|
|
|
|
|
|
|
|
и - векторы; δ - многомерная функция, |
то есть x1m - m дельта функ- |
ция вида:
m |
|
|
x1 |
|
, |
||||
x1 |
|
|
m |
|
0, |
xm |
|||
|
|
|||
|
|
1 |
||
|
|
|
m |
|
m |
|
01 |
|
, когда все x 0; |
x1m xi . |
0m |
, когда все x 0. |
i 1 |
|
1 |
|
|
|
Пример 4.8. Параметр , – дискретное множество с m- элементами. |
|||||||||
а) Пусть m= 2, 0 , 1 , 0 , 1 , |
|
|
|
|
|
||||
i , j ij , i={0,1},j= {0,1}. |
|||||||||
Аргументы функции потерь могут принимать только дискретные значе- |
|||||||||
нияи матрица потерь принимает вид:. |
|
|
|
|
|
|
|
|
|
|
2 2 |
|
|
00 |
01 |
|
|
, |
|
|
|
|
|||||||
|
|
|
10 |
11 |
|
|
|
|
|
|
|
|
|
|
|
|
|
||
где ij любое число. |
|
|
|
|
|
|
|
|
|
В задаче различения сигналов, когда i=j(правильное решение) ij =0, мат- |
|||||||||
рица потерь имеет вид: |
|
|
|
|
|
|
|
|
|
|
|
|
01 |
|
; |
||||
|
2 2 |
|
0 |
|
|||||
|
|
|
10 |
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
б) если m = 3, то матрица потерь принимает вид:
54
|
01 |
02 |
|
|
|
0 |
|
||
3 3 |
10 |
0 |
12 |
(4.17) |
|
20 |
21 |
0 |
|
Пример 4.9. Параметр , Θ – дискретнонепрерывное векторное множество. Векторный параметр можно записать в виде:
v ,
где v- дискретная компонента, которая называется вектором состояния, λ - непрерывная компонента вектора состояния. Если v= 0, то 0 , если v= 1, то
1 .
Множество решений также является дискретно-непрерывным и всякое решение γ содержит непрерывную γн и дискретную γдкомпоненты
н .
д
Вэтом случае функция потерь может быть записана в виде:
; н , д ; ,v н ,i; ; j ij н , , i,j= {0,1}.
Если д i, то н i , если v=j, то j
Запишем эти условия в виде матрицы, элементами которой являются
функции |
|
|
|
|
|
|
|
|
|
|
; |
|
|
00 |
н , |
01 |
н |
, |
|
(4.18) |
|
|
|
|||||||||
|
10 |
н , |
11 н , |
|
||||||
|
|
|
|
Например, 10 н , - потери при решения д 1 и н 1 , когда на самом деле v=0 и непрерывная компонента 0 . Причём потери здесь могут быть разными в зависимости от степени отклонения решения γн от параметра λ.
4.3.Правила решения и критерии оптимальности
4.3.1.Равномерно-наилучшее правило решения (или равномерно
наиболее мощное правило решения – правило РНМ
Априорные данные:
1.сигнал на входе РУ: x(t), wn (x, ), ;
2.функция потерь ( , ) ;
3.мера качества для правила РНМ: r ( ) – средний условный риск (условный, так как зависит от параметра θ),
x ... ( , ) wn (x, )dx1dx2...dxn (4.19)
55
то есть r ( ) -это среднее значение функции потерь , при данном
значении параметра θ;
4. критерий оптимальности требует min r ( ) , тогда
рнм |
(x) arg{min r ( )}. |
(4.19) |
|
F |
|
Методы поиска правила РНМ:
1)аналитических методов поиска рнм (x) не существует;
2)правило рнм (x) в каждом конкретном случае находится графически. Рассмотрим методику графического поиска правила рнм (x) на конкретных
примерах.
Пример 4.10.
а) Параметр образует непрерывное одномерное множество,
(Рис. 4.13.)
rФ |
|
|
Ф |
|
Ф |
|
Фрнм |
|
θ |
|
|
Рис. 4.13. Правило рнм (x) для непрерывного параметра |
|
1) Строится график зависимости r ( ) от параметра для множества |
|
правил решения F (принадлежащих заданному классу). |
2) Выбирается правило, для которого r ( ) на всём интервале мень-
ше, чем для других правил решения в данном классе (на Рис..4.14. таким правилом является Ф ).
|
|
3) Следовательно, Фрнм x Ф , так как это правило равномерно лучше |
|
всех других правил ( r r r , для любого правила |
из |
данного класса).
б) Параметр образует дискретное множество. Значения параметра
1, 2 ,..., i ,..., m , (Рис.4.15.)
56
rФ ( i ) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Ф |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Ф |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Ф |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
3 |
i |
|
|
|
|
||||||||
1 |
|
|
|
|
|
|
|
|
|
m |
|||||||||
Рис. 4.14. График r ( i ) для различных правил решения |
|||||||||||||||||||
Отличие рисунков 4.14 и 4.13 только в том, что в данном случае r ( i ) |
|||||||||||||||||||
принимает только m значений. |
Поэтому аналогично выбирается правило, для |
которого r ( i ) для всех значений i равномерно меньше, чем для других правил решения в данном классе (на рисунке 4.15. таким правилом также является Ф ). Следовательно, Фрнм x Ф .
в) Параметр образует непрерывно-дискретное множество, Рис. 4.16.
|
|
|
0 |
при v v0 , |
|
||
|
, |
|
|||||
|
v |
|
|
|
|
|
|
|
|
|
1 при v v1 , |
v |
|
|
|
|
|
|
v1,v2 |
||||
r 0 - условный риск при v0 |
|
|
|
||||
r |
- условный риск при v1 |
|
|
|
|||
1 |
|
|
|
|
|
|
|
|
|
r 0 |
|
|
|
|
|
r |
|
|
|
|
|
||
|
|
r |
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
rФ ( ) |
|
|
|
|
|
|
|
|
|
Ф |
|
|
|
|
|
|
|
0 |
|
Ф |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
Ф 0 Ф
1
1
0 |
1 |
Рис. 4.15. График r ( ) для непрерывно-дискретного параметра
57
Следует отметить, что не всегда РНМ правило существует, а, следовательно, и задача синтеза РУ для этого правила не всегда решается. На Рис. 4.16 показаны графики зависимости r ( ) в интервале , для которых невозможно
определить равномерно наиболее мощное правило (РНМ), так как кривые при различных правилах из заданного класса взаимно пересекаются.
4.3.2. Минимаксное правило решения.
Априорные данные:
1.сигнал на входе РУ: x(t), wn (x, ), ;
2.функция потерь ( , ) ;
3.мера качества для минимаксного правила: r ( ) – средний условный
риск,
r ( ) x[ ] ... ( , ) wn (x, )dx1dx2
то есть r ( ) -это среднее значение функции потерь
значении параметра θ;
4. критерий оптимальности требует min r ( ) , тогда
мм (x) arg{min max r ( )}
F
...dxn ,
, при данном
(4.20)
Методы поиска правила минимаксного правила:
1. Для различных правил определяется зависимость условного риска от параметра θ (Рис. 4.17).2. находятся максимальные значения условного риска для каждого правила из рассматриваемого класса (в отличие от правила РНМ только числа):
r |
max r |
; |
r |
max r |
и т.д.; |
1 |
|
|
|
|
|
2. Определяется правило, для которого максимум является наименьшим (например, путём попарного сравнения), то есть Ф' лучше Ф'', так как макси-
мальное значение условного риска r < r .
3. Оптимальным в данном классе правил решения будет такое мм (x) , которое имеет наименьшие значение максимума условного риска
мм (x) : rФмм |
( ) min max r ( ) . |
|
F , |
Минимаксное правило можно найти практически всегда, регулярные методы поиска (синтеза) этого правила неизвестны.
58
Рис. 4.16. График Φ( ), когда |
Рис. 4.17. График Φ( ), для |
правила РНМ не существует |
минимаксного правила. |
4.3.3. Байесовское правило решения.
Априорные данные:
1. сигнал на входе РУ: x(t, ), wn (x / ) - условная функция плотности рас-
пределения входного сигнала для данного значения параметра θ, параметр θ рассматривается как случайная величинас априорной плотностью распределения вероятности w , (если - дискретное множество, то известны
априорные вероятности дискретных значений параметра или вероятности соответствующих гипотез);
2.функция потерь ( , ) ;
3.мера качества для байесовского правила: R – средний риск,
R r w d |
(4.21) |
|
|
Методы поиска байесовского правила:
1.вычисляется средний риск для всех правил решения, принадлежащих данному классу F : Rф', Rф'' и так далее;
2.попарно сравниваются вычисленные значения среднего риска, так что правило Ф' лучше Ф'', если Rф'<Rф'' и так далее;
3.выбирается правило, для которого средний риск минимален
Бx : R min R
БФ F
или
Б x arg min R |
(4.22) |
Ф F |
|
Таким образом, называется байесовским правилом выбора решения Б x ,
если оно обеспечивает не просто минимальный средний риск, а минимум среднего риска среди всех возможных правил решения из данного класса.
59
Байесовское правило можно найти практически всегда, известны регулярные методы поиска (синтеза) байесовского правила.
4.3.4. Правило Неймана-Пирсона.
Априорные данные:
1.сигнал на входе РУ: x(t, ), wn (x / ) , 0 , 1 - параметр обычно принимает только два значения, но возможно и больше;
2.вместо функции потерь задаётся уровень значимости 0 1, так, чтобы класс правил решения удовлетворял условию:
|
|
| 0 |
|
(4.23) |
F Ф x : P Ф x |
1 |
|
||
|
|
|
|
|
(класс правил, для которых вероятность решения γ1 равна или меньше α, когда в действительности на входе РУ 0 );
3. мера (показатель) качества– вероятность правильного решения (или ве- |
|
роятность ошибки 1-го рода) |
|
P Ф x 1 | 1 р( 1 / 1) 1 , |
(4.24) |
где P Ф x 0 | 1 -ошибка (пропуск сигнала θ1) ошибка 2-го рода; |
|
4. Оптимальным в данном классе правил решения будет такое нп (x) , ко- |
|
торое имеет наибольшее значение (1 ) или минимальное значение β |
|
Фнп x : (1 ) max 1 .
Ф F
Методы поиска правила Неймана-Пирсона (правила НП):
1.вычисляется вероятность ошибки 2-го рода для всех правил решения, принадлежащих данному классу F : , и так далее;
2.попарно сравниваются вычисленные значения вероятности ошибки 2-го рода, так что правило Ф' лучше Ф'', если '< и так далее;
3.выбирается правило, для которого имеет место min
(или max (1 ) );
4. тогда
нп x arg min |
(4.25) |
Ф F |
|
Правило Неймана-Пирсона существует практически всегда, известны регулярные методы поиска (синтеза) правила НП.
60