Методы построения решающего правила

В работе [13] описываются два метода построения решающего правила: статистический и алгебраический. Кратко опишем их.

Статистический метод

Байесовский классификатор.

Пусть задано М классов f2i, 0,2,..., Яд/) а также P(Q,ix), i = 1,2, ...,М — апостериорная

вероятность того, что неизвестный образ, представляемый вектором признаков х, принадлежит классу П*.

Рассмотрим случай двух классов и 0,2, для которого определим байесовское решающее правило как классификацию по максимуму апостериорной вероятности P(f2j|:r), то есть, если Р(?ф|ж) > Р(П2|ж), то х классифицируется в 0, иначе — в О2.

Чтобы построить байесовское решающее правило, необходимо получить апостериорные вероятности Р(П^|т), г = 1,2, с помощью формулы Байеса

где P(Oj) — априорные вероятности классов, то есть вероятности принадлежности объекта х каждому из классов И,;, и P(xOj) — функции правдоподобия х по отношению к Ои то есть функции распределения вектора признаков х для каждого класса Oj.

Если априорные вероятности Р(Ог) и функции правдоподобия Р(ж|^) не известны, то их можно оценить методами математической статистики на множестве прецедентов: P(Oi) ~ Nt/N, где Nj — число прецедентов из i = 1, 2, и N — общее число прецедентов; P(xOj) может быть приближено эмпирической функцией распределения вектора признаков х для прецедентов из класса

Таким образом, при проверке классификации сравнение Р(?ф|х) и Р(Г22|ж) эквивалентно сравнению p(a;|Qi)P(f2i) и р(х02)Р(02).

Определим вероятность ошибки классификации

Ре — Р{х Е Р-2, ^i) + Р{х Е Pi, О2), где R = {х : P(fii)p(x|f2i) > Р{0,2)р{х|^г)} н R2 = {х : P(^i)p(ar|Qi) < < P($22)p(xQ2)} области решения (i П И2 = 0).

Отметим, что байесовский классификатор является оптимальным но отношению к минимизации вероятности ошибки классификации, как в случае для двух классов, описанном выше, так и в случае конечного числа классов.

Если цена ошибок различного типа различается, то лучше использовать минимум среднего риска вместо вероятности ошибки классификации в качестве критерия проверки классификации.

 
Посмотреть оригинал
< Пред   СОДЕРЖАНИЕ   ОРИГИНАЛ   След >