|
можно, к сожалению, только в простейших задачах, так как в подавляющем большинстве случаев апостериорные вероятности либо неизвестны, либо не выражаются простым способом. Полиномиальный классификатор Полиномиальный классификатор [27], также известный как ГЫ сеть [28] или функциональная сеть [29], состоит из двух слоев. На первом слое исходные признаки перемножаются, образовывая мультипликативные комбинации различных порядков. Эти комбинации называются улучшенными признаками и описываются так называемой полиномиальной структурой х(\). Каждая компонента этой структуры хДу) является произведением П5 нескольких признаков ут: *Ду)= \‘т х5(\). Второй слой является линейной комбинацией улучшенных признаков, задаваемой матрицей IV. Математически полиномиальный классификатор описывается формулой: (2.4) Полиномиальный классификатор способен аппроксимировать произвольную гладкую функцию при достаточно большой длине полиномиальной структуры, что следует из теоремы о приближениях Вейершграсса [30]. Хотя полиномиальную структуру приходится выбирать вручную, выбор весов матрицы IV осуществляется автоматически по обучающей выборке. Существенным преимуществом полиномиального классификатора является то, что задача определения IV имеет аналитическое решение: 34 |
случаев апостериорные вероятности либо неизвестны, либо не выражаются простым способом. Полиномиальный классификатор Полиномиальный классификатор [25], также известный как П-Е сеть [26] или функциональная сеть [27], состоит из двух слоев. На первом слое исходные признаки перемножаются, образовывая мультипликативные комбинации различных порядков. Эти комбинации называются улучшенными признаками и описываются так называемой полиномиальной структурой х(у). Каждая компонента этой структуры х5(у) является произведением П5 нескольких признаков ут: х5(у) = П* у'т. Второй уровень является линейной комбинацией улучшенных признаков, задаваемой матрицей XV. Математически полиномиальный классификатор описывается формулой: = Vх х(у) (2.4) Полиномиальный классификатор способен аппроксимировать произвольную гладкую функцию при достаточно большой длине полиномиальной структуры, что следует из теоремы о приближениях Вейерштрасса [28]. Хотя полиномиальную структуру приходится выбирать вручную, выбор весов матрицы XV осуществляется автоматически по обучающей выборке. Существенным преимуществом полиномиального классификатора является то, что задача определения XV имеет аналитическое решение: Е { ххт } \У = Е { хут } (2.5) Эта система уравнений обычно решается методом гауссовых исключений. Система является переопределенной (число неизвестных в ней меньше числа уравнений) и потому может быть решена упорядочением улучшенных признаков в порядке убывания их дискриминационной (различительной) способности. Матрицы моментов Е { ххт } и Е { хут } определены как математические ожидания. Хотя они не известны точно, их можно легко оценить, взяв среднее по обучающей выборке: Еьх(Л,)х(А.)т. Полезным свойством полиномиального классификатора является то, что матрица моментов содержит необходимую и достаточную информацию для обучения классификатора. Это позволяет вычислить ее по обучающей выборке один раз и более не обращаться к исходным данным. При расширении обучающей выборки можно вычислить матрицу моментов для новых изображений и суммировать ее с 18 |