|
\ 60 (2.19) где Р количество примеров в обучающей выборке. Оценка Ео используется в тех случаях, когда выходные сигналы сети должны с заданной и одинаковой для всех сигналов точностью в совпадать с известными векторами, где £ определяется как уровень надежности [4, 10, 37, Для учета уровня надежности обучения обычно используется модификация формулы (3.1): Где 6 имеет различный диапазон изменения для используемых способов интерпретации: 0< £ < 1 для знаковой интерпретации; 0 < г < 2 для правила "победитель забирает все"; 0 < £ < 2/ (п-1) для порядковой интерпретации, где п размерность вектора входных сигналов [30-32]. Уровень надежности обучения вводится1с целью обеспечения устойчивой работы сети. Критерий устойчивости формулируется следующим образом: работа сети считается устойчивой, если при изменении выходных сигналов сети на величину, меньшую в, интерпретация ответов сети не меняется [25, 29]. Этот факт можно использовать для обеспечения ускоренного обучения сети. Целесообразно при вычислении оценки по формуле (2.19) использовать только такие выходные сигналы (множество правильных ответов), интерпретация которых не меняется при изменении их значений на величину, меньшую в. Оценку Ео можно обобщить, если использовать суммирование квадратов разностей №,-у,) с соответствующими весами: где Ш вес ¡-го примера в обучающей выборке. Использование оценки (3.3) позволяет выделить наиболее важные примеры из обучающей выборки, уста77]. (2.20) (2.21) |
бирать соответствующую оценку. Обычно в качестве такой оценки берется средняя квадратичная ошибка ошибка обучения Е0или MSE (Mean Squared Error), которая определяется как усредненная сумма квадратов разностей между желаемой величиной выхода d( и реально полученными на сети значениями y t для каждого примера i : £» = 4 2 > . Л ) 2> (2.6) Р i=l где Р количество примеров в обучающей выборке. Оценка Е0 используется в тех случаях, когда выходные сигналы сети должны с заданной и одинаковой для всех сигналов точностью с совпадать с известными векторами, где с определяется как уровень надежности [61]. Для учета уровня надежности обучения обычно используется модификация формулы (2.6): Е 1 , Р м £ (2.7) где s имеет различный диапазон изменения для используемых способов интерпретации: 0< е < 1 для знаковой интерпретации; 0 < е < 2 для правила "победитель забирает все"; 0< е < 2 /(п-1) для порядковой интерпретации , где п размерность вектора входных сигналов [62-64]. Уровень надежности обучения вводится с целью обеспечения устойчивой работы сети. Критерий устойчивости формулируется следующим образом: работа сети считается устойчивой, если при изменении выходных сигналов сети на величину, меньшую е, интерпретация ответов сети не меняет98 ся. Этот факт можно использовать для обеспечения ускоренного обучения сети: целесообразно при вычислении оценки по формуле (2.7) использовать только такие выходные сигналы (множество правильных ответов), интерпретация которых не меняется при изменении их значений на величину, меньшую Е. Оценку Е0можно обобщить, если использовать суммирование квадратов разностей (а, —у,) с соответствующими весами: где Кх вес /-го примера в обучающей выборке. Использование оценки (2.8) позволяет выделить наиболее важные примеры из обучающей выборки, устанавливая для этого соответствующий вес. Кроме того, эту оценку целесообразно использовать для того, чтобы уравновесить различные группы примеров в задачах классификации. С этой целью необходимо назначать веса К\ так, чтобы суммарный вес обучающих примеров в каждом классе не зависел от класса (например, можно назначить для любого примера ЛТ/= 1/т, где / —номер класса, т число примеров в классе). В случае нечеткой экспертной оценки "учителя" отдельных вариантов примеров при формировании обучающей выборки также целесообразно увеличить вес этих вариантов, чтобы они могли влиять на процесс обучения сети. Поскольку задача обучения нейронной сети является задачей поиска минимума функции ошибки (2.6) в пространстве весовых коэффициентов (2.8) 99 |