|
выделяет статистические свойства обучающего множества и группирует сходные вектора в классы. Но до обучения не возможно предсказать какой выход будет производиться данным классом входных векторов. Таким образом, сети с обучением без учителя удобно использовать для задач классификации. Существует различные методы для обучения нейронной сети. Детерминированный метод обучения шаг за шагом осуществляющий процедуру коррекции весов сети, основанную на использовании их текущих значений, а также величин входов, фактических выходов и желаемых выходов. Стохастический метод обучения, выполняющий псевдослучайные изменения величин весов, сохраняя те изменения, которые ведут к улучшению результатов работы сети. Эвристические алгоритмы обучения, к которым относится генетический алгоритм поиска, моделирующий процессы природной эволюции и позволяющий из множества решений (популяций) выбрать наилучшее решение. К детерминированным методам относится алгоритм обратного распространения ошибки, к стохастическим методам относится машина Больцмана и машина Коши. Способность к обучению является фундаментальным свойством НС, необходимым для построения адаптивных активных средств средств защиты телекоммуникационных систем. Процесс обучения НС может рассматриваться как коррекция взвешенных межнейронных связей сети, образующих распределенное информационное поле НС, в соответствии с требуемой функциональной зависимостью выходного вектора от значений входного вектора НС [48 50]. Коррекции подлежат веса взвешенных связей. Настройка синаптических весов в трехслойной сети осуществляется на основе множества обучающих примеров. В качестве надежного алгоритма обучения сети определим алгоритм обратного распространения ошибки. Обучение сети представляет собой оптимизационную задачу настройки синаптических весов таким образом, чтобы минимизировался квадрат ошибки между выходом сети у и требуемым значением d. 107 |
вектора до тех пор, пока ошибка по всему обучающему массиву не достигнет приемлемого низкого уровня. Обучение без учителя не нуждается в целевом векторе для выходов и не требует сравнения с предопределенными идеальными ответами. Обучающее множество состоит лишь из входных векторов. Обучающий алгоритм подстраивает веса сети так, чтобы получались согласованные выходные вектора, то есть, чтобы предъявление достаточно близких входных векторов давало одинаковые выходы. Процесс обучения, следовательно, выделяет статистические свойства обучающего множества и группирует сходные вектора в классы. Но до обучения не возможно предсказать какой выход будет производиться данным классом входных векторов. Таким образом, сети с обучением без учителя удобно использовать для задач классификации и кластеризации, для задачи определения концентрации вредных веществ в воздушной среде целесообразнее обучение с учителем, учитывая множество имеющихся в наличии обучающих пар: значения спектра поглощения и соответствующие значения концентрации. 3.4.1. Методы и алгоритмы обучения нейронных сетей Существует различные методы для обучения нейронной сети. Детерминированный метод обучения шаг за шагом осуществляющий процедуру коррекции весов сети, основанную на использовании их текущих значений, а также величин входов, фактических выходов и желаемых выходов. Стохастический метод обучения, выполняющий псевдослучайные изменения величин весов, сохраняя те изменения, которые ведут к улучшению результатов работы сети. Эвристические алгоритмы обучения, к которым относится генетический алгоритм поиска, моделирующий процессы природной эволюции и позволяющий из множества решений (популяций) выбрать наилучшее решение. К детерминированньм методам относится алгоритм обратного распространения ошибки, к стохастическим методам относится машина Больцмана и машина Коши. 80 Способность к обучению является фундаментальным свойством НС, необходимым для решения задачи установления концентрации вредных веществ в воздушной среде . Процесс обучения НС может рассматриваться как коррекция взвешенных межнейрониых связей сети, образующих распределенное информационное поле НС, в соответствии с требуемой функциональной зависимостью выходного вектора от значений входного вектора НС [48 50]. Коррекции подлежат веса взвешенных связей. Настройка синаптических весов в трехслойной сети осуществляется на основе множества обучающих примеров. В качестве надежного алгоритма обучения сети определим алгоритм обратною распространения ошибки. Обучение сети представляет собой оптимизационную задачу настройки синаптических весов таким образом, чтобы минимизировался квадрат ошибки между выходом сети у и требуемым значением & К неградиентным методам обучения относится метод Нелдера-Милда, основанный на построении симплексов. Данный метод существенно увеличивает время обучения из-за необходимости расчета симплекса в пространстве неизвестных, достигающих по количеству сотен тысяч для нашего случая. Метод случайного поиска, основан на том, что, имея случайный вектор вместо градиента, делается шаг с определенным весом h в направлении данного вектора, если текущая ошибка уменьшилась, то вес увеличивается и делается новый шаг. Если ошибка увеличилась, то на основе предыдущих двух ошибок, текущей и значений шагов, строится парабола, следующий шаг делается в направлении вершины параболы, также при увеличении ошибки может меняться значение вектора на малую случайную величину Значительная часть времени вычислений тратится на расчет ошибки обучения. Для обучения ИНС вида многослойный псрсептрон наиболее подходящими являются градиентные алгоритмы обучения [193-195], построенные на основе локальной оптимизации целевой функции ошибки с 81 |