|
бая перестановка строк или столбцов порождает другое представление одной и той же топологии (всего возможно 2*"№ возможных перестановок), что приводит к существенному увеличению пространства возможных решений. Другой трудностью использования ГА при решении комбинаторных задач, к которым относится выбор топологии НС, является трудность реализации оператора кроссинговера [68]. Выводы по обзору рассмотренных методов построения топологии НС сводятся к следующему: • Статистические методы дают лишь приближенные оценки оптимальности [60]. • Деструктивные методы требуют полноты топологии НС до начала исследования и могут быть рекомендованы как вспомогательные (для улучшения построенной архитектуры) [77]. • Конструктивные методы являются простыми (вычислительная сложность алгоритма невелика), обеспечивают быстрое построение топологии НС, но могут применяться.там, где не предъявляется жестких требований к эффективности решений, поскольку не гарантируют получение оптимального решения [97]. • Эволюционные методы позволяют исследовать все пространство возможных решений, но обладают высокой вычислительной сложностью. Отмеченные трудности применения каждого из подходов вынуждают для построения эффективных алгоритмов формирования топологии НС исследовать новые и модифицировать используемые методы. В соответствии с принятой выше методикой синтеза нейронной сети для решения конкретной прикладной задачи наиболее важной проблемой*является формирование топологии НС, которая^значительной' степени влияет на качество распознавания. Сложность топологии' НС определяется общим числом нейронов сети и количеством-связей* между ними. Задача выбора топологии НС в настоящей работе решается применительно к многослойному персептрону. Для многослойного персептрона оптимальная топология это такая топо |
стью //*// любая перестановка строк или столбцов порождает другое представление одной и той же топологии (всего возможно 2*Ы! возможных перестановок), что приводит к существенному увеличению пространства возможных решений. Другой трудностью использования ГА при решении комбинаторных задач, к которым относится выбор топологии НС, является трудность реализации оператора кроссинговера Выводы по обзору рассмотренных методов построения топологии НС сводятся к следующему 1. Статистические методы дают лишь приближенные оценки оптимальности. 2. Деструктивные методы требуют полноты топологии НС до начала исследования и могут быть рекомендованы как вспомогательные (для улучшения построенной архитектуры). 3. Конструктивные методы являются простыми (вычислительная сложность алгоритма невелика), обеспечивают быстрое построение топологии НС, но могут применяться там, где не предъявляется жестких требований к эффективности решений, поскольку не гарантируют получение оптимального решения 4. Эволюционные методы позволяют исследовать все пространство возможных решений, но обладают высокой вычислительной сложностью. Отмеченные трудности применения каждого из подходов вынуждают для построения эффективных алгоритмов формирования топологии НС исследовать новые и модифицировать используемые методы. 114 3.3. Алгоритмы настройки НС на решаемую задачу В соответствии с принятой в главе 2 методикой синтеза нейронной сети для решения конкретной прикладной задачи наиболее важной проблемой является формирование топологии НС, которая в значительной степени влияет на качество распознавания. Сложность топологии НС, как было показано ранее, определяется общим числом межнейронных связей. Задача выбора топологии НС в настоящей работе решается применительно к многослойному персептрону. Для многослойного персептрона (МНС) оптимальная топология это такая топология, которая обеспечивает наименьшее число слоев и наименьшее число нейронов в каждом слое при заданной ошибке обобщения [58], которые определяют размерность вектора \У. Будем решать задачу синтеза НС в постановке, при которой задана тах допустимая ошибка обобщения Е0бщ, и требуется сформировать топологию НС с минимальным количеством межнейронных связей. Сформулированная задача относится к классу задач комбинаторной оптимизации, сложность которой существенно возрастает с увеличением числа слоев НС и числа нейронов в каждом слое. Проведенный в главе 2 обзор и анализ существующих методов показал, что модификации наиболее простого конструктивного подхода к решению этой задачи во многих случаях позволяют быстро найти приемлемый вариант: ниже предлагается один из вариантов такой модификации. Более перспективным считается использование методов генетического алгоритма. Одна из самых трудных проблем использования ГА в данном случае заключает178 |