|
40 2. СТРУКТУРНО-ПАРАМЕТРИЧЕСКИЙ СИНТЕЗ НЕЙРОСЕТЕВЫХ МОДЕЛЕЙ 2,1. Синтез нейронной сети для решении прикладной задачи Синтез нейронной сети для решения конкретных задач является сложной процедурой и определяется такими критериями, как точность решения, количество ошибок распознавания, время обучения, время распознавания и т.д. В процессе синтеза сети необходимо выбрать [5]: • методику кодирования и предварительной обработки входных данных; • тип сети; • архитектуру (toi ю логию); • алгоритм обучения. В результате синтеза должна быть сформирована НС, обладающая заданными свойствами и позволяющая решать поставленную задачу. Главными проблемами синтеза НС являются следующие [10, 25, 29]: • отсутствие формальных методов выбора типа НС, адекватной решаемому классу задач; • слабая проработка вопросов, связанных с автоматическим формированием топологии НС, что во многих случаях не позволяет создавать НС минимальной сложности [82]; • недостаточная обоснованность выбора методов оптимизации в процедуре обучения НС, что приводит к большим ошибкам прогноза [64]. В результате создаваемые НС не всегда отвечают предъявляемым к ним требованиям. Одна из основных целейработы предложить эффективные методы настройки и адаптации НС на конкретную задачу. Поставим задачу синтеза, нейронной сети следующим образом. Задан конечный набор 1 ' * } ^ пар типа атрибут-значение , где Я], ХЬ входной и выходной вектор-НС соответственно. Этот набор будем называть обучающей выборкой. Выборку будем называть корректной, если V Л, т е Р : кфт выполняется Як ф Яш. Необходимо построить такую НС, |
необходимость наличия высококвалифицированных экспертов, способных вырабатывать достоверные заключения; требуются длительные дополнительные исследования для оперирования лингвистическими термами, адекватными реальным объектам; необходимость учета взаимосвязи параметров в некоторых случаях не дает возможность построения однозначных логико-лингвистических моделей. Все это требует множества экспертных описаний и учета ряда дополнительных факторов. Помощь эксперту при обработке эмпирической информации может быть оказана на этапе выделения информативных параметров за счет использования специального механизма автоматического отбора таких параметров при формировании баз знаний. В работе реализация такого механизма рассмотрена ниже применительно к нейросетевой базе знаний. 2.3. Синтез нейронной сети для решения прикладной задачи Синтез нейронной сети для решения конкретных задач является сложной процедурой и определяется такими критериями, как точность решения количество ошибок распознавания, время обучения, время распознавания и т.д. В процессе синтеза сети необходимо выбрать тип сети, архитектуру (топологию), алгоритм обучения и другие рассмотренные выше параметры влияющие на значение критерия. В результате синтеза должна быть сформирована НС, обладающая заданными свойствами и позволяющая решать поставленную задачу. Главными проблемами синтеза НС являются следующие: 89 1) отсутствие формальных методов выбора типа НС, адекватной решаемому классу задач; 2) слабая проработка вопросов, связанных с автоматическим фор* мированием топологии НС, что во многих случаях не позволяет создавать НС минимальной сложности; 3) недостаточная обоснованность выбора методов оптимизации в процедуре обучения НС, что приводит к большим ошибкам прогноза. В результате создаваемые НС не всегда отвечают предъявляемым к ним требованиям. Одна из основных целей работы предложить эффективные методы настройки и адаптации НС на конкретную задачу. 2.3.1. Выбор типа НС Определение 2.1. Искусственная нейронная сеть (НС) это сеть с конечным числом слоев, состоящих из однотипных элементов, называемых формальными нейронами, являющимися аналогами естественных нейронов, с различными типами связей между их слоями. Определение 2.2. Слой сети такое множество нейронов, которое получает входные сигналы в один и тот же момент времени при наличии в сети только последовательных связей. Если считать, что преобразование информации нейроном (преобразование входного сигнала в выходной) производится за конечный промежуток времени А/, и это время одинаково для всех нейронов, то первым слоем НС будем называть множество нейронов, получающих входной сигнал в некоторый начальный момент времени /о, вторым — множество нейронов, получающих входной сигнал в момент /о+А/ и т.д. 90 2.3.4. Постановка задачи синтеза НС Поставим задачу синтеза нейронной сети следующим образом. Задан конечный набор / = {(Пу,у /)},у = пар типа "атрибут-значение", где Ну> У,входной и выходной вектор НС соответственно. Этот набор будем называть обучающей выборкой. Выборку будем называть корректной, если V Л:, т е Р : к^ т выполняется И* ФПот. Необходимо построить такую НС, которая обеспечивала бы наиболее эффективное решение ставящейся прикладной задачи, описываемой выборкой I. Оценку синтезируемой НС будем определять с помощью следующих критериев: 1) на основе вычислительной сложности 5, задаваемой количеством межнейронных связей в НС; 2) ошибкой обобщения Яобщ.. определяющей величину ошибки распознавания 8. Эти два критерия являются взаимно противоположными и должны быть обращены в минимум. В общем случае налагается также ограничение на время синтеза НС. С учетом вышесказанного задачу синтеза НС сформулируем в следующих постановках. Пусть задана корректная выборка / = {(Пу,у.)},у = 1,...,Р. 1случай. Задана мах допустимая £0бщ. (неотрицательное действительное число 8). Требуется найти топологию нейронной сети с минимальной сложностью 5. 2 случай. Задана топология сети, определяемая мах допустимой сложностью 5 (положительное целое число межнейронных связей). Требуется построить такую НС, для которой значение Еобщ.<=8; 5тах>0. 115 |