|
которая обеспечивала бы наиболее эффективное решение ставящейся прикладной задачи, описываемой выборкой I. Оценку синтезируемой НС будем определять с помощью следующих критериев [48]: 1) на основе вычислительной сложности Б, задаваемой количеством межнейронных связей в НС (или количеством вычислительных операций, требуемых для вычисления выходного вектора); 2) ошибкой обобщения Еобщ., определяющей величину ошибки распознавания. Эти два критерия являются взаимно противоположными и должны быть обращены в минимум [130]. В общем случае налагается также ограничение на время синтеза НС. С учетом вышесказанного задачу синтеза НС сформулируем в следующих постановках. Пусть задана корректная выборка 1 ] ^ . Аребуется [60]: 1) для заданной максимально допустимой Еобщ. (неотрицательное действительное число г) найти топологию нейронной сети с минимальной сложностью Б; либо 2) для заданной топологии сети, определяемой максимально допустимой сложностью Б (положительное целое число межнейронных связей) построить такую НС, для которой значение Еобщ. <= е; 8шах>0. В последующих главах будут предложены методы решения поставленной задачи, которые, в отличие от существующих, позволяют добиться лучшей эффективности: уменьшить время обучения и распознавания, а также ошибку обучения Ео и распознавания Еобщ. Для многократного использования обученных НС для решения различных прикладных задач с помощью ИИТ предлагается использовать нейросетевые базы знаний (НСБЗ) [23,.48], которые формируются на основе информации, поступающей из различных источников: • фундаментальных знаний, представленных в виде-стандартов, нормативно-справочной информации и т.д.; • экспериментальной' информации, получаемой' из результатов моделирования, натурного эксперимента, тестирования; • экспертной информации о качественных и количественных характеристиках конкретных объектов исследуемой предметной области в форме |
Формирование баз знаний осуществляется на основе объединения нескольких информационных потоков, а именно: фундаментальных знаний об исследуемой предметной области, представленных в форме жестких структур, таких, как математические зависимости, законы, схемы, стандарты и т.д.; экспериментальной информации, получаемой при моделировании или из натурного эксперимента; экспертной информации в форме текстов, экспертных правил и отдельных примеров (невербализованных описаний); экспертной информации о качественных и количественных характеристиках конкретных объектов исследуемой предметной области; экспертной информации мета-уровня, определяющей правила использования фундаментальных знаний в экспертных заключениях. Экспертные знания формируются как результат субъективной интерпретации эмпирической информации (результаты моделирования, натурный эксперимент), отражают примеры решения реальных задач из предметной области и играют существенную роль при представлении и использовании знаний. Перейдем к вопросу выбора способов обработки и кодирования информации, поступающей из различных источников для формирования обучающих выборок. Методика обработки эмпирической информации в СОЗ [51-53] с помощью эксперта сводится к следующему: 83 2.3.4. Постановка задачи синтеза НС Поставим задачу синтеза нейронной сети следующим образом. Задан конечный набор / = {(Пу,у /)},у = пар типа "атрибут-значение", где Ну> У,входной и выходной вектор НС соответственно. Этот набор будем называть обучающей выборкой. Выборку будем называть корректной, если V Л:, т е Р : к^ т выполняется И* ФПот. Необходимо построить такую НС, которая обеспечивала бы наиболее эффективное решение ставящейся прикладной задачи, описываемой выборкой I. Оценку синтезируемой НС будем определять с помощью следующих критериев: 1) на основе вычислительной сложности 5, задаваемой количеством межнейронных связей в НС; 2) ошибкой обобщения Яобщ.. определяющей величину ошибки распознавания 8. Эти два критерия являются взаимно противоположными и должны быть обращены в минимум. В общем случае налагается также ограничение на время синтеза НС. С учетом вышесказанного задачу синтеза НС сформулируем в следующих постановках. Пусть задана корректная выборка / = {(Пу,у.)},у = 1,...,Р. 1случай. Задана мах допустимая £0бщ. (неотрицательное действительное число 8). Требуется найти топологию нейронной сети с минимальной сложностью 5. 2 случай. Задана топология сети, определяемая мах допустимой сложностью 5 (положительное целое число межнейронных связей). Требуется построить такую НС, для которой значение Еобщ.<=8; 5тах>0. 115 В последующих главах будут предложены методы решения поставленной задачи, которые, в отличие от существующих, позволяют добиться лучшей эффективности: уменьшить время обучения и распознавания, а также ошибку обучения Еаи распознавания Еовш. 2.4 Принципы организации нейросетевой базы знаний Под нейросетевой базой знаний (НСБЗ) будем понимать множество заранее обученных нейронных модулей, множество знаний о параметрах НС (типах используемых нейронов, функций активации, дискриминантных функций и т.д), а также множество алгоритмов, позволяющих на основе этих Нейросетевая база знаний Нейронные модули Методы формирова ния топологии НС Типы нейронов Функции активации Дискриминант!1ые функции Виды межнейрон ных связей Алгоритмы обучения База примеров Архивы проектов НС _____I_____ Создание многомодульной НС * Средства создания НС Рис.2.7. Схема формирования многомодульной НС пб |