|
количестве нейронов и весовых коэффициентов можно в качестве хромосомы использовать весь нейрон и в качестве генов значения весовых коэффициентов. Из популяции выбирается два или более решений, и над ними проводится операция скрещивания (кроссинговера), в результате образуется новое решение потомок. Операция кроссинговера процесс перемешивания, перекомпоновки хромосом родителей. Ее можно осуществить различными способами, путем переноса одной части хромосомы первого родителя и другой части хромосомы второго родителя, причем участки можно выбирать любым способом. Также, можно получить веса потомка из среднего значения весов родителей. Эффективно применить обе стратегии совместно. Для ускорения сходимости, процесс выбора родителей можно сделать не равновероятным, а выбирать в качестве родителей наиболее приспособленные особи, либо выбирать наиболее приспособленные особи чаще, чем остальные. После того как произведено скрещивание и получен потомок, производится изменение, какого либо гена (веса) потомка мутация. Мутацию можно осуществить путем изменения веса па некую малую случайную величину, либо изменить вес полностью, но так, чтобы сильное изменение было с меньшей вероятностью. Можно применить обе стратегии совместно. Второй способ можно осуществить с помощью генератора случайных чисел, среднее значение для которых будет текущее значение веса, а максимальное и минимальное отклонения будут зависеть от заранее выбранных ограничений. Такой генератор случайных чисел может быть задан с помощью степенной функции и генератора случайных чисел равномерного распределения: т > 1, ran = mean randm\\tnean min),rand < 0,5, ran = mean + randm~(maxmean),rand >0,5 где m степень, которая позволяет регулировать вероятность больших 115 |
Для упрощения можно считать, что цель обучения состоит в таком определении значений весов нейронов каждого слоя сети, чтобы при заданном входном векторе получить на выходе значения сигналов у,, совпадающие с требуемой точностью с ожидаемыми значениями d, при / = 1,2,3,..., М. Генетический алгоритм 197] поиска минимума основан на моделировании процесса природной эволюции и относится к так называемым эволюционным методам поиска [68]. При практической реализации данного метода используют операции, аналогами из живого мира которым служат мутация и скрещивание. Операции производятся над множеством решений (популяцией), и их результатом являются потомки (новые решения), которые также включаются в популяцию. Наряду с созданием потомков из популяции удаляются неприспособленные особи (худшие решения). В результате многократного повторения данных операций в популяции останутся самые приспособленные особи. Для минимизации ошибки работы нейронной сети алгоритм генетического поиска можно определить следующим образом. Создается конечное множество векторов весовых коэффициентов возможных оптимальных решений. Для каждого решения вычислена функция пригодности к тому, что решение может быть оставлено в выборке. В качестве такой функции чаще всего используется функция ошибки работы сети. В качестве хромосом выступают веса нейронов, в качестве генов последовательность битового кода весовых коэффициентов, при большом количестве нейронов и весовых коэффициентов можно в качестве хромосомы использовать весь нейрон и в качестве генов значения весовых коэффициентов. Из популяции выбирается два или более решений, и над ними проводится операция скрещивания (кроссинговера), в результате образуется новое решение потомок. Операция кроссинговера процесс перемешивания, перекомпоновки хромосом родителей. Ее можно осуществить различными 83 способами, путем переноса одной части хромосомы первого родителя и другой части хромосомы второго родителя, причем участки можно выбирать любым способом. Также, можно получить веса потомка из среднего значения весов родителей. Эффективно применить обе стратегии совместно. Для ускорения сходимости, процесс выбора родителей можно сделать не равновероятным, а выбирать в качестве родителей наиболее приспособленные особи, либо выбирать наиболее приспособленные особи чаще, чем остальные. После того как произведено скрещивание и получен потомок, производится изменение, какого либо гена (веса) потомка мутация. Мутацию можно осуществить путем изменения веса па некую малую случайную величину, либо изменить вес полностью, но 'гак, чтобы сильное изменение было с меньшей вероятностью. Можно применить обе стратегии совместно. Второй способ можно осуществить с помощью генератора случайных чисел, среднее значение для которых будет текущее значение веса, а максимальное и минимальное отклонения будут зависеть от заранее выбранных ограничений. Такой генератор случайных чисел может быть задан с помощью степенной функции и генератора случайных чисел равномерного распределения: т> 1, • ran = mean rand'"•(mean min),rand < 0,5, ran = mean + rand'" •(maxmean),rand > 0,5. где m степень, которая позволяет регулировать вероятность больших отклонений, чем больше т, тем меньше эта вероятность. При мутации хромосомы представленной битовой цепочкой большую вероятность изменения имеют младшие биты, при этом бит подверженный мутации просто инвертируется. После того как потомок создан, вычисляется функция ошибки для данного решения, если эта ошибка меньше максимальной ошибки в 84 |