Cтраница 2
Обучение должно начинаться при различных случайно выбираемых начальных значениях весов и ( при необходимости) параметров правила обучения. [16]
Для каждого входного примера задан требуемый выход d, который может не совпадать с реальным у. Правило обучения при коррекции по ошибке состоит в использовании разницы ( d - у) для изменения весов, с целью уменьшения ошибки рассогласования. Обучение производится только в случае ошибочного результата. Известны многочисленные модификации этого правила обучения. [17]
Чаще всего под правилами обучения понимают те руководящие положения, которые раскрывают отдельные стороны применения того или иного принципа обучения. [18]
Если мы просто поместим несколько нейронов в выходной слой и будем обучать каждый из них независимо от других; мы добьемся лишь многократного дублирования одного и того же выхода. Очевидно, что для получения нескольких содержательных признаков на выходе исходное правило обучения должно быть каким-то образом модифицировано - за счет включения взаимодействия между нейронами. [19]
Наилучшая особь из последнего поколения считается искомым решением данной задачи. Таким образом получается наилучшее множество весов, наилучшая архитектура либо наилучшее правило обучения. [20]
Это, обычно, многослойные персептроны с одним или несколькими правилами обучения. Исключение составляет вполне профессиональный Штутгартский симулятор с большим набором возможностей, работающий, правда, только на UNIX-машинах. [21]
Возможно, именно это помешало ему найти эфективный алгоритм обучения, хотя сам термин Back Propagation восходит к его попыткам обобщить свое правило обучения одного нейрона на многослойную сеть. Как знать, используй Розенблатт вместо ступенчатой функции активации - сигмоидную, может быть его судьба сложилась бы по-другому. [22]
![]() |
Автоассоциативная сеть с узким горлом - аналог правила обучения Ойа.| Слой линейных нейронов. [23] |
Единственный нейрон осуществляет предельное сжатие многомерной информации, выделяя лишь одну скалярную характеристику многомерных данных. Каким бы оптимальным ни было сжатие информации редко когда удается полностью охарактеризовать многомерные данные всего одним признаком. В этом разделе мы обобщим найденное ранее правило обучения на случай нескольких нейронов в самообучающемся слое, опираясь на отмеченную выше аналогию с автоассоциативными сетями. [24]
Схема хромосомного представления в случае эволюции правил обучения должна отражать динамические характеристики. Статические параметры ( такие как архитектура или значения весов сети) кодировать значительно проще. Попытка создания универсальной схемы представления, которая позволила бы описывать произвольные виды динамических характеристик нейронной сети, заведомо обречена на неудачу, поскольку предполагает неоправданно большой объем вычислений, требуемых для просмотра всего пространства правил обучения. По этой причине на тип динамических характеристик обычно налагаются определенные ограничения, что позволяет выбрать общую структуру правила обучения. [25]
Нейронно-сетевой подход реализуется с помощью нейронных сетей, являющихся мощнейшим инструментом поиска закономерностей, прогнозирования, качественного анализа. Нейронные сети представляют собой самообучающиеся системы, имитирующие деятельность человеческого мозга. Они так же, как и мозг человека, состоят из большого числа связанных между собой однотипных элементов-нейронов, которые имитируют нейроны головного мозга. Искусственный нейрон состоит из синапсов, связывающих входы нейрона с ядром, ядро нейрона, которое осуществляет обработку входных сигналов, и аксона, который связывает нейрон с нейронами следующего слоя. Каждый синапс имеет вес, который определяет, насколько соответствующий вход нейрона влияет на его состояние. Многослойная нейронная сеть характеризуется топологией, свойствами узлов ( единичных нейронов), а также правилами обучения или тренировки для получения желаемого выходного сигнала. Каждый нейрон произвольного слоя связан со всеми аксонами нейронов предыдущего слоя или, в случае первого слоя - со всеми входами нейронной сети. [26]