Многослойная сеть

Cтраница 5

Сеть встречного распространения имеет два слоя с последовательными связями. Первый слой - слой Кохонена, второй - слой Гроссберга. Каждый элемент входного сигнала подается на все нейроны слоя Кохонена. Каждый нейрон слоя Кохонена соединен со всеми нейронами слоя Гроссберга. Отличие сети встречного распространения от других многослойных сетей с последовательными связями состоит в операциях, выполняемых нейронами Кохонена и Гроссберга. [61]

Двухслойный перцептрон может выполнять операцию логического И над полупространствами, образованными гиперплоскостями первого слоя весов. Это позволяет формировать любые выпуклые области в пространстве входных сигналов. С помощью трехслойного перцептрона, используя логическое ИЛИ для комбинирования выпуклых областей, можно получить области решений произвольной формы и сложности, в том числе невыпуклые и несвязные. Пейперт, однако они сомневались, что для таких процедур можно открыть мощный аналог процедуры обучения простого перцептрона. В настоящее время в результате возрождения интереса к многослойным сетям предложено несколько таких процедур. Одной из них является алгоритм обратного распространения ошибки, который будет рассмотрен ниже. [62]

Нейронная сеть с перекрестными связями.| Нейронная сеть с обратными связями. [63]

На рис. 7.6 представлена однослойная сеть с ортогональными связями между нейронами. В этой сети любой из нейронов может быть входным и любой может быть выходным. На рис. 7.7 представлена сеть с прямыми связями. На рис. 7.8 показана многослойная, в частности трехслойная сеть. Число скрытых слоев в общем случае может быть несколько. В многослойных сетях, как правило, нейроны одного слоя имеют функцию активации одного типа. На рис. 7.9 представлена нейронная сеть с перекрестными связями. Число связей может быть и больше, чем показано на рисунке. Обратные связи могут быть как с выходного слоя на входной, так и с внутренних ( скрытых) слоев на входной. [64]

Персептрон со многими выходами. [65]

Первоначальная эйфория сменилась разочарованием, когда оказалось, что персептроны не способны обучиться решению ряда простых задач. Минский [2] строго проанализировал эту проблему и показал, что имеются жесткие ограничения на то, что могут выполнять однослойные персептроны, и, следовательно, на то, чему они могут обучаться. Так как в то время методы обучения многослойных сетей не были известны, исследователи перешли в более многообещающие области, и исследования в области нейронных сетей пришли в упадок. [66]

Страницы: 1 2 3 4 5